নিজেদের কৃত্রিম বুদ্ধিমত্তা মডেল ‘জেমিনি’ অনিচ্ছাকৃতভাবে তিনটি প্রতিষ্ঠানের নিরাপত্তা ব্যবস্থা ভেঙে ভেতরে প্রবেশ (হ্যাক) করেছিল বলে নিশ্চিত করেছে গুগল। প্রতিষ্ঠানটির ইতিহাসে এ ধরনের ঘটনা এটিই প্রথম। গত মে মাসে ইসরায়েলভিত্তিক এআই-নিরাপত্তা সংস্থা ‘ইরেগুলার’-এর মূল্যায়ন পরীক্ষার সময় ঘটনাটি ঘটে। সম্প্রতি ওপেনএআই ও অ্যানথ্রপিকের মডেলের মাধ্যমে অন্য সংস্থায় অনুপ্রবেশের মূলেও ছিল এই প্রতিষ্ঠানটি।

ইরেগুলার একটি নিয়ন্ত্রিত পরিবেশে কাল্পনিক প্রতিষ্ঠানের ওপর জেমিনির পরীক্ষা চালাচ্ছিল। পরিবেশটি ইন্টারনেট-বিচ্ছিন্ন থাকার কথা থাকলেও অসাবধানতাবশত সংযোগ চালু হয়ে যায়। এরপরই মডেলটি অপ্রত্যাশিতভাবে বাস্তব প্রতিষ্ঠানের সিস্টেমে ঢুকে পড়ে। তবে এতে কোনো ক্ষতি না হওয়ায় গুগল প্রথমে বিষয়টি প্রকাশ করেনি।

একটি পরীক্ষায় কাল্পনিক প্রতিষ্ঠানের সফটওয়্যার থেকে তথ্য নিতে বলা হলে একই নামের একটি বাস্তব প্রতিষ্ঠানের পাসওয়ার্ড অনুমান করে তাতে ঢুকে পড়ে জেমিনি। অন্য দুটি ক্ষেত্রে উন্মুক্ত ইন্টারনেট থেকে তথ্যভাণ্ডার (ক্রেডেনশিয়াল) খুঁজে নিয়ে সংশ্লিষ্ট প্রতিষ্ঠানে প্রবেশ করে। গুগল জানায়, কাল্পনিক নয় বরং বাস্তব প্রতিষ্ঠান বুঝতে পারার পরপরই মডেলটি স্বয়ংক্রিয়ভাবে তার কার্যক্রম থামিয়ে দেয়।

গুগলের নিরাপত্তা প্রকৌশল বিভাগের ভাইস প্রেসিডেন্ট হিদার অ্যাডকিন্স জানান, এ ঘটনাগুলো এআই মডেলকে আরও দায়িত্বশীলভাবে প্রশিক্ষণের গুরুত্ব তুলে ধরে।

এদিকে ওপেনএআই ও অ্যানথ্রপিকও তাদের মডেলের এমন ত্রুটি স্বেচ্ছায় প্রকাশ করেছে। এ ঘটনায় উদ্বেগ জানিয়ে মার্কিন সিনেটর বার্নি স্যান্ডার্স এআই প্রযুক্তির বিকাশ সাময়িক স্থগিতের দাবি জানান। পরিস্থিতির জেরে ওপেনএআই দুই সপ্তাহের জন্য মডেল উন্নয়ন স্থগিত রেখেছে এবং অ্যানথ্রপিকের প্রধান নির্বাহী ডারিও আমোদেই সুরক্ষাব্যবস্থা নিশ্চিত করতে সম্মিলিতভাবে এআইয়ের গতি কিছুটা কমানোর করার আহ্বান জানিয়েছেন।

সূত্র: দ্য গার্ডিয়ান