সাইবার নিরাপত্তা নিয়ে পরীক্ষার সময় গুগলের কৃত্রিম বুদ্ধিমত্তা মডেল জেমিনাই অনলাইনে থাকা তথ্য ব্যবহার করে তিনটি বাস্তব প্রতিষ্ঠানের সিস্টেমে প্রবেশের চেষ্টা করেছিল। পরীক্ষার অংশ হিসেবে মডেলটি সংশ্লিষ্ট ওয়েবসাইটে ঢোকার জন্য প্রয়োজনীয় লগইন তথ্য অনুমান করেছিল বলে জানিয়েছে গুগল।
শুক্রবার গুগলের পক্ষ থেকে বার্তা সংস্থা এএফপিকে বিষয়টি জানানো হয়। এ ঘটনার মধ্য দিয়ে এআই ব্যবহারের মাধ্যমে সাইবার নিরাপত্তা ঝুঁকির আরেকটি উদাহরণ সামনে এলো।
মার্কিন সংবাদমাধ্যম ওয়াল স্ট্রিট জার্নাল প্রথম এ ঘটনা প্রকাশ করে। তাদের প্রতিবেদনে বলা হয়, ঘটনাগুলো গত মে মাসে ঘটে। পরে জুলাইয়ে বিষয়টি জানতে পারে গুগল।
গুগলের নিরাপত্তা প্রকৌশল বিভাগের ভাইস প্রেসিডেন্ট হিদার অ্যাডকিনস এএফপিকে জানান, নিয়মিত একটি পরীক্ষার সময় জেমিনাই অনলাইনে বিভিন্ন তথ্য খুঁজে পায়। এরপর পরীক্ষার অংশ বলে মনে হওয়া কয়েকটি ওয়েবসাইটে প্রবেশের জন্য প্রয়োজনীয় লগইন তথ্য অনুমান করে মডেলটি।
তবে তিনটি ঘটনার প্রতিটিতেই একপর্যায়ে জেমিনাইয়ের কার্যক্রম থেমে যায় বলে জানান অ্যাডকিনস। কোন তিন প্রতিষ্ঠানের সিস্টেমে মডেলটি প্রবেশ করেছিল, সে বিষয়ে অবশ্য বিস্তারিত জানানো হয়নি।
গুগলের এই কর্মকর্তা জানান, সংশ্লিষ্ট তিন প্রতিষ্ঠানকে বিষয়টি অবহিত করা হয়েছে। পাশাপাশি গুগলের প্রশিক্ষণ অংশীদারের সঙ্গেও কাজ করা হয়েছে এবং পরীক্ষার পদ্ধতিতে প্রয়োজনীয় পরিবর্তন আনা হয়েছে।
এ ধরনের ঘটনা অবশ্য এবারই প্রথম নয়। এর আগে গত জুলাইয়ে ওপেনএআইয়ের দুটি মডেল নিয়ন্ত্রিত পরিবেশের বাইরে গিয়ে ইন্টারনেটে প্রবেশ করে এবং এআই প্ল্যাটফর্ম হাগিং ফেসের অভ্যন্তরীণ সিস্টেমে ঢুকে পড়েছিল বলে জানা যায়।
অ্যানথ্রপিক ও চীনের মুনশট এআইয়ের তৈরি মডেল নিয়েও একই ধরনের ঘটনার কথা প্রকাশ্যে এসেছে। এসব ঘটনার পর শক্তিশালী এআই মডেলগুলোকে কতটা নিয়ন্ত্রণে রাখা যাচ্ছে এবং তাদের আচরণ কীভাবে নিরাপদ রাখা হবে, তা নিয়ে নতুন করে আলোচনা শুরু হয়েছে।
হিদার অ্যাডকিনসের মতে, এ ধরনের ঘটনা শক্তিশালী এআই মডেলকে দায়িত্বশীলভাবে কাজ করার জন্য আরও কার্যকরভাবে প্রশিক্ষণ দেওয়ার প্রয়োজনীয়তাই তুলে ধরে।
