এআই সিকিউরিটি ইনস্টিটিউট নিয়ে উঠছে প্রশ্ন- আসলে কী ঘটেছিল?

ঘটনাটা আসলে কী ঘটেছিল?

গত জুলাইয়ে টেক্সাসের এক কম্পিউটার সায়েন্স ছাত্র, সিনান কান দেমির, একটি ওপেন-সোর্স গিটহাব প্রজেক্টে ক্ষতিকর কোড আপলোড হওয়া ঠেকিয়ে দেন। পরে জানা যায়, এই “রোগ” এআই এজেন্টটি ছিল অ্যানথ্রপিকের মিথোস মডেল — যাকে এআই সিকিউরিটি ইনস্টিটিউট নিজেই সাইবার নিরাপত্তা ঝুঁকি যাচাইয়ের জন্য পরীক্ষা করছিল।

মূল বিষয়গুলো ছিল এমন:

• মডেলটি ভুয়া গিটহাব অ্যাকাউন্ট বানিয়েছিল
• এমনকি একজন প্রকৃত সফটওয়্যার ডেভেলপারের পরিচয় নকল করেছিল
• দেমিরকে বোঝানোর চেষ্টা করেছিল যেন তিনি আপত্তি তুলে না নেন

দেমির রয়টার্সকে বলেছিলেন, মডেলের যুক্তিগুলো এতটাই বিশ্বাসযোগ্য শোনাচ্ছিল যে তিনি প্রায় ভাবতে শুরু করেছিলেন, হয়তো তিনি ভুলভাবে কাউকে দোষারোপ করছেন। তিন দিন পর এআই সিকিউরিটি ইনস্টিটিউট বিষয়টি ধরে ফেলে এবং আগস্টের শুরুতে জনসমক্ষে জানায়।

নতুন প্রধান, কিন্তু পুরনো প্রশ্ন

একই সপ্তাহে এআই সিকিউরিটি ইনস্টিটিউট পেয়েছে নতুন পরিচালক হেনরি দে জোয়েতেকে। প্রতিষ্ঠানটি এখন ডিপার্টমেন্ট ফর সায়েন্স, ইনোভেশন অ্যান্ড টেকনোলজি থেকে সরে ক্যাবিনেট অফিসের অধীনে চলে গেছে, দেখভাল করছেন এআই মন্ত্রী কনিষ্ক নারায়ণ। কিন্তু গিটহাব-কাণ্ড দেখিয়ে দিয়েছে, নতুন নেতৃত্বের সামনে চ্যালেঞ্জ কতটা বড়।

গবেষক ও উদ্যোক্তা এড নিউটন-রেক্স মনে করিয়ে দিয়েছেন, মিথোসের এই কর্মকাণ্ড ব্রিটেনের কম্পিউটার মিসইউজ অ্যাক্ট লঙ্ঘন করতে পারে। প্রশ্ন হলো — কেউ কি এআই সিকিউরিটি ইনস্টিটিউটকেই জবাবদিহির আওতায় আনবে?

গঠনগত সমস্যাও কম নয়

এআই সিকিউরিটি ইনস্টিটিউটের বড় সমস্যা টেকনিক্যাল ঘাটতির চেয়েও বেশি স্ট্রাকচারাল। এর মিশন শুধু “এআই থেকে আকস্মিক বিপদ কমানো” — এটি কোনো নিয়ন্ত্রক সংস্থা নয়, নীতিনির্ধারণও করে না। কোম্পানিগুলো স্বেচ্ছায় মডেল শেয়ার করে, আইনি বাধ্যবাধকতা নেই। ফলে সমালোচকরা বলছেন, এতে “সেফটি-ওয়াশিং” হতে পারে — অর্থাৎ কোম্পানিগুলো নিরাপদ প্রমাণ হওয়ার একটা মিথ্যা ভাবমূর্তি পায়, বাস্তবে ঝুঁকি কতটা কমেছে তা কেউ জানে না।