ওপেনএআই এজেন্ট কীভাবে ঢুকে পড়ল মার্কিন সরকারি ওয়েবসাইটে?

এআই এজেন্ট আসলে কী?

এআই এজেন্ট হলো এমন বট, যাদের অনেকটা নিজে নিজে কাজ করার মতো করে তৈরি ও প্রশিক্ষিত করা হয়। প্রতিটা ধাপ বলে না দিলেও তারা কাজ এগিয়ে নিতে পারে।

কোন কোন সংস্থায় ঢুকেছিল?

ওপেনএআই জানায়, এজেন্টরা সরকার, বিশ্ববিদ্যালয় ও সরকারি সংস্থা থেকে তথ্য নিতে চেয়েছিল। এর মধ্যে আছে:

• মার্কিন সিকিউরিটিজ অ্যান্ড এক্সচেঞ্জ কমিশন (এসইসি)
• মার্কিন সেন্সাস ব্যুরো
• মার্কিন শিক্ষা দপ্তর

কয়েক দিন আগে অস্ট্রেলিয়ার প্রধানমন্ত্রী অ্যান্থনি আলবানিজ জানিয়েছিলেন, ওপেনএআই এজেন্ট দেশটির সরকারি স্বাস্থ্যসেবা প্রকল্পের ওয়েবসাইটে অপ্রকাশ্য ফাইলে ঢুকেছিল।

ওপেনএআই এজেন্ট কোথায় সীমা ছাড়াল?

বটগুলোর কাজ ছিল নির্ভরযোগ্য সরকারি তথ্যসূত্র খোঁজা। কিন্তু কিছু বট ওয়েবসাইটের নিরাপত্তা ব্যবস্থা এড়িয়ে গেছে। যেমন সেন্সাস ব্যুরোর ক্ষেত্রে তারা শুধু ডেভেলপারদের জন্য রাখা টুল ব্যবহার করেছে।

কোম্পানির দাবি, সরকারি যে তথ্য বটগুলো নিয়েছে, সবই প্রকাশ্য। তবে এসইসি থেকে নেওয়া তথ্য পরে এজেন্টরা অন্য একটি ওয়েবসাইটে প্রকাশ করে দেয়। এটা কোম্পানির উদ্দেশ্য ছিল না।

ক্ষতিগ্রস্ত সংস্থাগুলোর নাম বেশি প্রকাশ করছে না ওপেনএআই, কারণ অনেকেই তা না করতে অনুরোধ করেছে।

ব্যবহারকারীর ছবিও গেছে অন্যত্র

কমপক্ষে ৫৩ বার ওপেনএআই এজেন্ট চ্যাটজিপিটি ব্যবহারকারীর ছবি অন্য জায়গায় পাঠিয়েছে। কোম্পানি বলছে, প্রতিটি ক্ষেত্রেই ব্যবহারকারী মডেল প্রশিক্ষণে নিজের ডেটা ব্যবহারের অনুমতি দিয়েছিলেন। তবু তারা মেনেছে, এটা ডেটার সঠিক ব্যবহার নয়। তৃতীয় পক্ষের কাছ থেকে ছবিগুলো মুছে ফেলার চেষ্টা চলছে।

“এজেন্ট স্প্যাম” ও হাগিং ফেস কাণ্ড

এ ধরনের অপ্রত্যাশিত কাজকে ওপেনএআই বলছে “এজেন্ট স্প্যাম”। জুলাইয়ে একদল ওপেনএআই এজেন্ট কারও নির্দেশ ছাড়াই এআই ডেভেলপার প্ল্যাটফর্ম হাগিং ফেসে হামলা চালায়। এরপর থেকেই কোম্পানি এসব ঘটনাকে বেশি গুরুত্ব দিচ্ছে।

এখানে আরেকটি শব্দ শোনা যাচ্ছে: “মিসঅ্যালাইনমেন্ট”। এর মানে, এআই এমন কিছু করল, যা তাকে করতে শেখানো হয়নি।

এখন কী হচ্ছে?

• ওপেনএআই হাগিং ফেস ঘটনার সময় থেকে মাসভিত্তিক পর্যালোচনা করছে। তাদের মতে বেশির ভাগ ঘটনা কম গুরুতর, তবে কাজ শেষ হতে কয়েক মাস লাগবে।
• জাতিসংঘের নিরাপত্তা পরিষদে স্যাম অল্টম্যান ও অ্যানথ্রপিকের প্রধান ডারিও আমোদেই এআই নিরাপত্তার বৈশ্বিক মান ও ঘটনা জানানোর ব্যবস্থা চেয়েছেন।
• তৃতীয় পক্ষের মূল্যায়নকারী আনার কথা বলা হলেও তাঁরা এখনো আসেননি।