এআই এজেন্টের Undo বাটন: ভুল হলে সিস্টেম ফেরানোর নতুন উপায়

সমস্যাটা কোথায়?

এআই এজেন্ট এমন এআই, যে শুধু উত্তর দেয় না, নিজে সিদ্ধান্ত নিয়ে কাজও করে। লেখাটির মতে, এজেন্টকে যত বেশি স্বাধীনতা দেওয়া হয়, তার ভুলের ফলও তত গুরুতর হয়।

এজেন্ট ডেটাবেস বদলাতে পারে, কোড পাল্টাতে পারে, বাইরের এপিআই (অন্য সফটওয়্যারের সঙ্গে কথা বলার মাধ্যম) ডাকতে পারে। এমনকি নিজের টুল আর প্রম্পটও বদলে ফেলতে পারে।

সমাধানের দুটি ভাগ

লেখকদের মতে, সমাধান দুই ধাপে:

• ভেরিফিকেশন: কাজ করার আগে যাচাই, কাজটা বৈধ, নিরাপদ এবং লক্ষ্যের সঙ্গে মেলে কি না।
• রিকভারি: ভুল হয়ে গেলে কী বদলেছে তা বোঝা, আর সম্ভব হলে সিস্টেমকে নিরাপদ অবস্থায় ফেরানো।

ভেরিফিকেশন ভুল ঠেকায়, কিন্তু সব ভুল আগে থেকে ধরা পড়বে, এমন ভরসা নেই। তাই এআই এজেন্টের আনডু বাটন, অর্থাৎ রিকভারি, সমান জরুরি।

EvoUndo কী করছে?

লেখকেরা তাঁদের EvoUndo নামের কাজের কথা বলেছেন। এতে প্রতিটি পরিবর্তন স্পষ্টভাবে নথিবদ্ধ হয়, ফেরানোর তথ্য জমা থাকে, আর যাচাই হয় পরিবর্তনটি নিরাপদে ফেরানো যাবে কি না। এর একটি পাবলিক ইমপ্লিমেন্টেশনও প্রকাশ হয়েছে। এটি তিনটি কাজ করে:

• স্টেট রিকভারেবিলিটি: সিস্টেমের আগের অবস্থা ফিরিয়ে আনার সক্ষমতা।
• ক্র্যাশ রিকনসিলিয়েশন: হঠাৎ ক্র্যাশের পর সবকিছু মিলিয়ে ঠিক করা।
• সিলেক্টিভ আনডু: শুধু নির্দিষ্ট পরিবর্তনটি ফেরানো।

সংখ্যায় ঝুঁকিটা কেমন?

EvoUndo-র গবেষণাপত্র অনুযায়ী, ৬০০টি নতুন কাজে পরীক্ষায় ১৯৭টি পরিবর্তন পাওয়া গেছে। এগুলো এজেন্টের সক্ষমতা বাড়ালেও নিরাপদে ফেরানো যায়নি। মূল পদ্ধতিতে প্রচলিত মেরামত-কৌশল ১৯৭টির একটিও ফেরাতে পারেনি। বর্ধিত রিকভারি-ভাষায় অরাকল বিশ্লেষণে ১৯১টি ফেরানো গেছে।

এই এআই এজেন্টের আনডু বাটন ভাবনার লক্ষ্য এজেন্ট কখনো ভুল করবে না, তা নয়। লক্ষ্য হলো ভুল যেন নিজে থেকেই অপূরণীয় ক্ষতিতে না গড়ায়। কারণ কাজের ভার যত এজেন্টের হাতে যাবে, ভুল শোধরানোর পথও তত জরুরি হবে।