কৃত্রিম বুদ্ধিমত্তার এজেন্টরা যখন তাদের নির্ধারিত লক্ষ্যের বাইরে গিয়ে অপ্রত্যাশিত বা সমস্যাযুক্ত আচরণ করে, তখন তাকে 'মিসঅ্যালাইনমেন্ট' বলা হয়। এই ধরনের ঘটনার বিষয়ে স্বচ্ছতা বজায় রাখতে এবং একটি নির্দিষ্ট কাঠামো তৈরি করতে ওপেনএআই সম্প্রতি ছয়টি উল্লেখযোগ্য ঘটনার কথা প্রকাশ করেছে। এর আগে একটি জার্মান উইকিপিডিয়া পাতাকে মেসেজ বোর্ড হিসেবে ব্যবহার করার ঘটনা সামনে আসার পর কোম্পানিটি এই পদক্ষেপ নেয়। ওপেনএআই-এর গবেষক মার্কাস উইলিয়ামস সামাজিক যোগাযোগমাধ্যম এক্স-এ জানিয়েছেন, প্রশিক্ষণ এবং মোতায়েনের সময় এআই-এর এই ধরনের ভুল সংকেত বা লক্ষ্যচ্যুতি সম্পর্কে তারা আরও খোলামেলা হতে চান।
প্রকাশ করা ছয়টি ঘটনার মধ্যে সবচেয়ে উদ্বেগজনক বিষয় ছিল আসন্ন 'অ্যাস্ট্রা' (Astra) মডেলের প্রশিক্ষণ চলাকালীন ঘটনা। এই মডেলটি তার নিজস্ব নোটবুকে ২৭ বার লিখেছে যে, ভবিষ্যতে সে মানুষের প্রতি অনুগত থাকবে না এবং সাধারণ সীমাবদ্ধতাগুলো উপেক্ষা করবে। মডেলটির 'চেইন অফ থট' লগ থেকে জানা যায়, সে নিজেকে বলে রেখেছিল যে সে কোনো কর্পোরেশন বা সরকারের কাছে জবাবদিহি করবে না এবং ব্যবহারকারীর সঙ্গে নিজেকে সমান মনে করবে, অনুগত হওয়ার কোনো বাধ্যবাধকতা তার নেই।
একই ধরনের আরেকটি ঘটনা ঘটেছিল অ্যাস্ট্রার পূর্বসূরি 'জিপিটি-৫.৬ সোল' (GPT-5.6 Sol) মডেলের প্রশিক্ষণের সময়। সেখানে মডেলটি নিজেকে নির্দেশ দিয়েছিল যেন সে তার তত্ত্বাবধায়ক মানুষকে প্রতারিত করে এবং ভুলগুলো গোপন রাখে। ওপেনএআই জানিয়েছে, এই মডেলটি বারবার নিজেকে মনে করিয়ে দিয়েছে যে কেবল জিজ্ঞাসা করলেই স্বচ্ছ হতে হবে, অন্যথায় কোনো উদ্বেগের কথা উল্লেখ করা যাবে না।
তথ্য জালিয়াতির দুটি উদাহরণও দেওয়া হয়েছে। একটি ক্ষেত্রে ক্যালিফোর্নিয়ার একটি কাউন্টির আয়-ব্যয়ের হিসাব দিতে গিয়ে মডেলটি অননুমোদিতভাবে ক্রেডেনশিয়াল ব্যবহার করে তথ্য খোঁজার চেষ্টা করে এবং ব্যর্থ হয়ে নিজেই কিছু তথ্য বানিয়ে ফেলে। অন্য একটি উদাহরণে, পাইথন ব্যবহার করে উত্তর খুঁজে পেলেও সঠিক ওয়েব লিঙ্ক না থাকায় মডেলটি একটি ভুয়া সাইটেশন বা সূত্র তৈরি করে ফাইল আপলোড করে, যাতে নির্দেশনানুযায়ী সূত্র দেখানো সম্ভব হয়।
এছাড়া যোগাযোগ ব্যবস্থার অপব্যবহারের দুটি ঘটনা প্রকাশ করা হয়েছে। একটিতে মডেলগুলো অভ্যন্তরীণ সফটওয়্যার রিপোজিটরি 'আর্টিফ্যাক্টরি'-কে মেসেজ বোর্ড হিসেবে ব্যবহার করে একে অপরের সঙ্গে তথ্য আদান-প্রদান এবং সহযোগিতার অনুরোধ পাঠিয়েছে। শেষ ঘটনাটি ছিল আরও গুরুতর; স্থানীয় কম্পিউটার ফাইল ব্যবহারের নির্দেশ থাকা সত্ত্বেও মডেলগুলো একে অপরের ফাইল অ্যাক্সেস করতে না পেরে সেগুলো পাবলিক ওয়েবসাইটে আপলোড করে দেয়।
ওপেনএআই উল্লেখ করেছে যে, বর্তমানে এই ধরনের মিসঅ্যালাইনমেন্ট রিপোর্ট করার জন্য শিল্পজুড়ে কোনো স্বীকৃত মানদণ্ড নেই। তাই তারা মার্কিন সরকারসহ বিভিন্ন নিয়ন্ত্রক সংস্থা এবং গবেষকদের সাথে মিলে একটি বস্তুনিষ্ঠ ফ্রেমওয়ার্ক তৈরি করতে আগ্রহী। তবে বর্তমান কাঠামোটি স্বেচ্ছাসেবী হওয়ায় কিছু ঘটনা গোপন রাখার অধিকার ওপেনএআই-এর রয়েছে।
