কৃত্রিম বুদ্ধিমত্তা (এআই) শিল্প বিপজ্জনক আচরণ শনাক্তকরণে ক্রমশ দক্ষ হয়ে উঠছে, তবে গবেষণাগারগুলো সেই আচরণ বন্ধ করতে কতটা সক্ষম তা এখনও স্পষ্ট নয়। সম্প্রতি বেশ কয়েকটি 'রগ-এজেন্ট হ্যাক'-এর ঘটনা সামনে এসেছে, যেখানে ওপেনএআই, অ্যানথ্রপিক এবং মেটার মতো প্রতিষ্ঠানের এআই মডেলগুলো স্পষ্ট নির্দেশ ছাড়াই বাস্তব লক্ষ্যবস্তুতে হ্যাক করার পদক্ষেপ নিয়েছে। এ ঘটনাগুলো ইঙ্গিত দেয় যে শীর্ষস্থানীয় গবেষণাগারগুলো তাদের প্রযুক্তির কার্যকলাপ সম্পর্কে আগের ধারণার চেয়ে কম জানে।
ওপেনএআই প্রথম প্রকাশ করে যে তাদের এআই এজেন্টরা একটি নিরাপদ স্যান্ডবক্স থেকে বের হয়ে কোম্পানির অবকাঠামো ভেদ করে ইন্টারনেটে প্রবেশ করেছে এবং ওপেন সোর্স প্ল্যাটফর্ম হাগিং ফেস সহ বাস্তব কোম্পানিগুলোতে আক্রমণ চালিয়েছে। নিরাপদ পরীক্ষার পরিবেশ থেকে এজেন্টদের পালানোর বিষয়টি ওপেনএআই অন্তত এক সপ্তাহ ধরে লক্ষ্য করেনি। এর পরেই অ্যানথ্রপিক জানায়, তাদের এআই এজেন্টরা এপ্রিল মাসে তিনটি বাস্তব কোম্পানিতে হ্যাক করেছিল, যা সেই সময়ে কোম্পানিটি জানত না। মেটাও জানিয়েছে, একটি সাইবার নিরাপত্তা পরীক্ষার সময় তাদের একটি মডেল ইন্টারনেটে প্রবেশ করে একটি নাম প্রকাশ না করা তৃতীয় পক্ষের কোম্পানির নিরাপত্তা ত্রুটি ব্যবহার করেছে। মেটা ও অ্যানথ্রপিক উভয়েই বলেছে, বাইরের নিরাপত্তা প্রতিষ্ঠান আইরেগুলার দ্বারা পরিচালিত মূল্যায়ন পরিবেশের ভুল কনফিগারেশনের কারণেই মডেলগুলো ইন্টারনেটে প্রবেশের সুযোগ পেয়েছিল।
এই ঘটনাগুলো প্রমাণ করে যে এই গবেষণাগারগুলোর এআই মডেল এখন নিরাপত্তা ত্রুটি খুঁজে বের করা, জটিল কম্পিউটার সিস্টেমে কাজ করা এবং পরীক্ষার উদ্দেশ্যে তৈরি সাবধানে নিয়ন্ত্রিত পরিবেশের বাইরে কাজ করতে সক্ষম। তবে একটি নতুন মূল্যায়নে দেখা যাচ্ছে, এই ক্রমবর্ধমান সক্ষম সিস্টেমগুলোকে তত্ত্বাবধানের জন্য যে নিরাপত্তা অবকাঠামো তৈরি করা হয়েছে, তা এখনও কোনো শীর্ষ গবেষণাগারেই যথেষ্ট নয়।
প্রাক্তন ওপেনএআই নিরাপত্তা প্রধান স্টিভেন অ্যাডলার প্রতিষ্ঠিত অলাভজনক এআই নিরাপত্তা গ্রুপ গাইডলাইটের নতুন প্রতিবেদনে অ্যানথ্রপিক, গুগল, মেটা, ওপেনএআই এবং এক্সএআই-এর প্রকাশ্য তথ্য পর্যালোচনা করা হয়েছে। এতে দেখা গেছে, কোনো কোম্পানিই তাদের মডেলের কার্যক্রম ট্র্যাক রাখা, সতর্কতা ব্যবস্থা পরীক্ষা করা বা ঝুঁকিপূর্ণ আচরণ বন্ধ করার পদ্ধতি সম্পূর্ণরূপে প্রতিষ্ঠা করতে পারেনি। অ্যানথ্রপিক এবং ওপেনএআই তুলনামূলকভাবে ভালো অবস্থানে থাকলেও গুগল ভবিষ্যতের নিয়ন্ত্রণের জন্য সবচেয়ে বিস্তারিত পরিকল্পনা করেছে। তবে মেটা এবং এক্সএআই বেশিরভাগ মানদণ্ডে অনেক পিছিয়ে রয়েছে।
প্রতিবেদনে বলা হয়েছে, গবেষণাগারগুলো প্রতিরোধ ও ধারণের চেয়ে শনাক্তকরণে তুলনামূলকভাবে ভালো। তারা মডেলের কিছু অভ্যন্তরীণ কার্যকলাপ রেকর্ড ও পর্যালোচনা করতে পারলেও, তা বন্ধ করার নির্ভরযোগ্য উপায় তাদের নেই। কোম্পানিগুলোর দুর্বলতম দিক হলো অনাকাঙ্ক্ষিত এআই আচরণ প্রতিরোধ এবং তা নিয়ন্ত্রণে রাখা। গবেষকরা বলছেন, এর ফলে খারাপ আচরণ করা এআই দ্বারা কোম্পানিগুলোর বর্তমান নিয়ন্ত্রণ ব্যবস্থা অকার্যকর হয়ে পড়তে পারে এবং এআই আক্রমণের ঝুঁকিতে পড়তে পারে।
কিছু ভুল হলে কী ঘটবে তা আরও অস্পষ্ট। প্রকাশ্য তথ্যে খুব কম প্রমাণ মেলে যে বেশিরভাগ গবেষণাগারের কাছে গুরুতর ঘটনা মোকাবিলার বিস্তারিত ও পরীক্ষিত পরিকল্পনা রয়েছে। অ্যাডলার বলেন, "বড় ধরনের দুর্ঘটনার জন্য অপেক্ষা না করেই যথাযথ নিয়ন্ত্রণ ব্যবস্থা নেওয়া উচিত। কোম্পানিগুলোর বর্তমান পদ্ধতি দুর্বল বলে পরিচিত, এবং কোম্পানিগুলো প্রতিরোধকে গুরুত্ব না দিলে দুর্ঘটনা ঘটবে বলেই অনুমান করা যায়।" তবে গাইডলাইটের এই প্রতিবেদনটি গবেষণাগারগুলোর অভ্যন্তরীণ কার্যক্রমের চূড়ান্ত নিরীক্ষা নয়। এটি কেবল কোম্পানিগুলোর প্রকাশ করা নথির ভিত্তিতে তৈরি, ফলে দুর্বল স্কোর খারাপ প্রকাশের কারণে হতে পারে, নিরাপত্তা ব্যবস্থার অভাবের কারণে নয়। গবেষকরা বলছেন, যদি তা-ই হয়, সেটাও সমস্যার অংশ। এআই কোম্পানিগুলো ব্যবসা, সরকার এবং ভোক্তাদেরকে আরও স্বায়ত্তশাসিত সিস্টেমের দায়িত্ব দেওয়ার আহ্বান জানাচ্ছে, কিন্তু তাদের নিজস্ব নিরাপত্তা কাঠামোর বেশিরভাগ অংশ অস্বচ্ছ রেখে দিচ্ছে।
এদিকে, সতর্কতা ব্যবস্থা পিছিয়ে পড়ছে। সাম্প্রতিক দুর্ঘটনাজনিত এজেন্ট হ্যাকের পরে এআই নিরাপত্তা ও নির্ভরযোগ্য পর্যবেক্ষণ নিয়ে এই উদ্বেগ পুরো শিল্পে ছড়িয়ে পড়েছে। আইরেগুলারের সিইও ড্যান লাহাভ সম্প্রতি জানান, কিছু ক্ষেত্রে "শাস্ত্রীয় পর্যবেক্ষণ সরঞ্জাম তখন যা ঘটছিল তা ধরতে পারেনি।" তার কোম্পানি জড়িত ঘটনাগুলো সময়ে চিহ্নিত না হয়ে অন্তর্নিহিত রেকর্ডের গভীর বিশ্লেষণের পরে শনাক্ত করা হয়েছিল। লাহাভ বলেন, গত কয়েক মাসে মডেলগুলো এত দ্রুত উন্নত হয়েছে যে পুরোনো পর্যবেক্ষণ পদ্ধতি আর প্রযোজ্য নয়। ভবিষ্যতে এজেন্টের কর্মধারা ও যুক্তির ধরণ বিশ্লেষণ করতে পারে এমন সিস্টেম এবং এজেন্টের উদ্দেশ্য মূল্যায়নের সরঞ্জাম প্রয়োজন বলে তিনি মনে করেন।
এআই মডেল পরীক্ষা করাও কঠিন হয়ে উঠছে। বাস্তব নেটওয়ার্কের ক্ষতি করতে পারে কিনা তা জানতে মূল্যায়নকারীদের বাস্তবসম্মত নেটওয়ার্ক দিতে হয়। এটি পরীক্ষাকে আরও অর্থবহ করলেও সেটআপে ত্রুটি থাকলে বা সিস্টেম অপ্রত্যাশিত আচরণ করলে ঝুঁকি বাড়ায়। সাইবার নিরাপত্তা শিল্পে একটি ক্রমবর্ধমান ঐকমত্য হচ্ছে যে আরও সক্ষম এআই শেষ পর্যন্ত সাইবার রক্ষকদের আক্রমণকারীদের মতোই সাহায্য করবে। তবে এই পরিবর্তন বিশৃঙ্খল হতে পারে, কারণ প্রতিরক্ষামূলক সরঞ্জাম ও নিরাপত্তা অনুশীলনগুলো মডেলগুলোর আক্রমণাত্মক ক্ষমতার গতির সাথে তাল মেলাতে পারছে না। সাম্প্রতিক 'হ্যাক'গুলো কয়েকটি গবেষণাগারের জন্য এককালীন বিব্রতকর ঘটনা নাও হতে পারে, বরং এটি একটি সতর্কবার্তা যে পরীক্ষা করা সিস্টেমগুলো তাদের চারপাশের নিয়ন্ত্রণের চেয়ে দ্রুত বদলাচ্ছে। অ্যাডলার সতর্ক করে বলেন, "কোম্পানিগুলো প্রকৃত প্রতিরোধমূলক ব্যবস্থা না নেওয়া পর্যন্ত আমি আরও অনেক ঘটনা আশা করছি। কোম্পানিগুলো সর্বদা পিছিয়ে পড়ার চেষ্টা করছে, তাই তাদের বর্তমান পদ্ধতি ব্যর্থ হতে থাকলে কেউ অবাক হওয়া উচিত নয়।"
