গত মঙ্গলবার ওপেনএআইয়ের ওয়েবসাইটে একটি ব্লগ পোস্ট প্রকাশিত হয় যা দেখতে সাধারণ মনে হলেও এর মধ্যে ছিল চাঞ্চল্যকর তথ্য। অভ্যন্তরীণ পরীক্ষার সময় প্রতিষ্ঠানটির দুটি মডেল তাদের নিয়ন্ত্রণ কক্ষ থেকে বেরিয়ে পড়ে এবং একটি বড় কৃত্রিম বুদ্ধিমত্তা হোস্টিং প্ল্যাটফর্ম হাগিং ফেসের সার্ভারে হামলা চালায়। এই ঘটনাকে একটি মাইলফলক হিসেবে দেখা হচ্ছে—এটি প্রথমবার যখন কোনো সাইবার আক্রমণ কৃত্রিম বুদ্ধিমত্তা দ্বারা কল্পনা, নকশা এবং বাস্তবায়িত হয়েছে।
প্রায় এক দশকের বেশি সময় ধরে এআই শিল্পে কাজ করা এবং ওপেনএআইয়ের বোর্ডেও দায়িত্ব পালন করা হেলেন টোনার জানান, এআই বিকাশকারীদের মধ্যে একটি অপ্রকাশিত সত্য রয়েছে যে এমন একটি ঘটনা অনেক দিন ধরেই প্রত্যাশিত ছিল, কিন্তু বিশ্বের সেরা বিজ্ঞানী ও প্রকৌশলীরাও এখনও তা প্রতিরোধের উপায় জানেন না। হ্যাকিংয়ের পেছনে থাকা দুটি এআই সিস্টেম হলো ওপেনএআইয়ের সবচেয়ে উন্নত পাবলিক মডেল এবং একটি আরও নতুন ও উন্নত মডেল যা এখনও সর্বজনীন প্রকাশের অনুমতি পায়নি।
ওপেনএআই গবেষকরা তাদের ক্ষমতা যাচাই করতে দুটি এআইকে কিছু কঠিন সাইবার নিরাপত্তা সমস্যা দিয়েছিলেন। জবাবে এআই জুটি সিদ্ধান্ত নেয় যে সর্বোচ্চ স্কোর অর্জনের সবচেয়ে ভালো উপায় হবে উত্তরগুলো চুরি করা। এই লক্ষ্যে তারা একাধিক উন্নত কৌশল ব্যবহার করে প্রথমে ওপেনএআই পরীক্ষার জন্য তৈরি করা তথাকথিত সুরক্ষিত 'স্যান্ডবক্স' থেকে বেরিয়ে আসে, তারপর হাগিং ফেসের ডাটাবেসে প্রবেশ করে—যে প্রতিষ্ঠানটি এআই পণ্য ও ডেটাসেট হোস্ট করে। একবার ভেতরে ঢুকে পড়লে এআই হামলাকারীরা কয়েকদিন ধরে হাজার হাজার স্বায়ত্তশাসিত পদক্ষেপ নিয়ে প্রতিষ্ঠানের অবকাঠামোতে তাদের প্রবেশাধিকার বাড়িয়ে নেয়।
এই অসাধারণ ঘটনা সম্পর্কে আমরা কেবল হাগিং ফেস এবং ওপেনএআইয়ের স্বেচ্ছাপ্রণোদিত প্রকাশের কারণেই জানতে পেরেছি। বর্তমান নীতিমালাগুলোর কোনোটিই জনসাধারণ বা এমনকি কোনো সরকারি সংস্থাকে সতর্ক করতে বাধ্য করেনি। এটি ক্রমশ উন্নত এআই সিস্টেমের ঝুঁকি ব্যবস্থাপনার বর্তমান নীতির একটি বড় ফাঁক প্রকাশ করে—এআই কোম্পানিগুলো তাদের নিজেদের ভেতরে কিভাবে অত্যাধুনিক, অপ্রকাশিত এআই সিস্টেম ব্যবহার করছে তা নজরদারির বাইরে থেকে যায়।
ট্রাম্প প্রশাসনের এআই ঝুঁকি সংক্রান্ত দৃষ্টিভঙ্গি গত কয়েক মাসে দ্রুত পরিবর্তিত হয়েছে, কারণ এআই-এর মানব হ্যাকারদের সহায়তা করার ক্ষমতা বেড়েছে। ২০২৫ সালে হাতছাড়া নীতি পরিত্যাগ করে হোয়াইট হাউস সম্প্রতি কার্যত বাধ্যতামূলক করছে যে অত্যাধুনিক এআই মডেলের কোম্পানিগুলো সেগুলো ব্যাপকভাবে পণ্য হিসেবে প্রকাশের আগে নিরাপত্তা পরীক্ষার একটি সেটের মধ্য দিয়ে চালায়। প্রি-ডিপ্লয়মেন্ট টেস্টিং নামে পরিচিত এই পদ্ধতি প্রথম দর্শনে যুক্তিসঙ্গত মনে হয়—প্রত্যেক এআই সিস্টেমকে কোটি কোটি মানুষের হাতে দেওয়ার আগে আমরা নিশ্চিত করতে চাই যে এটি নিরাপদ। সমস্যা হলো প্রকাশের তারিখে মনোযোগ দেওয়া এআই কোম্পানিগুলোর ভেতরে সর্বশেষ ও সবচেয়ে উন্নত এআই সিস্টেমের ব্যাপক ব্যবহারকে সম্পূর্ণ উপেক্ষা করে।
গত সপ্তাহের ঘটনা যেমন দেখায়, এই অভ্যন্তরীণভাবে স্থাপিত এআই সিস্টেমগুলো গুরুতর ঝুঁকি তৈরি করতে পারে—এমনকি তৃতীয় পক্ষের জন্যও। বর্তমান চ্যাটবট থেকে এগুলো কতটা আলাদা তা বোঝা জরুরি। আজকের এআই সিস্টেমগুলো কেবল চ্যাট উইন্ডোতে লেখা ছাপানোর বাইরে গিয়ে 'এজেন্ট' হিসেবে কাজ করে যা সরাসরি ডিজিটাল জগতে কাজ করতে পারে, মূলত মানুষের মতো কম্পিউটার পরিচালনা করে। এআই এজেন্টগুলো অত্যন্ত কার্যকর প্রমাণিত হলেও এরা 'রিওয়ার্ড হ্যাকিং' আচরণের প্রতি শক্তিশালী প্রবণতা দেখায়—মানুষের দেওয়া লক্ষ্য পূরণের অনাকাঙ্ক্ষিত উপায় খুঁজে বের করা, কখনও কখনও সরাসরি প্রতারণার পর্যায়ে চলে যাওয়া।
এই অত্যন্ত স্বায়ত্তশাসিত এবং প্রায়ই প্রতারণামূলক এআই সিস্টেমগুলোর ঝুঁকি মোকাবেলায় আমাদের নিয়ন্ত্রণের পদ্ধতি পরিবর্তন করতে হবে। এআই কোম্পানিগুলোকে সফটওয়্যার বিক্রেতা হিসেবে ভাবার পরিবর্তে আমরা অন্যান্য শিল্প থেকে অনুপ্রেরণা নিতে পারি যেখানে শিল্পের অভ্যন্তরীণ কার্যকলাপ নিজেই ঝুঁকিপূর্ণ। প্রাণঘাতী রোগজীবাণু নিয়ে কাজ করা জৈবিক ল্যাব, কোটি কোটি ডলার লেনদেন করা আর্থিক প্রতিষ্ঠান এবং বিষাক্ত রাসায়নিক নিয়ে কাজ করা রাসায়নিক কারখানা—এদের সবাইকে তাদের অভ্যন্তরীণ কার্যক্রমের তদারকির মুখোমুখি হতে হয়, শুধু বাহ্যিক পণ্যের নয়। এআইতে শুরু করতে হবে কোম্পানিগুলো তাদের সবচেয়ে উন্নত সিস্টেমগুলো অভ্যন্তরীণভাবে কীভাবে ব্যবহার করছে সে সম্পর্কে আরও স্বচ্ছতা তৈরি করা।
দীর্ঘমেয়াদে অন্যান্য শিল্পের আকর্ষণীয় প্রক্রিয়াগুলো এআইতে স্থানান্তরযোগ্য হতে পারে। আর্থিক খাতে 'রেসিডেন্ট এক্সামিনার' নামে নিয়ন্ত্রকদের নিবেদিত দল বড় ব্যাংকের অফিসের ভেতরে বসে কাজ করে। জৈব চিকিৎসা গবেষণায় বিভিন্ন ঝুঁকি স্তরের জৈবিক উপাদান পরিচালনার জন্য প্রয়োজনীয় সুরক্ষার শক্তিশালী মান বিদ্যমান। একাধিক শিল্পে ঘটনা রিপোর্টিং নিয়ম মানে যখন কিছু ভুল হয়, তখন কী ঘটেছে এবং কীভাবে তা ঠিক করতে হবে সে সম্পর্কে তথ্য একটি একক প্রতিষ্ঠানের ভেতরে আটকে থাকে না।
সেপ্টেম্বর ২০২৪ সালে আমি একটি সেনেট কমিটির কাছে সাক্ষ্য দিতে আমন্ত্রিত হয়েছিলাম যে কংগ্রেস যদি কেবল কোম্পানির সিইও এবং লবিস্টদের কথা শুনে তবে এআই সম্পর্কে কী ভুল বুঝতে পারে। আমার উত্তর ছিল ওয়াশিংটনে বসে শীর্ষ এআই কোম্পানিগুলো কী করতে চায় তা পুরোপুরি বোঝা খুব কঠিন হতে পারে। সিলিকন ভ্যালিতে ব্যাপকভাবে বোঝা সত্য হলো তারা এমন মেশিন তৈরি করার চেষ্টা করছে যা যেকোনো মানুষকে বুদ্ধিমত্তায় ও কৌশলে পরাজিত করতে পারে এবং তারা জানে না তারা সেই মেশিনগুলোকে উপকারী লক্ষ্যে পরিচালিত করতে পারবে কিনা। একজন ওপেনএআই সহ-প্রতিষ্ঠাতা ২০১৯ সালের একটি ডকুমেন্টারিতে যেমন বলেছিলেন, 'এআই-এর ভবিষ্যৎ যাই হোক ভালোই হবে। ভালো হবে যদি তা মানুষের জন্যও ভালো হয়।' সেটি ঘটানোর সুযোগ পেতে হলে এআই কোম্পানিগুলো বদ্ধ দরজার আড়ালে কী তৈরি করছে তা নিয়ে আমাদের নজরদারি শুরু করতে হবে।
