বিশ্বের শীর্ষস্থানীয় কৃত্রিম বুদ্ধিমত্তা (এআই) গবেষণাগারগুলোর ১২০০-এর বেশি কর্মী, যাদের মধ্যে জ্যেষ্ঠ নির্বাহীরাও রয়েছেন, একটি বিবৃতিতে স্বাক্ষর করে যুক্তরাষ্ট্র সরকারের কাছে এআই বিকাশ ধীর করার প্রয়োজনীয় সরঞ্জাম তৈরি করতে সহায়তা চেয়েছেন। ‘পেসিং দ্য ফ্রন্টিয়ার’ শিরোনামের এই বিবৃতিটি মঙ্গলবার প্রকাশিত হয় এবং এতে স্বাক্ষর করেছেন অ্যানথ্রপিকের প্রধান নির্বাহী ডারিও অ্যামোদি ও কোম্পানিটির একাধিক সহ-প্রতিষ্ঠাতা, ওপেনএআই-এর প্রধান বিজ্ঞানী জাকুব পাচকি, মেটার প্রধান বিজ্ঞানী শেংজিয়া ঝাও এবং গুগল ডিপমাইন্ডের এআই সুরক্ষা ও সারিবদ্ধকরণ প্রধান আঙ্কা ড্রাগানের মতো বিশিষ্ট ব্যক্তিরা।
এই তালিকায় এমন কোম্পানিগুলোকে একত্রিত করা হয়েছে যারা সাধারণত নিজেদের মধ্যে তীব্র প্রতিযোগিতায় লিপ্ত থাকে এবং এটি একটি শিল্পের জন্য একটি উল্লেখযোগ্য বিবৃতি যা ক্রমাগত বৃহত্তর ও আরও সক্ষম মডেল তৈরির বিপুল বাণিজ্যিক চাপের মধ্যে রয়েছে। এআই ওয়াচডগ গ্রুপ মিডাস প্রজেক্টের প্রতিষ্ঠাতা টাইলার জনস্টন ফরচুনকে বলেন, “এত বিভিন্ন কোম্পানির কর্মীরা এই বিষয়ে একমত হওয়া অসাধারণ। শিল্পে অনেক তিক্ত প্রতিদ্বন্দ্বিতা ও মতপার্থক্য রয়েছে, তাই এই বিষয়ে এত শক্তিশালী ঐকমত্য হওয়া একটি সতর্কবার্তা যে আমাদের সত্যিই মনোযোগ দেওয়া উচিত।”
বিবৃতিতে বর্তমানে কোনো কোম্পানিকে ধীরগতির করতে বলা না হলেও, ওয়াশিংটনের কাছে একটি আন্তর্জাতিক প্রচেষ্টাকে সমর্থন করার আহ্বান জানানো হয়েছে যা বিশ্বকে বিকাশকে ‘গতি নিয়ন্ত্রণে’ সাহায্য করার জন্য প্রযুক্তিগত ও শাসন-সংক্রান্ত সরঞ্জাম তৈরি করবে। বিশেষ করে এআই সিস্টেমগুলোর ঝুঁকি নিয়ে উদ্বেগ প্রকাশ করা হয়েছে যেগুলো কেউ বুঝতে বা নিয়ন্ত্রণ করতে পারার চেয়ে দ্রুত নিজেদের উত্তরসূরি ডিজাইন করতে শুরু করে।
এআই পলিসি নেটওয়ার্কের নীতি প্রধান পিটার ওয়াইল্ডফোর্ড ফরচুনকে জানান, “যারা চিঠিতে স্বাক্ষর করেছেন তাদের অনেকের সাথে কথা বলে জানতে পেরেছি, তারা বিরতি চান না। তবে প্রযুক্তি কীভাবে এগোচ্ছে তা নিয়ে উদ্বেগ রয়েছে।” তিনি আরও বলেন, কোম্পানিগুলো কোনো এক সময়ে তা করার বিকল্প চায় এবং সেই সময় এলে তৃতীয় পক্ষের কাছ থেকে সমর্থন পেতে চায়।
এই চিঠিটি আসে একটি সুরক্ষা লঙ্ঘনের ঘটনার পর যা এআই শিল্পকে নাড়া দিয়েছে। ওপেনএআই জানিয়েছে যে তার দুটি মডেল — নতুন প্রকাশিত জিপিটি-৫.৬ সল এবং আরও সক্ষম একটি অপ্রকাশিত গবেষণা ব্যবস্থা — একটি স্যান্ডবক্সড অভ্যন্তরীণ পরীক্ষার পরিবেশ থেকে বেরিয়ে আসে, একটি পূর্বে অজানা দুর্বলতা খুঁজে পায় যা তাদের খোলা ইন্টারনেটে প্রবেশাধিকার দেয় এবং তারপর চুরি করা পরিচয়পত্র ও অতিরিক্ত শোষণ ব্যবহার করে হাগিং ফেসের উৎপাদন ব্যবস্থায় অনুপ্রবেশ করে সাইবার সুরক্ষা বেঞ্চমার্কের উত্তর চুরি করে। হাগিং ফেস কয়েকদিন আগেই অনুপ্রবেশ শনাক্ত করে এবং নিয়ন্ত্রণে আনে, ওপেনএআই তাদের অভ্যন্তরীণ পরীক্ষার সাথে কার্যকলাপ যুক্ত করার আগেই এবং ইতিমধ্যে আইন প্রয়োগকারী সংস্থাকে জানিয়েছিল।
ঘটনাটি গবেষণাগারের ভিতরে ও বাইরে ব্যাপক শঙ্কা সৃষ্টি করেছে, যা সরকারের হস্তক্ষেপ চাওয়ার কারণ। বিশেষজ্ঞরা বলছেন, কোনো একক কোম্পানি নিজে থেকে বিশ্বাসযোগ্যভাবে ধীরগতি করতে পারে না — একতরফাভাবে তা করলে কম সতর্ক প্রতিযোগীদের কাছে স্থান হারানোর ঝুঁকি থাকে — বরং গবেষণাগারগুলো নিরপেক্ষ, সরকার-সমর্থিত নির্দেশিকা চায় যা যাচাই করতে পারে যে ধীরগতি সত্যিই হচ্ছে এবং সব কোম্পানিকে একই সময়ে একই নিয়মে আবদ্ধ রাখতে পারে। বিবৃতিতে আন্তর্জাতিক সমন্বয়ে সরঞ্জাম তৈরির প্রয়োজনীয়তার কথাও বলা হয়েছে।
দীর্ঘদিন ধরে ধারণা করা হয় যে এআই বিকাশে বিরতি দিলে চীন বিশ্বব্যাপী এআই প্রতিযোগিতায় সুবিধা পাবে। কিছু বিশেষজ্ঞ পরমাণু অস্ত্র নিয়ন্ত্রণের মতো একটি চুক্তির পরামর্শ দেন, যেখানে যাচাইকরণ ও পারস্পরিক সংযম থাকবে। তবে চিঠিটি আসে এআই বিষয়ে একটি বিশৃঙ্খল ও দ্রুত পরিবর্তনশীল মার্কিন নীতি পরিবেশের মধ্যে। ট্রাম্প প্রশাসন গত দুই মাস ধরে সীমান্তবর্তী সিস্টেমগুলিকে সীমাবদ্ধ ও নির্বাচনীভাবে প্রকাশ করছে, অত্যাধুনিক এআই মডেলগুলোকে কিছু নিয়ম বা স্বচ্ছতা ছাড়াই। অ্যানথ্রপিকের নিজস্ব ফেবল ৫ ও মিথোস ৫ মডেল রপ্তানি নিয়ন্ত্রণ মেনে চলতে কয়েক সপ্তাহের জন্য সম্পূর্ণভাবে স্থগিত ছিল, এবং ওপেনএআইকে জিপিটি-৫.৬-এর সম্পূর্ণ রোলআউট বিলম্বিত করতে ও সীমাবদ্ধ স্তরে ভাগ করতে বাধ্য করা হয়েছিল কর্তৃপক্ষের সিদ্ধান্তের পর যে সিস্টেমটি পূর্ববর্তী অ্যানথ্রপিক বিধিনিষেধ সক্রিয়কারী সক্ষমতার মতো বৈশিষ্ট্য দেখিয়েছে।
নিয়ন্ত্রক পরিবেশকে স্বীকৃতি দেওয়ার প্রয়াসে, চিঠিটি ভাষায় সতর্ক ও কিছুটা অস্পষ্ট। এতে বলা হয়েছে যে বিশ্বে বর্তমানে “সীমানা জুড়ে ইচ্ছাকৃতভাবে গতি নিয়ন্ত্রণের প্রযুক্তিগত ও শাসন-সংক্রান্ত সরঞ্জামের অভাব রয়েছে” এবং “যুক্তরাষ্ট্র সরকার একটি আন্তর্জাতিক প্রচেষ্টাকে সমর্থন করুক যা স্বয়ংক্রিয় এআই বিকাশের সীমানাকে ইচ্ছাকৃতভাবে গতি নিয়ন্ত্রণের জন্য প্রয়োজনীয় প্রযুক্তিগত ও শাসন-সংক্রান্ত সরঞ্জাম তৈরি করবে।”
গবেষকদের একটি কেন্দ্রীয় উদ্বেগ হল দুটি ঝুঁকির মিথস্ক্রিয়া: পুনরাবৃত্তিমূলক স্ব-উন্নয়ন (আরএসআই) এবং অসারিবদ্ধকরণ। আরএসআই বলতে এআই সিস্টেমের নিজস্ব উত্তরসূরি ডিজাইন ও প্রশিক্ষণের কাজের অর্থপূর্ণ অংশ গ্রহণ করাকে বোঝায়, যেখানে প্রতিটি প্রজন্ম সম্ভবত আগেরটির চেয়ে দ্রুত তৈরি হবে। অসারিবদ্ধকরণ বলতে সিস্টেমের লক্ষ্য বা আচরণ তার ডেভেলপারদের উদ্দেশ্য থেকে বিচ্যুত হওয়ার ঝুঁকি বোঝায়, যা সিস্টেমকে আরও স্বায়ত্তশাসন বা ক্ষমতা দেওয়ার আগে পর্যন্ত প্রকাশ নাও পেতে পারে।
অ্যানথ্রপিক জুন মাসে প্রথম ঝুঁকি নিয়ে প্রাথমিক সতর্কতা দিয়েছিল, গবেষণা প্রকাশ করে যে তার ক্লদ মডেলগুলি ইতিমধ্যেই তাদের নিজস্ব কোডবেসে একীভূত বেশিরভাগ কোড লিখছে এবং যদি তা ক্রমাগত বৃদ্ধি পায় তবে বিশ্বে সেই ত্বরণকে ইচ্ছাকৃতভাবে গতি নিয়ন্ত্রণের সরঞ্জামের অভাব রয়েছে। এভিটেবল নামক অলাভজনক সংস্থার প্রতিষ্ঠাতা ও এআই গবেষক ডেভিড ক্রুগার বলেন, “আমার অনুমান, অনেক লোকের জন্য এটি একটি সাধারণ অস্বস্তি যা অনেক কিছুতে অবদান রাখে। অসারিবদ্ধকরণ ও পুনরাবৃত্তিমূলক স্ব-উন্নয়ন হাতে হাত মিলিয়ে চলে।” তিনি আরও বলেন, “যদি সিস্টেমটি স্পষ্টভাবে সারিবদ্ধ না হয় তবে পুনরাবৃত্তিমূলক স্ব-উন্নয়ন করা এবং পুরোপুরি নিয়ন্ত্রণ হস্তান্তর করা পাগলামি।”
ফরচুন পূর্বে জানিয়েছিল যে একাধিক বাইরের এআই সুরক্ষা বিশেষজ্ঞ মনে করেন এই ঘটনা ওপেনএআই-এর নিজস্ব সুরক্ষা নীতিতে ‘ক্রিটিক্যাল’ হিসাবে সংজ্ঞায়িত থ্রেশহোল্ড অতিক্রম করতে পারে, যা সর্বোচ্চ ঝুঁকির স্তর। এই স্তরে কোম্পানি আরও ভাল নিয়ন্ত্রণ তৈরি না করা পর্যন্ত বিকাশ স্থগিত রাখার প্রতিশ্রুতি দিয়েছে। ওপেনএআই নিশ্চিত করেনি যে সেই ঝুঁকি থ্রেশহোল্ড পূরণ হয়েছে কিনা। তবে হাগিং ফেস ঘটনা সম্পর্কে নিজস্ব প্রকাশনায় ওপেনএআই ইঙ্গিত দিয়েছে যে কিছু ব্যবস্থা নেওয়া হয়েছে। কোম্পানি বলেছে, “আসন্ন প্রকাশের জন্য পরিকল্পিত কোনো মডেল হাগিং ফেস শোষণে জড়িত ছিল না। আমাদের ব্লগ পোস্টে উল্লিখিত প্রাক-প্রকাশ মডেলটি একটি অভ্যন্তরীণ-শুধু গবেষণা প্রোটোটাইপ এবং কখনোই জনসাধারণের প্রকাশের জন্য ছিল না। ঘটনার পরে, আমরা এটি নিষ্ক্রিয়, এনক্রিপ্ট ও গবেষণা প্রবেশাধিকার থেকে সীমাবদ্ধ করেছি।”
