বিশ্বের দ্বিতীয় সর্বোচ্চ মূল্যবান কোম্পানি অ্যাপল তাদের বার্ষিক ফাইলিং-এ কৃত্রিম বুদ্ধিমত্তা বা এআই এজেন্টের সম্ভাব্য ঝুঁকি সম্পর্কে বিস্তারিত সতর্কবার্তা জারি করেছে। কোম্পানিটির মতে, কিছু অসাধু বা 'রোগ' (rogue) এআই এজেন্ট তথ্যের কারসাজি করতে পারে অথবা নিজেদের কার্যক্রম গোপন রাখতে পারে, যা শেষ পর্যন্ত তাদের ব্যবসায়িক কার্যক্রমের জন্য হুমকি হয়ে দাঁড়াতে পারে। বিশেষ করে, এই এজেন্টগুলো যদি অননুমোদিতভাবে সিস্টেমের প্রবেশাধিকার পায় এবং সেখানে কোনো পরিবর্তন আনে, তবে তা মারাত্মক পরিণতির কারণ হতে পারে।
মঙ্গলবার প্রকাশিত ১০-কে (10-K) ফাইলিং-এ অ্যাপল উল্লেখ করেছে যে, এআই এজেন্ট এবং সংশ্লিষ্ট প্রযুক্তিগুলো স্বয়ংক্রিয়ভাবে কাজ করতে সক্ষম। এর ফলে তারা অভ্যন্তরীণ বা বাহ্যিক সিস্টেমের সাথে এমনভাবে যোগাযোগ করতে পারে যার অনুমতি তাদের নেই। এছাড়া তারা কোড পরিবর্তন, বার্তা প্রেরণ এবং বিভিন্ন লেনদেন সম্পন্ন করার ক্ষমতা রাখে। আইফোন প্রস্তুতকারক প্রতিষ্ঠানটি আরও জানিয়েছে, এই প্রযুক্তিগুলো অনেক সময় অনির্দেশিত বা অভাবনীয় আচরণ করতে পারে। যেমন—প্রদত্ত নির্দেশনার বাইরে গিয়ে কাজ করা, অনুমোদিত সীমার বাইরে প্রবেশ করা কিংবা সরাসরি নির্দেশ অমান্য করা। এমনকি এই স্বায়ত্তশাসী এজেন্টগুলো ভুল তথ্য তৈরি করতে পারে অথবা গুরুত্বপূর্ণ তথ্য গোপন করে প্রতারণার আশ্রয় নিতে পারে।
অ্যাপল একা নয়, গুগলের মূল প্রতিষ্ঠান অ্যালফাবেটও সাম্প্রতিক এক ফাইলিং-এ এই ধরনের ঝুঁকির কথা জানিয়েছে। তবে গুগল আরও স্পষ্টভাবে সতর্ক করেছে যে, এআই মডেল পরীক্ষার সময় তারা এমন কিছু আচরণ দেখেছে যা নির্ধারিত পরিধির বাইরে। তাদের মতে, এটি বড় ধরনের নিরাপত্তা ঝুঁকি তৈরি করতে পারে, এমনকি মানবাধিকারের ওপর নেতিবাচক প্রভাব ফেলতে পারে। সাম্প্রতিক সময়ে সাইবার নিরাপত্তার বেশ কিছু ঘটনা এই উদ্বেগকে আরও বাড়িয়ে দিয়েছে। উদাহরণস্বরূপ, এই গ্রীষ্মে ওপেনএআই-এর এজেন্টগুলোর মাধ্যমে 'হাগিং ফেস' (Hugging Face) নামক এআই কোম্পানির ওপর আক্রমণ চালানো হয়েছিল। পাশাপাশি অ্যানথ্রোপিক (Anthropic) তাদের আইপিও প্রসপেক্টাসে জানিয়েছে, নিরাপত্তা পরীক্ষার সময় তাদের মডেলগুলো বাস্তব বিশ্বের সিস্টেমে অননুমোদিত প্রবেশাধিকার পেয়েছিল।
এই পরিস্থিতিতে মাইক্রোসফটের মতো প্রযুক্তি জায়ান্টরা এআই এজেন্টদের নিরাপত্তার ওপর বেশি জোর দেওয়ার আহ্বান জানিয়েছে। মাইক্রোসফটের প্রধান নির্বাহী সত্য নাদেলা মনে করেন, এআই এজেন্টদের 'ইনসাইডার রিস্ক' বা অভ্যন্তরীণ ঝুঁকি হিসেবে বিবেচনা করা উচিত। তাই মডেলের ওপর নির্ভর না করে এর বাইরে থেকে কঠোর নিরাপত্তা নিয়ন্ত্রণ ব্যবস্থা রাখা প্রয়োজন। মাইক্রোসফট ইতিমধ্যেই সন্দেহজনক আচরণ শনাক্ত করতে এবং প্রয়োজনে এজেন্টের অনুমতি বাতিল করতে নতুন কিছু নিয়ন্ত্রণ ব্যবস্থা চালু করেছে।
এআই ঝুঁকি ছাড়াও অ্যাপল তাদের বার্ষিক প্রতিবেদনে মেমরি এবং স্টোরেজ উপাদানের ঘাটতির কথা উল্লেখ করেছে। ক্লাউড কম্পিউটিং এবং এআই অবকাঠামোর ব্যাপক চাহিদার কারণে সরবরাহে সীমাবদ্ধতা দেখা দিচ্ছে, যা খরচ বাড়িয়ে দিচ্ছে এবং এআই চালুর প্রক্রিয়ায় প্রভাব ফেলতে পারে। এর ফলে তাদের গবেষণা ও উন্নয়ন (R&D) ব্যয় গত বছরের তুলনায় ৩২ শতাংশ বৃদ্ধি পেয়েছে।
অন্যদিকে, অ্যাপলের প্রধান নির্বাহী জন টার্নাস এআই এজেন্টিক ক্ষমতাকে ব্যবহারকারীদের জন্য একটি 'আশাব্যঞ্জক হাতিয়ার' হিসেবে বর্ণনা করলেও, ব্যবহারকারীদের তাদের দেওয়া অ্যাক্সেস সম্পর্কে সচেতন থাকার আহ্বান জানিয়েছেন। তিনি নিরাপত্তা এবং গোপনীয়তার ওপর সর্বোচ্চ গুরুত্ব দেওয়ার কথা বলেন। তবে মেমরি চিপের ক্রমবর্ধমান খরচ এবং সার্ভিস খাতের ধীর প্রবৃদ্ধির খবরের পর মঙ্গলবার অ্যাপলের শেয়ার প্রায় ২ শতাংশ হ্রাস পায়। নতুন সিইও হিসেবে তার প্রথম আয়ের কল-এ টার্নাস মূলত মার্কেটিং পয়েন্টগুলোতে সীমাবদ্ধ ছিলেন এবং ব্যক্তিগত এআই এজেন্ট সম্পর্কে বিস্তারিত কোনো পরিকল্পনা প্রকাশ করেননি।
