কিশোর-কিশোরীদের এআই চ্যাটবট ব্যবহারের সময় নিরাপত্তা নিশ্চিতে নতুন এক উদ্যোগের ঘোষণা দিয়েছে প্রযুক্তি জায়ান্ট মেটা। এই উদ্যোগের আওতায় মেটা এআই চ্যাটবটের সঙ্গে কথোপকথন চলাকালে কোনো অপ্রাপ্তবয়স্ক ব্যবহারকারী যদি আত্মহত্যা বা নিজের ক্ষতি করার ইঙ্গিত দেয়, তাহলে তাৎক্ষণিকভাবে তা শনাক্ত করে সংশ্লিষ্ট অভিভাবকের কাছে সতর্কবার্তা প্রেরণ করবে প্রতিষ্ঠানটি। পাশাপাশি কোনো ব্যবহারকারীকে তাৎক্ষণিক আত্মহত্যার ঝুঁকিতে থাকা ব্যক্তি হিসেবে চিহ্নিত করা গেলে জরুরি সেবাদানকারী সংস্থাকেও জানানোর ব্যবস্থা রাখা হয়েছে।
সম্প্রতি মানসিক সংকটে থাকা ব্যবহারকারীদের সঙ্গে এআই চ্যাটবটের আচরণ নিয়ে প্রযুক্তি প্রতিষ্ঠানগুলো তীব্র সমালোচনার সম্মুখীন হয়েছে। বিশেষ করে কম বয়সী ব্যবহারকারীদের জন্য নিরাপত্তা ব্যবস্থা আরও কার্যকর করার দাবি জোরালো হয়েছে। এমন পরিস্থিতিতেই এই নতুন সুবিধা চালুর সিদ্ধান্ত নিয়েছে মেটা। প্রথম পর্যায়ে যুক্তরাষ্ট্র, যুক্তরাজ্য, কানাডা ও অস্ট্রেলিয়ায় ইনস্টাগ্রামের 'প্যারেন্টাল সুপারভিশন' ফিচার ব্যবহারকারী অভিভাবকদের জন্য সুবিধাটি চালু করা হয়েছে। আগামী বছরের শেষ নাগাদ বিশ্বের অন্যান্য দেশেও এই সুবিধা সম্প্রসারণের পরিকল্পনা রয়েছে প্রতিষ্ঠানটির।
মেটা জানিয়েছে, কিশোর-কিশোরীদের কথোপকথনে আত্মহত্যা বা আত্মক্ষতির সুস্পষ্ট ইঙ্গিত শনাক্ত করতে বিশেষ একটি কৃত্রিম বুদ্ধিমত্তাভিত্তিক ব্যবস্থা তৈরি করা হয়েছে। তবে শুধুমাত্র এআইয়ের বিশ্লেষণের ওপর ভিত্তি করে কোনো সতর্কবার্তা পাঠানো হবে না। এআই কোনো কথোপকথনকে ঝুঁকিপূর্ণ হিসেবে চিহ্নিত করলে সেটি প্রথমে একজন মানব পর্যালোচক যাচাই করবেন। পর্যালোচক প্রয়োজনীয় মনে করলেই কেবল সংশ্লিষ্ট অভিভাবকের কাছে সতর্কবার্তা পাঠানো হবে।
এক ব্লগ পোস্টে মেটা জানিয়েছে, কিশোর-কিশোরীদের কথোপকথনে আত্মহত্যা বা আত্মক্ষতির ইঙ্গিত যেকোনো অভিভাবকের জন্যই উদ্বেগজনক। তাই কোনো কিশোর-কিশোরীর উদ্দেশ্য পুরোপুরি স্পষ্ট না হলেও সতর্কতার স্বার্থে বিষয়টি অভিভাবককে জানানো হবে। সম্ভাব্য ঝুঁকি উপেক্ষা করার চেয়ে অতিরিক্ত সতর্কতা অবলম্বন করাকেই বেশি গুরুত্বপূর্ণ মনে করছে প্রতিষ্ঠানটি। ফলে কিছু ক্ষেত্রে প্রকৃত ঝুঁকি না থাকলেও সতর্কবার্তা পাঠানো হতে পারে।
অভিভাবকদের সতর্কবার্তা পাঠানোর পাশাপাশি এআই চ্যাটবটের নিরাপত্তা ব্যবস্থা আরও শক্তিশালী করছে মেটা। ইনস্টাগ্রামে কিশোর-কিশোরীদের জন্য চালু থাকা 'লিমিটেড কনটেন্ট' সুবিধা এখন মেটা এআইয়েও যুক্ত করা হচ্ছে। এর ফলে চ্যাটবটটি বর্তমানের তুলনায় আরও বেশি সংবেদনশীল তথ্য জানানোর অনুরোধ প্রত্যাখ্যান করবে। সূত্র: ইন্ডিয়া টুডে।
