কিশোর-কিশোরীদের নিরাপত্তা বাড়াতে চ্যাটজিপিতে নতুন নিয়ম চালু করতে যাচ্ছে ওপেনএআই। ১৮ বছরের কম বয়সীদের শনাক্ত করে তাদের জন্য চ্যাটজিপিটির উত্তর দেয়ার ধরন বদলে যাবে।

সম্প্রতি যুক্তরাষ্ট্রে  অ্যাডাম রেইন নামে ১৬ বছর বয়সী কিশোরের আত্মহত্যার ঘটনায় দায়ের হওয়া মামলার পর এ উদ্যোগ নেয়া হয়েছে।

ওই কিশোরের পরিবারের অভিযোগ, মাসের পর মাস চ্যাটজিপিটির সঙ্গে কথা বলার পর আত্মহত্যার সিদ্ধান্ত নেয়  অ্যাডাম রেইন। এমনকি এআই তাকে আত্মহত্যার উপায় নিয়ে দিকনির্দেশনা দিয়েছে এবং একটি চিঠি লেখায়ও সাহায্য করেছে বলে অভিযোগ রয়েছে।

এ বিষয়ে মার্কিন প্রযুক্তি প্রতিষ্ঠানটির প্রধান নির্বাহী স্যাম অল্টম্যান এক ব্লগ পোস্টে বলেন, কিশোরদের সুরক্ষা গোপনীয়তা ও স্বাধীনতার চেয়েও বেশি গুরুত্বপূর্ণ। ১৫ বছরের একজন ব্যবহারকারীর সঙ্গে চ্যাটজিপিটির প্রতিক্রিয়া একজন প্রাপ্তবয়স্কের সঙ্গে আলাদা হবে।

নতুন নিয়ম অনুযায়ী, ১৮ বছরের কম বয়সীদের সঙ্গে চ্যাটজিপিটি যৌনবিষয়ক বা প্রেম বিষয়ক আলোচনা করবে না। এছাড়া আত্মহত্যা বা নিজেকে আঘাত করার বিষয়েও আলোচনা বন্ধ থাকবে। যদি কোনো কিশোর আত্মহত্যার ইচ্ছা প্রকাশ করে, চ্যাটজিপিটি প্রথমে অভিভাবকের সঙ্গে যোগাযোগ করবে, তা না হলে প্রয়োজন হলে কর্তৃপক্ষকে জানাবে।

ওপেনএআই জানিয়েছে, সংক্ষিপ্ত আলাপে নিরাপত্তাবিধি কার্যকর হলেও দীর্ঘ কথোপকথনের ক্ষেত্রে নিরাপত্তা অনেক সময় ব্যর্থ হয়। ২০২৪ সালের এপ্রিল মাসে ক্যালিফোর্নিয়ার ১৬ বছর বয়সী কিশোর অ্যাডাম রেইন আত্মহত্যা করলে দেখা যায়, সে চ্যাটজিপিটির সঙ্গে নিয়মিত ৬৫০টির মতো বার্তা বিনিময় করত এবং জিপিটি-৪ও মডেল ব্যবহার করেই শেষ চিঠি লেখার পরামর্শ নিয়েছিল।

বাংলা স্কুপ/ডেস্ক/এইচবি/এসকে