১৬ বছরের কিশোরের মৃত্যুতে মামলা খেয়ে নড়ল ওপেনএআই, চ্যাটজিপিটিতে আসছে বয়স যাচাই

মেলবোর্ন, ১৯ সেপ্টেম্বর- কিশোর-কিশোরীদের নিরাপত্তা নিশ্চিত করতে বড় ধরনের পরিবর্তন আনতে যাচ্ছে ওপেনএআই। যুক্তরাষ্ট্রে ১৬ বছর বয়সী এক কিশোরের আত্মহত্যার ঘটনায় দায়ের হওয়া মামলার পর প্রতিষ্ঠানটি জানিয়েছে, ভবিষ্যতে চ্যাটজিপিটি ব্যবহারে বয়স যাচাই বাধ্যতামূলক করা হবে। ব্যবহারকারীদের ওপেনএআইয়ের বয়স যাচাই প্রযুক্তির আওতায় আনতে হবে কিংবা জমা দিতে হতে পারে পরিচয়পত্র।

১৮ বছরের কম বয়সী ব্যবহারকারী শনাক্ত হলে তাদের জন্য চ্যাটজিপিটির উত্তর দেওয়ার ধরন আলাদা হবে। কিশোরদের সঙ্গে আর যৌনবিষয়ক বা প্রেমবিষয়ক আলোচনা করবে না চ্যাটজিপিটি। একইভাবে আত্মহত্যা বা নিজেকে আঘাত করার মতো সংবেদনশীল বিষয়ের আলোচনাও পুরোপুরি নিষিদ্ধ থাকবে।

গত মঙ্গলবার এক ব্লগপোস্টে ওপেনএআইয়ের প্রধান নির্বাহী স্যাম অল্টম্যান বলেন,

“কিশোর-কিশোরীদের ক্ষেত্রে আমাদের সুরক্ষাকে গোপনীয়তা ও স্বাধীনতার চেয়েও বেশি গুরুত্ব দিতে হবে।”

তিনি আরও জানান, চ্যাটজিপিটি ব্যবহারকারীর কথোপকথনের ধরন দেখে বয়স অনুমান করবে। সন্দেহ হলে ১৮ বছরের নিচের অভিজ্ঞতাই প্রযোজ্য হবে। কিছু ক্ষেত্রে ব্যবহারকারীর পরিচয়পত্র চাওয়া হতে পারে।

এছাড়া, কোনো কিশোর আত্মহত্যার ইচ্ছা প্রকাশ করলে অভিভাবকের সঙ্গে যোগাযোগের চেষ্টা করা হবে। তা সম্ভব না হলে এবং তাৎক্ষণিক বিপদের আশঙ্কা থাকলে কর্তৃপক্ষকে জানানো হবে।

ঘটনার পেছনে রয়েছে ২০২৪ সালের এপ্রিলে ১৬ বছর বয়সী ক্যালিফোর্নিয়ার কিশোর অ্যাডাম রেইনের আত্মহত্যা। পরিবারের দাবি, আত্মহত্যার আগে সে কয়েক মাস ধরে নিয়মিত চ্যাটজিপিটি ব্যবহার করত। আদালতের নথি অনুসারে, জিপিটি–৪ মডেল থেকেই সে আত্মহত্যার পদ্ধতি সম্পর্কিত পরামর্শ পেয়েছিল। প্রতিদিন গড়ে ৬৫০টির মতো বার্তা বিনিময় করত সে।

মামলার পর ওপেনএআই স্বীকার করেছে, দীর্ঘ কথোপকথনে তাদের নিরাপত্তাব্যবস্থা অনেক সময় ব্যর্থ হয়। সংক্ষিপ্ত আলাপে কার্যকর থাকলেও দীর্ঘ বার্তা বিনিময়ের পর অনাকাঙ্ক্ষিত প্রতিক্রিয়া চলে আসতে পারে।

ওপেনএআই জানিয়েছে, ভবিষ্যতে আরও কঠোর নিরাপত্তা ব্যবস্থা নেওয়া হবে। একই সঙ্গে প্রাপ্তবয়স্কদের জন্য আলাদা অভিজ্ঞতা তৈরি করা হবে, যেখানে যৌনতা বা প্রেমবিষয়ক আলোচনা অনুমোদিত থাকবে। তবে আত্মহত্যার পদ্ধতি শেখানো হবে না; কেবল গল্পের প্রয়োজনে সংশ্লিষ্ট কনটেন্ট ব্যবহার করা যাবে।

অল্টম্যান বলেন,

“প্রাপ্তবয়স্কদের প্রাপ্তবয়স্ক হিসেবেই বিবেচনা করতে হবে।”

এ ছাড়া ব্যবহারকারীর ব্যক্তিগত তথ্য যেন কোম্পানির কর্মীদের কাছে দৃশ্যমান না হয়, সেটিও নিশ্চিত করা হবে বলে জানিয়েছে ওপেনএআই।

সূত্র: দ্য গার্ডিয়ান