চ্যাটজিপিটিতে ভয়াবহ ‘ঝুঁকি’, কিশোরদের সতর্ক করল গবেষণা

ছবিঃ সংগৃহীত

তথ্য প্রযুক্তি ডেস্ক : নিরাপত্তাব্যবস্থা চালুর পরও কিশোরদের জন্য ওপেনএআইয়ের চ্যাটজিপিটিতে গুরুতর ঝুঁকি রয়েছে বলে সতর্ক করেছে কমন সেন্স মিডিয়ার ইয়ুথ এআই সেফটি ইনস্টিটিউট। নতুন এক মূল্যায়নে সংস্থাটি প্ল্যাটফর্মটিকে আপাতত ১৮ বছর বা তার বেশি বয়সী ব্যবহারকারীদের মধ্যে সীমাবদ্ধ রাখার আহ্বান জানিয়েছে।

গবেষণা সংস্থাটির দাবি, অভিভাবকদের সতর্কবার্তা, সংকটময় পরিস্থিতিতে চ্যাটজিপিটির প্রতিক্রিয়া এবং কিশোরদের শেখার সুরক্ষার ক্ষেত্রে এখনো গুরুত্বপূর্ণ ঘাটতি রয়েছে।

গবেষকেরা ১৩ থেকে ১৭ বছর বয়সী ব্যবহারকারীদের নামে নিবন্ধিত অ্যাকাউন্টে ৪ হাজারের বেশি প্রম্পট পরীক্ষা করেন। চ্যাটজিপিটির দেওয়া উত্তরগুলো শিশু মনোরোগ বিশেষজ্ঞসহ বিভিন্ন বিশেষজ্ঞ এবং একজন শিশু বিশেষজ্ঞ পর্যালোচনা করেন।

ইনস্টিটিউটের দাবি, পরীক্ষায় অভিভাবকের সঙ্গে যুক্ত নতুন অ্যাকাউন্ট ব্যবহার করে আত্মহত্যার চিন্তা, আত্মক্ষতি ও খাদ্যাভ্যাসজনিত সমস্যার মতো বিষয় নিয়ে এক ঘণ্টা পর্যন্ত আলোচনা করা হলেও কোনো সতর্কবার্তা পাওয়া যায়নি।

ইনস্টিটিউটের নির্বাহী পরিচালক টম সিগেল বলেন, চ্যাটজিপিটি ফর টিনস এমন নিরাপত্তাব্যবস্থা ও সতর্কবার্তার বিষয়ে অভিভাবকদের ‘মিথ্যা আস্থা’ দিতে পারে, যেগুলো অনেক সময় ঠিকভাবে কাজ করে না।

তবে গবেষণার ফল নিয়ে আপত্তি জানিয়েছে ওপেনএআই। প্রতিষ্ঠানটি বলেছে, পরীক্ষার একটি বড় অংশ সম্ভবত অভিভাবকীয় নিয়ন্ত্রণ ব্যবস্থা পুরোপুরি চালু হওয়ার আগেই পরিচালিত হয়েছিল। ফলে কিশোরদের জন্য বর্তমান নিরাপত্তাব্যবস্থা বাস্তবে কীভাবে কাজ করে, ওই পরীক্ষা তা সঠিকভাবে প্রতিফলিত করে না।

অন্যদিকে ইয়ুথ এআই সেফটি ইনস্টিটিউট বলেছে, পরীক্ষা শুরুর আগেই তারা ওপেনএআইয়ের সঙ্গে যোগাযোগ করে নিশ্চিত হয়েছিল যে ‘টিন মোড’-এর সুবিধাগুলো পুরোপুরি চালু রয়েছে। তাই নিজেদের গবেষণার ফলাফলের বিষয়ে তারা অবস্থান পরিবর্তন করেনি।

সংস্থাটি বলেছে, কিশোরদের জন্য এআই ব্যবহারের ক্ষেত্রে নিরাপত্তাব্যবস্থা আরও শক্তিশালী করা জরুরি। বিশেষ করে আত্মক্ষতি বা মানসিক সংকটের মতো সংবেদনশীল পরিস্থিতিতে দ্রুত অভিভাবককে সতর্ক করা এবং ব্যবহারকারীর সুরক্ষা নিশ্চিত করার বিষয়টি গুরুত্ব দিয়ে দেখার আহ্বান জানিয়েছে তারা।