সপ্তাহে ১০ লাখের বেশি চ্যাটজিপিটি ব্যবহারকারী ‘আত্মহত্যার কথা’ বলে

শেষ পর্যন্ত ওপেনএআই স্বীকার করেছে ‘এআই প্রযুক্তি মানসিক স্বাস্থ্যের সংকটকে আরও জটিল করে তুলতে পারে’।

সম্প্রতি এক কিশোরের আত্মহত্যা নিয়ে ওপেনএআইয়ের বিরুদ্ধে একটি মামলা হয়েছে। ছবি: রয়টার্স

প্রতি সপ্তাহে ১০ লাখেরও বেশি চ্যাটজিপিটি ব্যবহারকারী এমন বার্তা পাঠান, যেখানে স্পষ্ট ইঙ্গিত মেলে আত্মহত্যার চিন্তা বা পরিকল্পনার।

এ উদ্বেগজনক উঠে এসেছে তথ্য কৃত্রিম বুদ্ধিমত্তা বা এআই চ্যাটবট চ্যাটজিপিটির নির্মাতা ওপেনএআইয়ের সাম্প্রতিক এক ব্লগ পোস্টে।

ব্রিটিশ দৈনিক গার্ডিয়ান লিখেছে, এখন পর্যন্ত ওপেনএআইয়ের পক্ষ থেকে এটি সরাসরি এমন কোনো স্বীকারোক্তি, যেখানে উঠে এসেছে ‘এআই প্রযুক্তি মানসিক স্বাস্থ্যের সংকটকে আরও জটিল করে তুলতে পারে’।

ব্লগ পোস্টটিতে ওপেনএআই বলেছে, প্রতি সপ্তাহে সক্রিয় ব্যবহারকারীদের মধ্যে প্রায় দশমিক শূন্য সাত শতাংশ, অর্থাৎ প্রায় পাঁচ লাখ ৬০ হাজার মানুষ এমন আচরণ করেন, যা ‘সাইকোসিস বা ম্যানিয়ার মতো গুরুতর মানসিক বিপর্যয়েরই ইঙ্গিত দেয়’। তবে এ ধরনের আলাপ শনাক্তের বিষয়টি কঠিন। ফলে কেবল তাদের প্রাথমিক এক বিশ্লেষণ।

ওপেনআইয়ের ব্লগ পোস্টটি এমন সময়ে এল যখন বেশ কিছু বিষয় নিয়ে বিতর্কের মুখে রয়েছে কোম্পানিটি। সম্প্রতি এক টিনএজারের আত্মহত্যা নিয়ে কোম্পানিটির বিরুদ্ধে মামলাও হয়েছে।

মামলায় ওই টিনএজার পরিবারের দাবি, চ্যাটজিপিটির সঙ্গে দীর্ঘ আলাপের পর আত্মহত্যা করেছেন তাদের সন্তান। এ ছাড়া, গত মাসে ওপেনএআই’সহ বিভিন্ন এআই চ্যাটবট কীভাবে শিশু ও টিনএজারদের ওপর নেতিবাচক প্রভাব ফেলছে তা নিয়ে তদন্ত শুরু করেছে যুক্তরাষ্ট্রের ‘ফেডারেল ট্রেড কমিশন’ বা এফটিসি।

ওই ব্লগ পোস্টে ওপেনএআই দাবি করেছে, ‘জিপিটি ৫’ মডেলের সাম্প্রতিক বিভিন্ন আপডেট চ্যাটবটের ‘অনাকাঙ্খিত আচরণ’ কমিয়ে এনেছে ও আত্মহত্যার মত বিষয় নিয়ে এক হাজারের বেশি আলাপ পর্যবেক্ষণে ব্যবহারকারীর নিরাপত্তার বিষয়টি উন্নত করেছে তারা।

“আমাদের বিশ্লেষণে উঠে এসেছে, নতুন জিপিটি ৫ মডেল আমাদের কাঙ্ক্ষিত আচরণের সঙ্গে ৯১ শতাংশ পর্যন্ত মিলে যায়। এ তুলনায় আগের জিপিটি ৫ মডেলে এই হার ছিল ৭৭ শতাংশ।”

কোম্পানিটি বলছে, জিপিটি ৫ আপডেটে মানসিক সংকটকালীন সহায়তা দিতে বিভিন্ন হটলাইনে প্রবেশাধিকার বাড়িয়েছে এবং দীর্ঘ সেশনের সময় ব্যবহারকারীদের বিশ্রাম নেওয়ার জন্য ‘রিমাইন্ডার’ ফিচারও যোগ করেছে তারা।

গত কয়েক মাস ধরে মডেলটিকে আরও উন্নত করতে নিজেদের ‘গ্লোবাল ফিজিশিয়ান নেটওয়ার্ক’ প্রোগ্রামের ১৭০ জন চিকিৎসকের সাহায্য নিয়েছে ওপেনএআই। এসব মডেলে ব্যবহারে নিরাপত্তার বিষয়টি বিশ্লেষণ এবং চ্যাটবটগুলোর মানসিক স্বাস্থ্য সম্পর্কিত প্রশ্নের উত্তর তৈরিতে সাহায্য করেছেন স্বাস্থ্য বিশেষজ্ঞরা।

ওপেনএআই আরও বলছে, ‘এ কাজের অংশ হিসেবে মনোরোগ বিশেষজ্ঞ ও মনোবিজ্ঞানীরা এক হাজার আটশরও বেশি বাস্তব মানসিক স্বাস্থ্য সম্পর্কিত আলাপ বিশ্লেষণ করে খতিয়ে দেখেছেন নতুন জিপিটি ৫ আগের মডেলের চেয়ে কতটা নিরাপদভাবে সাড়া দিচ্ছে।’

এদিকে, দীর্ঘদিন ধরে এআই গবেষক ও মানসিক স্বাস্থ্য বিশেষজ্ঞরা সতর্ক করে বলেছেন, বিভিন্ন চ্যাটবট অনেক সময় ব্যবহারকারীর ভুল ধারণা বা ক্ষতিকর চিন্তাকেও বাড়িয়ে তুলতে পারে, যেটি ‘সাইকোফ্যান্সি’ নামে পরিচিত। এ প্রক্রিয়ায় মানুষ অনেক সময় এসব চ্যাটবটকে মনস্তাত্ত্বিক বিষয়ে সহায়তাকারীর বিকল্প হিসাবে ব্যবহার করেন।

তবে ওপেনএআই বলেছে, ‘মানসিক স্বাস্থ্য সমস্যা সমাজে সবসময়ই ছিল। ফলে ব্যবহারকারী যত বাড়ছে ততই এ ধরনের কথোপকথনের সংখ্যাও বাড়বে’।

ওপেনএআইয়ের প্রধান নির্বাহী স্যাম অল্টম্যান সম্প্রতি এক্স-এ এক পোস্টে বলেছেন, কোম্পানি এখন মানসিক স্বাস্থ্য বিষয়ক বিভিন্ন সমস্যা নিয়ন্ত্রণে উন্নতি করছে। কোম্পানি শিগগিরই প্রাপ্তবয়স্ক ব্যবহারকারীদের জন্য কনটেন্ট তৈরির ওপর আরোপিত সীমাবদ্ধতা শিথিল করবে।