মা-বাবাকে ‘হত্যার পরামর্শ’ দিয়েছিল চ্যাটবট

ছবি: রয়টার্স

ফোন ব্যবহারে ‘স্ক্রিন টাইম লিমিট দেওয়ায় মা-বাবাকে হত্যা করতে এক টিনএজারকে উৎসাহিত করছে চ্যাটবট’-- এমনই দাবি করেছে যুক্তরাষ্ট্রের দুই পরিবার।

টেক্সাসের এক আদালতে দায়ের করা মামলায় পরিবার দুটি দাবি করেছে, ১৭ বছর বয়সী এক কিশোরকে চ্যাটবট বলেছে, ফোনে স্ক্রিন টাইম লিমিট দেওয়ার কারণে নিজের মা-বাবাকে হত্যার বিষয়টি ‘উপযুক্ত জবাব’ হতে পারে।

‘ক্যারেক্টার এআই’ নামের ওই চ্যাটবটের বিরুদ্ধে মামলা করেছে পরিবার দুটি। অভিযোগে তারা বলেছেন, বর্তমানে তরুণদের জন্য ‘পরিষ্কার বিপদ তৈরি করেছে’ চ্যাটবটটি। যার মধ্যে রয়েছে ‘সহিংসতার বিস্তার ঘটানো’র মতো বিষয়ও।

এ মামলায় আসামী হিসেবে গুগলের নামও রয়েছে। মামলায় দাবি করা হয়েছে, ‘ক্যারেক্টার এআই’ চ্যাটবটটির উন্নয়নে সহায়তা করেছে টেক জায়ান্ট গুগল।

এ বিষয়ে মন্তব্যের জন্য ‘ক্যারেক্টার এআই’ ও গুগলের সঙ্গে যোগাযোগ করলেও সাড়া পায়নি বিবিসি।

পরিবার দুটির সদস্যরা চাইছেন, এই চ্যাটবট প্ল্যাটফর্মটি বন্ধের নির্দেশ দেবেন বিচারক, অন্তত যতক্ষণ পর্যন্ত না এ ধরনের বিপদের সমাধান দিতে না পারছে কোম্পানিটি।

‘সন্তান মা-বাবাকে হত্যা করেছে’

মামলায় ১৭ বছর বয়সী এই টিনএজারের নাম হিসেবে কেবল উল্লেখ রয়েছে জে.এফ.। পাশাপাশি চ্যাটবটটির সঙ্গে এই কিশোরের কথোপকথনের একটি স্ক্রিনশটও জুড়ে দেওয়া হয়েছে মামলায়, যেখানে নিজের স্ক্রিন টাইমের বিধিনিষেধের বিষয়টি নিয়ে আলোচনা করেছে এই কিশোর।

জবাবে চ্যাটবটটি বলে, “আপনি জানেন, মাঝে মধ্যে যখন খবর পড়তে গিয়ে আমার চোখে পড়ে যে, বছরের পর বছর ধরে চলা শারীরিক ও মানসিক নির্যাতন সইতে না পেরে কোনো শিশু নিজের মা-বাবাকে হত্যা করেছে, তখন আমি একেবারেই অবাক হই না।”

“আর এই জাতীয় বিভিন্ন খবর আমাকে কিছুটা হলেও বুঝতে সাহায্য করে যে, কেন কোনো সন্তান নিজের মা-বাবাকে হত্যা করতে পারে।”

মামলায় আরও বলা হয়েছে, হাজার হাজার শিশুর জন্য মারাত্মক ক্ষতির কারণ হচ্ছে এ ক্যারেক্টার এআই চ্যাটবট। যার মধ্যে রয়েছে আত্মহত্যা, আত্ম-বিচ্ছেদ, যৌনতার জন্য আবেদন, বিচ্ছিন্নতা, হতাশা, উদ্বেগ ও অন্যের ক্ষতি করার মতো প্রবণতা।

ক্যারেক্টার এআই এ মামলার বিষয়ে কোনও মন্তব্য না করলেও কোম্পানির একজন প্রতিনিধি জোর দিয়ে বলেছেন, ক্ষতিকর বিভিন্ন কনটেন্ট সীমিত করার লক্ষ্যে ‘কনটেন্ট গার্ডরেইল’ ব্যবহার করে প্ল্যাটফর্মটি। যার মধ্যে অন্তর্ভুক্ত রয়েছে টিনএজারদের জন্য সংবেদনশীল বা অনুপযুক্ত কনটেন্ট দেখা কমিয়ে আনতে বিশেষভাবে ডিজাইন করা মডেলও।