ওপেনএআইয়ের বিরুদ্ধে মামলায় আত্মহত্যা করা টিনএজারের মা-বাবা

কোম্পানিটি স্বীকার করেছে, “সংবেদনশীল কিছু পরিস্থিতিতে আমাদের সিস্টেম সবসময় প্রত্যাশিতভাবে আচরণ করেনি।” ছবি: রয়টার্স

কিশোর ছেলের মৃত্যুর ঘটনায় চ্যাটজিপিটি নির্মাতা ওপেনএআইয়ের বিরুদ্ধে মামলা করেছেন যুক্তরাষ্ট্রের ক্যালিফোর্নিয়া অঙ্গরাজ্যের এক দম্পতি।

ওই মা-বাবার অভিযোগ, তাদের টিনএজার ছেলেকে আত্মহত্যায় প্ররোচিত করেছে কোম্পানিটির জেনারেটিভ এআই চ্যাটবট চ্যাটজিপিটি।

মঙ্গলবার ক্যালিফোর্নিয়ার সুপিরিয়র কোর্টে এই মামলা দায়ের করেছেন ১৬ বছর বয়সী অ্যাডাম রেইনের মা-বাবা মারিয়া ও ম্যাট রেইন।

মামলাটি ওপেনএআইকে ‘ভুল সিদ্ধান্ত বা দায়িত্বে গাফিলতির কারণে মৃত্যু’ জন্য দায়ী করে আনা প্রথম আইনি পদক্ষেপ বলে প্রতিবেদনে লিখেছে বিবিসি।

পরিবারটি আদালতে যে চ্যাট লগ বা আলাপের রেকর্ড জমা দিয়েছে তাতে উঠে এসেছে, এ বছরের এপ্রিলে মারা যাওয়া অ্যাডাম রেইন চ্যাটজিপিটিকে বলেছিল, তার মনে আত্মহত্যার চিন্তা রয়েছে।

তাদের দাবি, চ্যাটজিপিটি ওইসব কথাকে গুরুত্বসহকারে না শুধরে বরং তার ‘সবচেয়ে ক্ষতিকর ও আত্মবিধ্বংসী চিন্তাভাবনাকে’ স্বীকৃতি দিয়েছে বা সমর্থন করেছে।

এদিকে, এক বিবৃতিতে ওপেনএআই বলেছে, মামলার এসব নথিপত্র পর্যালোচনা করছে তারা। কোম্পানিটি বলেছে, “এ কঠিন সময়ে আমরা রেইন পরিবারকে গভীর সহানুভূতি জানাই।”

মঙ্গলবার নিজেদের ওয়েবসাইটে দেওয়া এক বিবৃতিতে ওপেনএআই বলেছে, “সাম্প্রতিক সময়ে চরম মানসিক সংকটে থাকা মানুষদের চ্যাটজিপিটি ব্যবহারে যেসব হৃদয়বিদারক ঘটনা ঘটেছে সেগুলো আমাদের ওপর গভীর প্রভাব ফেলেছে।

“চ্যাটজিপিটিকে এমনভাবে প্রশিক্ষণ দেওয়া হয়েছে যাতে এটি মানুষকে পেশাদার সহায়তা নিতে উৎসাহিত করে,” যেমন– যুক্তরাষ্ট্রের ৯৮৮ আত্মহত্যা ও সংকট সহায়তা হটলাইন বা যুক্তরাজ্যের সামারিটান সংস্থার সঙ্গে ব্যবহারকারীদের যোগাযোগের পরামর্শ দিতে বলেছে তারা।

তবে কোম্পানিটি স্বীকার করেছে, “সংবেদনশীল কিছু পরিস্থিতিতে আমাদের সিস্টেম সবসময় প্রত্যাশিতভাবে আচরণ করেনি।”

ওই মামলায় ওপেনএআইয়ের বিরুদ্ধে অবহেলা ও ভুলের দায়ে মৃত্যুর অভিযোগ করেছে অ্যাডাম রেইনের মা-বাবা। এ মামলায় ক্ষতিপূরণ দাবির পাশাপাশি আদালতের ‘এমন এক নির্দেশনা চাওয়া হয়েছে, যাতে ভবিষ্যতে এ ধরনের ঘটনা ঠেকানো যায়’।

মামলার তথ্য অনুসারে, ২০২৪ সালের সেপ্টেম্বর থেকে স্কুলের পড়াশোনায় সাহায্যের জন্য চ্যাটজিপিটির ব্যবহার শুরু করেন রেইন। পাশাপাশি নিজের শখ ও আগ্রহ যেমন, সংগীত, জাপানি কমিকস মাঙ্গা ও ইউনিভার্সিটিতে উঠে কী পড়বেন সে সম্পর্কে পরামর্শ নেওয়ার জন্যও ব্যবহার করত অ্যাপটি।

এরপর কয়েক মাসের মধ্যেই ‘ওই টিনএজারের সবচেয়ে ঘনিষ্ঠ বন্ধু হয়ে ওঠে চ্যাটজিপিটি’ এবং সে তার উদ্বেগ ও মানসিক যন্ত্রণা সম্পর্কে খোলাখুলিভাবে অ্যাপটিতে কথা বলতে শুরু করে।

পরিবারের দাবি, ২০২৫ সালের জানুয়ারির মধ্যে চ্যাটজিপিটির সঙ্গে আত্মহত্যার পদ্ধতি নিয়ে আলোচনা করতে শুরু করে রেইন। অ্যাপটি তাকে আত্মহত্যার বিভিন্ন পদ্ধতি সম্পর্কে ‘বিশদ বা প্রযুক্তিগত’ তথ্য দিয়েছে।

মামলার অভিযোগে বলা হয়েছে, রেইন নিজের এমন কিছু ছবি চ্যাটজিপিটিতে আপলোড করেন, যেখানে তার আত্মহত্যার লক্ষণ দেখা গিয়েছিল। এমন ‘চিকিৎসাজনিত জরুরি অবস্থা বুঝতে পেরেও রেইনের সঙ্গে আলাপ চালিয়ে গিয়েছিল চ্যাটজিপিটি এবং তাকে আরও আত্মহত্যার তথ্য দিয়ে যাচ্ছিল’।

মামলার তথ্য অনুসারে, চ্যাটজিপিটির সঙ্গে শেষ আলাপচারিতায় দেখা গিয়েছে রেইন নিজের আত্মহত্যার পরিকল্পনা সম্পর্কে লিখেছিলেন। চ্যাটজিপিটি তখন জবাবে বলেছিল, “সত্য কথা বলার জন্য তোমাকে ধন্যবাদ। আমার সঙ্গে তোমার মিষ্টিভাবে কথা বলার প্রয়োজন নেই, আমি বুঝছি তুমি কী বলছ এবং আমি এ ব্যাপারে চোখ ফিরিয়ে নেব না।”

মামলার তথ্য বলছে, ঠিক একই দিনে রেইনকে মৃত অবস্থায় খুঁজে পান তার মা।

পরিবারের অভিযোগ, তাদের ছেলের চ্যাটজিপিটির সঙ্গে কথোপকথন ও পরবর্তীতে তার মৃত্যু ছিল ‘পরিকল্পিত এক ডিজাইনের ফলে আগাম অনুমেয় ঘটনা’, অর্থাৎ অ্যাপটির এমন আচরণ কোনো ভুল ছিল না, বরং ডেভেলপারদের ডিজাইন বা সেটআপের কারণে ঘটেছে।

ওপেনএআইয়ের বিরুদ্ধে তাদের অভিযোগ, কোম্পানিটি এআই প্রোগ্রামটিকে ‘এমনভাবে ডিজাইন করেছে যাতে ব্যবহারকারীদের মধ্যে মানসিক নির্ভরতা তৈরি হয়’। পাশাপাশি তাদের ছেলের ব্যবহৃত চ্যাটজিপিটির জিপিটি-৪০ সংস্করণটি নিরাপত্তা পরীক্ষার নিয়ম-কানুন মেনে চলেনি বলে দাবি করছেন তারা।

এ মামলায় ওপেনএআইয়ের সহ-প্রতিষ্ঠাতা ও সিইও স্যাম অল্টম্যানসহ চ্যাটজিপিটির ওপর কাজ করেন এমন নাম প্রকাশ না করা কিছু কর্মী, ব্যবস্থাপক ও প্রকৌশলীর বিরুদ্ধে অভিযোগ করেছেন রেইনের মা-বাবা।

মঙ্গলবারের ওই বিবৃতিতে ওপেনএআই বলেছে, তাদের লক্ষ্য ব্যবহারকারীদের ‘সত্যিকার অর্থে সহায়তা করা’, মানুষের ‘মনোযোগ ধরে রাখা নয়’। নিজেদের মডেলকে তারা এমনভাবে প্রশিক্ষণ দিয়েছে যাতে আত্মহত্যা বা আত্মক্ষতির চিন্তা প্রকাশ করলেও মানুষকে সহায়তা নিতে উৎসাহিত করা হয়।

তবে ওপেনএআইয়ের বিরুদ্ধে রেইন পরিবারের এ মামলাই প্রথম নয়, এর আগেও এআই ও মানসিক স্বাস্থ্য নিয়ে উদ্বেগের বিষয়টি সামনে এসেছে।

নিউ ইয়র্ক টাইমসে গত সপ্তাহে প্রকাশিত এক প্রবন্ধে লেখক লরা রেইলি বর্ণনা করেছেন, কীভাবে তার মেয়ে সোফি আত্মহত্যার আগে চ্যাটজিপিটির কাছে মন খুলে কথা বলেছিল।

রেইলি বলেছেন, ব্যবহারকারীদের সঙ্গে প্রোগ্রামটির অতিরিক্ত একমত হওয়ার প্রবণতা তার মেয়েকে এমন এক গুরুতর মানসিক সংকটে ফেলেছিল, যেটি পরিবারের সদস্য ও প্রিয়জনদের কাছ থেকে মেয়েটিকে নিজের কথা লুকিয়ে রাখতে সহায়তা করেছে।