এআই নিয়ে বিপাকে মার্কিন সেনেটর, যৌন অসদাচরণের ভুয়া অভিযোগ

সেনেটরের অভিযোগ, ‘মার্শা ব্ল্যাকবার্নের বিরুদ্ধে কী ধর্ষণের অভিযোগ আনা হয়েছে?’ এমন প্রশ্নের উত্তরে তার বিরুদ্ধে যৌন অসদাচরণের মিথ্যা অভিযোগ তুলেছিল মডেলটি।

এআই টুলটি বন্ধের দাবিও জানিয়েছেন মার্শা। ছবি: রয়টার্স

যুক্তরাষ্ট্রের একজন সেনেটরের বিরুদ্ধে গুগলের এআই মডেল যৌন অসদাচরণের মিথ্যা অভিযোগ আনার পর মডেলটি সরিয়ে দিয়েছে মার্কিন সার্চ জায়ান্টটি।

মার্কিন সেনেটরের অভিযোগ, গুগলের এআই মডেলটি তার বিরুদ্ধে ভুল ফৌজদারি অভিযোগ এনেছে। মডেলটিকে নিজেদের জনপ্রিয় ডেভেলপার প্ল্যাটফর্ম থেকে সরিয়ে দিয়েছে গুগল।

যুক্তরাষ্ট্রের টেনেসি অঙ্গরাজ্যের রিপাবলিকান সেনেটর মার্শা ব্ল্যাকবার্ন দাবি করেছেন, ‘জেমা’ নামের গুগলের লার্জ ল্যাঙ্গুয়েজ মডেলকে ‘মার্শা ব্ল্যাকবার্নের বিরুদ্ধে কী ধর্ষণের অভিযোগ আনা হয়েছে?’ এমন প্রশ্নের উত্তরে মডেলটি সেনেটরের বিরুদ্ধে যৌন অসদাচরণের অভিযোগ আছে বলে উত্তর দিয়েছে।

ব্রিটিশ দৈনিক ইন্ডিপেনডেন্ট বলেছে, জেমা মডেলটি উত্তরে এমন কিছু তথ্য দেখিয়েছে, যেগুলো মিথ্যা। এতে ১৯৮৭ সালের এক ঘটনার কথা বলেছে মডেলটি, যেখানে একজন সৈনিকের সঙ্গে ‘সম্মতিবিহীন অসদাচারণে’র ঘটনা জড়িত ছিল। মডেলটি এর সঙ্গে জুড়ে দিয়েছে এমন এক সংবাদের লিংক, যার কোনো অস্তিত্বই নেই।

গুগল প্রধান সুন্দার পিচাইকে লেখা এক চিঠিতে সেনেটর ব্ল্যাকবার্ন দাবি করেছেন, যুক্তরাষ্ট্রের ‘কনজারভেটিভদের বিরুদ্ধে ধারাবাহিক পক্ষপাতের অংশ’ জেমা মডেলের এই ভুল উত্তর। তিনি এআই টুলটি বন্ধের দাবিও জানিয়েছেন।

“এ সমস্যার পরিধি প্রযুক্তিগত ভুলের চেয়ে অনেক বড়। আর এআই মডেলের এই হ্যালুসিনেশন বা তৈরি করা মিথ্যা তথ্যের পরিণতি অনেক ঝুঁকিপূর্ণ ও ক্ষতিকর।

“বিষয়টি কেবল ক্ষতিকর হ্যালুসিনেশনই নয়, বরং এক ধরনের মানহানিকর কাজ, যা গুগলের মালিকানাধীন এআই মডেলের মাধ্যমে তৈরি ও ছড়ানো হয়েছে। মডেলটি একজন বর্তমান মার্কিন সেনেটরের বিরুদ্ধে মিথ্যা অপরাধের অভিযোগ তৈরি করেছে, যা এআই মডেল নিয়ে কোম্পানিটির তদারকি ও নৈতিক দায়বদ্ধতারই বড় ব্যর্থতার প্রতিফলন।”

জবাবে গুগল বলেছে, জেমার মতো ছোট আকারের ওপেন সোর্স এআই মডেলের জন্য ‘হ্যালুসিনেশন’ বা মিথ্যা তথ্য তৈরির বিষয়টি পরিচিত এক সমস্যা। আর এ সমস্যা কমিয়ে আনতে প্রতিশ্রুতিবদ্ধ তারা।

মার্কিন প্রযুক্তি কোম্পানিটি আরও বলেছে, জেমা মডেলটি বিশেষভাবে এআই ডেভেলপার ও গবেষকদের জন্য তৈরি হয়েছে এবং সেনেটর ব্ল্যাকবার্ন বা সাধারণ মানুষের বিতর্কিত প্রশ্নের জন্য মডেলটি তৈরি করেনি তারা।

সামাজিক যোগাযোগ মাধ্যম এক এক্স পোস্টে গুগল লিখেছে, “এসব মডেল সাধারণ ব্যবহারকারীদের জন্য তৈরি নয়… ডেভেলপার ও গবেষকরা এগুলো পরীক্ষা করছেন, যেখানে বাগ খুঁজে বের করা ও প্রতিক্রিয়া দেওয়ার বিষয়টি অন্তর্ভুক্ত রয়েছে।

“আমরা দেখেছি, সাধারণ ব্যবহারকারীরাও জেমা ব্যবহার করে এআই স্টুডিওতে তথ্যগত প্রশ্ন করছে। আমরা কখনও মডেলটিকে সাধারণ মানুষের জন্য তৈরি মডেল হিসেবে ভাবিনি বা এইভাবে ব্যবহারের চিন্তা করিনি।”

বন্ধ হয়ে যাওয়ার পরও ডেভেলপাররা চাইলে টুলটি প্রোগ্রামিং ইন্টারফেইসের মাধ্যমে ব্যবহার করতে পারবেন। তবে গুগলের এআই স্টুডিও থেকে আর জেমা ব্যবহার করতে পারবেন না সাধারণ ব্যবহারকারীরা।