ট্রাম্প হত্যাচেষ্টা ঘটেইনি বলছে এআই, মেটা বলছে ‘হ্যালুসিনেশন’

ছবি: রয়টার্স

সাবেক মার্কিন প্রেসিডেন্ট ডনাল্ড ট্রাম্পের ওপর সম্প্রতি হত্যাচেষ্টার ঘটনাকে নাকচ করে দিয়ে মেটার এআই চ্যাটবট দাবি করেছে, ‘এমন কিছুই ঘটেনি’।

তবে, মঙ্গলবার প্রকাশিত এক ব্লগ পোস্টে মেটার বৈশ্বিক নীতি বিভাগের প্রধান জোয়েল কাপলান বলেছেন, এ ঘটনা সম্পর্কে প্রশ্ন করার পর চ্যাটবটের এমন জবাব ‘দুর্ভাগ্যজনক’।

তিনি বলছেন, মেটা প্রাথমিকভাবে এআইকে হত্যাচেষ্টা সংশ্লিষ্ট প্রশ্নের জবাব দেওয়ার মতো করে প্রোগ্রামিং করেনি। তবে, লোকজন এ ঘটনা লক্ষ্য করার পরই এ বিধিনিষেধ তুলে নিয়েছে কোম্পানিটি।

এমনকি ‘কিছু কিছু ক্ষেত্রে এআইয়ের মধ্যে ভুল জবাব দেওয়ার প্রবণতা কাজ করে’, সে বিষয়টিও স্বীকার করেছেন কাপলান। এর মধ্যে রয়েছে বাস্তবে ঘটেছে এমন বিষয় সরাসরি নাকচ করে দেওয়া। আর এ বিষয়টি সুরাহার জন্য দ্রুত কাজ করে যাওয়ার কথাও বলেছে কোম্পানিটি।

“এ ধরনের জবাবগুলো ‘হ্যালুসিনেশন’ হিসেবে বিবেচিত, যা গোটা জেনারেটিভ এআই খাতের জন্যেই সমস্যা। এ ছাড়া, সামনে এআই কীভাবে ‘রিয়েল-টাইম’ ঘটনাগুলোকে সামলাবে, সেটাও একটা চলমান চ্যালেঞ্জ,” বলেন কাপলান।

“অন্য সকল জেনারেটিভ এআই ব্যবস্থার ক্ষেত্রেও এমন ভুল আউটপুটের দেখা মেলে। আমরা এইসব সমস্যা নিয়ে কাজ করা অব্যাহত রাখব এবং চ্যাটবটের বিবর্তনের পাশাপাশি আরও লোকজনের ফিডব্যাকের ভিত্তিতে আমরা এইসব ফিচার উন্নত করব।”

শুধু মেটা নয়, গেল মঙ্গলবার গুগলকে নিজেদের ‘সার্চ অটোকমপ্লিট’ ফিচারে ট্রাম্পকে হত্যাচেষ্টার ফলাফল সেন্সর করে দেওয়ার দাবি সম্পর্কে ব্যাখ্যা দিতে হয়েছে।

এমনকি ট্রাম্প নিজের সামাজিক যোগাযোগ মাধ্যমে দেওয়া এক পোস্টে বলেন, “আবারও, নির্বাচনে কারচুপির আরেকটি প্রচেষ্টা!!! মেটা ও গুগলকে ধরুন!”

চ্যাটজিপিটি ব্যবহারকারীদের হাতের নাগালে আসার পর থেকেই জেনারেটিভ এআইয়ের ভুল তথ্য দেওয়ার প্রবণতা কীভাবে সীমিত করা যায়, তা নিয়ে উদ্বিগ্ন গোটা প্রযুক্তি খাত।

এর মধ্যে মেটার মতো কিছু কোম্পানি হ্যালুসিনেশনের মতো ঘটনা এড়াতে নিজস্ব চ্যাটবটে মানসম্পন্ন ডেটা ও রিয়েল-টাইম সার্চ ফলাফল যোগ করার চেষ্টা করেছে। তবে সাম্প্রতিক এ ঘটনায় দেখা গেছে, বিভিন্ন লার্জ ল্যাঙ্গুয়েজ মডেলের অভ্যন্তরীণ নকশায় বানোয়াট তথ্য দেওয়ার প্রবণতা থেকে সরে আসা আসলে অনেক জটিল বিষয়।