Published : 19 Sep 2025, 02:50 PM
বর্তমানে কৃত্রিম বুদ্ধিমত্তা বা এআই চ্যাটবটের মতো লার্জ ল্যাঙ্গুয়েজ মডেলের (এলএলএম) অন্যতম বড় সমস্যা হচ্ছে হ্যালুসিনেশন বা বিভ্রান্তি। বিভিন্ন এআই চ্যাটবট কেন হ্যালুসিনেট করে সম্প্রতি এর সমাধান খুঁজে পাওয়ার দাবি করেছেন ওপেনএআই গবেষকরা।
কোনো এলএলএম যখন ভুল বা মিথ্যা তথ্য তৈরি করে সেটিকে ব্যবহারকারীদের সামনে এমনভাবে উপস্থাপন করে যেন তা সত্যি– এমন ঘটনাকে বলে হ্যালুসিনেশন।
এ সমস্যা ওপেনএআইয়ের চ্যাটজিপিটি ৫ থেকে শুরু করে অ্যানথ্রপিকের ক্লড পর্যন্ত জনপ্রিয় সব এআই মডেলেই রয়েছে বলে প্রতিবেদনে লিখেছে মার্কিন বাণিজ্য প্রকাশনা বিজনেস ইনসাইডার।
বৃহস্পতিবার প্রকাশিত নিজেদের নতুন এক গবেষণাপত্রে ওপেনএআই বলেছে, বিভিন্ন এলএলএম-এর হ্যালুসিনেশনের কারণ হচ্ছে, এগুলোকে এমনভাবে প্রশিক্ষণ দেওয়া হচ্ছে, যেখানে ‘অনিশ্চয়তা স্বীকার করার’ চেয়ে ‘অনুমান বা আন্দাজ করে উত্তর দেওয়া’র বেলায় পুরস্কৃত করা হয়।
অন্যভাবে বললে, বিভিন্ন এলএলএম’কে শেখানো হচ্ছে, কোনো বিষয়ে না জানলেও আত্মবিশ্বাসের সঙ্গে কিছু একটা বলে ফেলা। তবে সব মডেল একরকম না, কোনো কোনো চ্যাটবট এ ক্ষেত্রে অন্যদের চেয়ে কার্যকর।
গত মাসে এক ব্লগ পোস্টে ওপেনএআই বলেছে, অ্যানথ্রপিকের বিভিন্ন ক্লড মডেল নিজেদের অনিশ্চয়তা সম্পর্কে বেশি সচেতন এবং এরা ভুল তথ্য এড়ানোর চেষ্টা করে। বেশিরভাগ সময় উত্তর দেওয়ার বেলায় কোনো কিছু সম্পর্কে না জানলে ‘না’ বলে ক্লড মডেল। তবে এতে করে এর ব্যবহার কমে যেতে পারে।
এ নিয়ে গবেষকরা লিখেছেন, “হ্যালুসিনেশন বা বিভ্রান্তির বিষয়টি টিকে থাকার কারণ হচ্ছে বেশিরভাগ সময় এআইয়ের উত্তর যেভাবে মূল্যায়ন করা হয় তা বিভিন্ন মডেলকে সঠিক উত্তর দেওয়ার চেয়ে পরীক্ষায় ভালো করার দিকেই উৎসাহিত করে। এক্ষেত্রে অনিশ্চিত হলে অনুমান করে উত্তর দেওয়াই এদের পরীক্ষার ফলাফলকে ভালো করে তোলে।”
এআই চ্যাটবটগুলো আসলে সব সময়ই এক ধরনের ‘পরীক্ষা দেওয়ার মতো মানসিকতায়’ থাকে। ফলে এরা প্রতিটি প্রশ্নের উত্তর এমনভাবে দেয় যেন জীবনটা কেবল সঠিক না হলে ভুল বা সাদা না হলে কালো হয়ে যাবে, মানে সব কিছুই এরা দ্বৈতভাবে দেখে বলে প্রতিবেদনে লিখেছে বিজনেস ইনসাইডার।
এসব মডেল বাস্তব জীবনের বাস্তবতা বুঝবে না। জীবনের বাস্তবতায় অনিশ্চয়তা অনেক বেশি সাধারণ, আর সত্যিকারের সঠিকতা সব সময় মেলে না বা নিশ্চিত নয়।
গবেষকরা লিখেছেন, “মানুষ স্কুলের বাইরে, বাস্তব জীবনের বিভিন্ন কঠিন অভিজ্ঞতা থেকেই শেখে কখন অনিশ্চয়তার প্রকাশ গুরুত্বপূর্ণ। অন্যদিকে, এসব এআই মডেল এমন পরীক্ষার মাধ্যমে মূল্যায়িত হয়েছে, যেখানে অনিশ্চয়তা প্রকাশ করাকে শাস্তি হিসেবে দেখা হচ্ছে।”
এর একটি সমাধান হচ্ছে, বিভিন্ন এলএলএম-এর মূল্যায়নের মাপকাঠিকে নতুনভাবে ডিজাইন করা।
গবেষণাপত্র অনুসারে, “মূল সমস্যা হচ্ছে, চ্যাটবটের অনেক সংখ্যক মূল্যায়ন পদ্ধতি সঠিকভাবে সামঞ্জস্যপূর্ণ নয়। এ বহুসংখ্যক মূল্যায়ন পদ্ধতি এমনভাবে পরিবর্তন করতে হবে, যাতে অনিশ্চয়তার ক্ষেত্রে উত্তর না দেওয়ার বিষয়টি আর শাস্তি হিসেবে বিবেচিত না হয়।”
গবেষণাপত্র নিয়ে লেখা ব্লগ পোস্টে ওপেনএআই ব্যাখ্যা করেছে, এ ধরনের পরিমার্জন বা পরিবর্তনে আসলে কী কী বিষয় অন্তর্ভুক্ত থাকতে পারে।
ওপেনএআই বলেছে, “যেসব মূল্যায়ন পদ্ধতি এখন সাধারণভাবে ব্যবহৃত হয় এবং কেবল সঠিকতার ওপর ভিত্তি করে নম্বর দেয় সেগুলোকে আপডেট করতে হবে যেন অনুমান করে উত্তর দেওয়াকে উৎসাহিত করা না হয়। আন্দাজে ঠিক উত্তর দেওয়াকে পুরস্কৃত করা হলে এসব মডেলও সেই অনুসারে অনুমান করেই উত্তর দিতে শিখবে।”
এ গবেষণাপত্রের বিষয়ে বিজনেস ইনসাইডারের মন্তব্যের অনুরোধে সাড়া দেয়নি ওপেনএআই।
