অবশেষে ‘জানি না’ বলতে শিখল এআই, কমবে ভুল তথ্যের প্রবণতা

অজানা বিষয়ে নিজের অজ্ঞতা স্বীকার করার চেয়ে অনুমান করে উত্তর দিতেই বেশি উৎসাহিত বোধ করে বিভিন্ন এআই মডেল।

ওপেনএআইয়ের চ্যাটজিপিটি’র মতো জনপ্রিয় বিভিন্ন এআই মডেল প্রায়ই ‘হ্যালুসিনেশন’ বা মিথ্যা তথ্য তৈরি করে। ছবি: রয়টার্স

অপ্রাসঙ্গিক বা অজানা বিষয়ে চ্যাটবটের ভুল তথ্য দেওয়ার প্রবণতা কমাতে যুগান্তকারী পদ্ধতি উদ্ভাবনের দাবি করেছেন দক্ষিণ কোরিয়ার গবেষকরা।

মানুষের মস্তিষ্কের বিকাশের প্রক্রিয়া অনুসরণ করে তৈরি এ পদ্ধতিতে এআই এখন থেকে মানুষের মতোই নিজের সীমাবদ্ধতা বুঝতে পারবে এবং কোনো কিছু না জানলে তা সরাসরি স্বীকার করতে শিখবে বলে দাবি তাদের।

‘কোরিয়া অ্যাডভান্সড ইনস্টিটিউট অফ সায়েন্স অ্যান্ড টেকনোলজি’র গবেষকরা বলছেন, এ উদ্ভাবনটি অটোনমাস গাড়ি ও চিকিৎসা বিজ্ঞানের মতো সংবেদনশীল ক্ষেত্রে এআইয়ের নির্ভরযোগ্যতা আরও বাড়িয়ে তুলবে।

আগের বিভিন্ন গবেষণায় দেখা গেছে, এআইয়ের ‘অতিরিক্ত আত্মবিশ্বাস’ বা ভুল তথ্যকেও সঠিক বলে চালিয়ে দেওয়ার প্রবণতা সিদ্ধান্ত গ্রহণের ক্ষেত্রে বড় ঝুঁকি তৈরি করে, বিশেষ করে চিকিৎসার রোগ নির্ণয়ের মতো গুরুত্বপূর্ণ কাজে।

ওপেনএআইয়ের চ্যাটজিপিটি’র মতো জনপ্রিয় বিভিন্ন এআই মডেল প্রায়ই ‘হ্যালুসিনেশন’ বা মিথ্যা তথ্য তৈরি করে। যার কারণ, অজানা বিষয়ে নিজের অজ্ঞতা স্বীকার করার চেয়ে অনুমান করে উত্তর দিতেই এসব মডেল বেশি উৎসাহিত বোধ করে বলে প্রতিবেদনে লিখেছে ব্রিটিশ পত্রিকা ইন্ডিপেনডেন্ট।

গবেষকরা এখন এমন পদ্ধতি উদ্ভাবন করেছেন যা এআই’কে অজানা বা অচেনা তথ্য শনাক্ত করতে সাহায্য করবে, যা চ্যাটবটের সার্বিক নির্ভরযোগ্যতা বাড়াতে সহায়ক হবে।

তারা বলেছেন, এআইয়ের এ অতিরিক্ত আত্মবিশ্বাসের মূল কারণ, তাদের ‘আর্টিফিশিয়াল নিউরাল নেটওয়ার্ক’, যা এসব মডেলের মেরুদণ্ড হিসেবে কাজ করে। এসব নেটওয়ার্ক একদম প্রাথমিক তথ্য থেকে যেভাবে শেখে, সেখানেই সমস্যার সূত্রপাত। শুরুর দিকের ছোটখাটো এসব ভুল সংশোধন করা না গেলে পরবর্তী ধাপে প্রশিক্ষণের সময় সেগুলো বড় আকার ধারণ করে।

গবেষণায় উঠে এসেছে, প্রশিক্ষণের শুরুর ধাপে যখন নিউরাল নেটওয়ার্কে কিছু এলোমেলো তথ্য দেওয়া হয় তখন কোনো কিছু না শিখেই মডেলটি বেশি আত্মবিশ্বাস দেখায়।

গবেষকরা বলছেন, এ ধরনের ভুল ধারণা থেকেই এআইয়ের ‘হ্যালুসিনেশন’ বা বিভ্রান্তিকর তথ্য দেওয়ার প্রবণতা তৈরি হয়।

এ সমস্যা সমাধানে গবেষকরা মানুষের মস্তিষ্কের কার্যপদ্ধতি অনুসরণ করেছেন। মানুষের মস্তিষ্ক জন্মের আগে থেকেই যেভাবে কিছু প্রাথমিক সংকেত প্রক্রিয়াকরণ শুরু করে অনেকটা সেই আদলেই তারা নতুন পদ্ধতিটি সাজিয়েছেন।

তাদের ভাষ্য, এআই’কে মূল শিক্ষা দেওয়ার আগে তারা সেটিকে কিছু ‘র‍্যান্ডম’ বা এলোমেলো সংকেত দিয়ে প্রশিক্ষণ দিয়েছেন। বিষয়টি এআইয়ের জন্য অনেকটা প্রাথমিক প্রস্তুতির মতো, যা এআই’কে নিজের সীমাবদ্ধতা বুঝতে সাহায্য করে। ফলে এআই আগের তুলনায় বেশি নির্ভুলভাবে তথ্য দিতে পারছে এবং ভুল বা কাল্পনিক তথ্য তৈরির প্রবণতা কমিয়ে আনছে।

এ ওয়ার্ম-আপ প্রক্রিয়াটি এআই মডেলের প্রাথমিক আত্মবিশ্বাসের স্তরকে একদম কমিয়ে শূন্যের কাছাকাছি নিয়ে আসে, যা এর ‘অতিরিক্ত আত্মবিশ্বাসের’ প্রবণতাকে কমিয়ে দেয়।

গবেষকরা বলছেন, এ পদ্ধতিটি বিভিন্ন এআই মডেলকে প্রথমেই শিখতে সাহায্য করে যে, ‘আমি এখনও কিছুই জানি না’।

“প্রচলিত বিভিন্ন মডেল প্রশিক্ষণের সময় না পাওয়া তথ্যের ক্ষেত্রেও খুব আত্মবিশ্বাসের সঙ্গে ভুল উত্তর দেওয়ার প্রবণতা দেখায়। তবে এ ওয়ার্ম-আপ ট্রেইনিংয়ের ফলে বিভিন্ন মডেল নিজেদের আত্মবিশ্বাস কমিয়ে আনতে এবং কোনো তথ্য না জানার বিষয়টি শনাক্ত করতে পারে।”

এ পদ্ধতিটি এআই’কে ‘সে কী জানে’ এবং ‘কী জানে না’ এই দুটির মধ্যে পার্থক্য করার সক্ষমতা তৈরি করতে সাহায্য করবে।

গবেষণাটি প্রকাশ পেয়েছে বিজ্ঞানভিত্তিক জার্নাল ‘নেচার মেশিন ইন্টেলিজেন্স’-এ।

এ গবেষণার অন্যতম লেখক সে-বাম পাইক বলেছেন, “গবেষণাটি প্রমাণ করেছে, মস্তিষ্কের বিকাশের মূল বিভিন্ন নীতি যোগ করার মাধ্যমে এআই এখন অনেকটা মানুষের মতোই নিজের জ্ঞানের অবস্থা বুঝতে পারবে।

“এমনটি গুরুত্বপূর্ণ, কারণ তা এআই’কে কেবল সঠিক উত্তর দিতেই সাহায্য করবে না, বরং কখন অনিশ্চিত বা কখন ভুল করতে পারে সেটি বুঝতেও সাহায্য করবে।”