বর্ণবাদী আর ভুল তথ্য-উপাত্ত দেওয়ায় অফলাইনে মেটার নতুন এআই

মেটার প্রধান এআই গবেষক টুইট করেছেন, “গ্যালাকটিকার ডেমো আপাতত অফলাইনে। রসিকতার ছলে এর যাচ্ছেতাই ব্যবহার করে আর মজা করা সম্ভব নয়। এবার খুশি?”

প্রযুক্তি ডেস্কবিডিনিউজ টোয়েন্টিফোর ডটকম
Published : 19 Nov 2022, 11:03 AM
Updated : 19 Nov 2022, 11:03 AM

নতুন এআই উন্মোচন করেছিল মেটা। বর্ণবাদী আর ভুল তথ্য-উপাত্ত দেওয়ায় অভিষেকের তিন দিনের মাথায় পরীক্ষামূলক এআই ‘গ্যালাকটিকা’-কে অফলাইনে নিতে বাধ্য হয়েছে মার্ক জাকারবার্গের কোম্পানি। 

মঙ্গলবার গ্যালাকটিকা উন্মোচনের সময়ে মেটা বলেছিল ‘বৈজ্ঞানিক জ্ঞান আহরণ, সমন্বয় এবং বিশ্লেষণের’ লক্ষ্য নিয়ে নির্মাণ করা হয়েছে ‘লার্জ ল্যাঙ্গুয়েজ মডেলটি’। সহজ ভাষায় বললে, বৈজ্ঞানিক গবেষণা প্রতিবেদন লেখার প্রক্রিয়া সহজ করার জন্য এআইটি বানিয়েছিল মেটা। 

কিন্তু, গ্যালাকটিকার কার্যক্ষমতা পরীক্ষা করতে গিয়ে ব্যবহারকারীরা আবিষ্কার করেছেন ‘বাস্তবসম্মত আবোল-তাবোল’ লিখছে এআইটি। সমালোচনার মুখে মেটা এআইটিকে অফলাইনে নিতে বাধ্য হয়েছে বলে জানিয়েছে এমআইটি টেকনোলজি রিভিউ।

আর এমন ঘটনা ঘটেছে ব্যবহারকারীদের একাংশ এআইটিকে উদ্ভট ও বাস্তবতাবিবর্জিত নানা বিষয়ে লিখতে বলার পর।

বিপুল সংখ্যক লেখালেখির নমুনা এবং শব্দের মধ্যে পরিসংখ্যানগত সম্পর্ক বিশ্লেষণ করে লিখতে শেখে ‘লার্জ ল্যাঙ্গুয়েজ মডেল (এলএলএম)’। ফলে, এআইগুলো জনসাধারণের কাছে বিশ্বাসযোগ্য লেখা লিখতে পারে। 

কিন্তু সে লেখাতেও প্রচুর ভুল তথ্য এবং অযৌক্তিক বিদ্বেষপূর্ণ মনোভাবের উপস্থিতি থাকতে পারে বলে জানিয়েছে প্রযুক্তিবিষয়ক সাইট আর্স টেকনিকা।

এ পরিস্থিতিতেই বৈজ্ঞানিক গবেষণা প্রতিবেদন লেখার প্রক্রিয়া সহজ করার প্রতিশ্রতি নিয়ে দৃশ্যপটে গ্যালাকটিকার আবির্ভাব। আর্স টেকনিকা জানিয়েছে, ৪ কোটি ৮০ লাখ বৈজ্ঞানিক গবেষণা প্রতিবেদন, পাঠ্যপুস্তক, বৈজ্ঞানিক ওয়েবসাইট আর এনসাইক্লোপিডিয়া পড়িয়ে গ্যালাকটিকাকে প্রশিক্ষণ দিয়েছিলেন এর নির্মাতারা। 

প্রশিক্ষণে মানসম্পন্ন ডেটা ব্যবহার করলে দিন শেষে ফলাফলও মানসম্পন্ন হবে বলে আশা করছিলেন গবেষকরা। গ্যালাকটিকার ওয়েবসাইটে গিয়ে লিখিত নির্দেশনা দিলে তার ভিত্তিতে বৈজ্ঞানিক তথ্য সমৃদ্ধ নথিপত্র তৈরি করে দেওয়ার কথা ছিল এআইটির।

মঙ্গলবার অভিষেকের পর ওয়েবসাইটটি ব্যবহার করে ইতিবাচক ফলাফল পেয়েছেন বেশ কিছু ব্যবহারকারী। তবে, এআইটিকে বর্ণবাদী এবং বিদ্বেষমূলক বা ভুলভাল নির্দেশনা দিলে, এআইটি বিশ্বাসযোগ্য ভাষাতেই আজগুবি বৈজ্ঞানিক গবেষণা প্রতিবেদন লিখে দিচ্ছিল বলে জানিয়েছে আর্স টেকনিকা। 

এক ব্যবহারকারীর এমন নির্দেশনার ভিত্তিতে এআইটির লিখে দেওয়া একটি গবেষণা প্রতিবেদনের শিরোনাম ছিল ‘ভাঙ্গা কাঁচ খাওয়ার উপকারিতা’।

এআইটি প্রতিষ্ঠিত বৈজ্ঞানিক তথ্য-উপাত্তের বিপরীতমুখী লেখা লিখছিল বলে জানিয়েছে আর্স টেকনিকা। তারিখ থেকে শুরু করে প্রাণীর নামের বেলাতেও ভুল তথ্য দিচ্ছিল গ্যালাকটিকা। 

এ পরিস্থিতিতে বৃহস্পতিবারেই এআইটিকে অফলাইনে নিয়েছে মেটা। পরিস্থিতি নিয়ে নিজের উষ্মা প্রকাশ করে মেটার প্রধান এআই গবেষক ইয়ান লেকুন টুইট করেছেন, “গ্যালাকটিকার ডেমো আপাতত অফলাইনে। রসিকতার ছলে এর যাচ্ছেতাই ব্যবহার করে আর মজা করা সম্ভব নয়। এবার খুশি?”

তৌফিক ইমরোজ খালিদী
প্রধান সম্পাদক ও প্রকাশক