এআই-এর চোখে কৃষ্ণাঙ্গরা ‘প্রাইমেট’, ফেইসবুক বলছে ‘অগ্রহণযোগ্য’

ভিডিওতে কৃষ্ণাঙ্গ ব্যক্তিদের উপস্থিতি থাকায় ফেইসবুকের এআই তাদের চিহ্নিত করেছিলো ‘প্রাইমেট’ বা বানর সদৃশ স্তন্যপায়ী প্রাণী হিসেবে। এআই-এর ওই ভুল ‘অগ্রহণযোগ্য’ আখ্যা দিয়ে ক্ষমা চেয়েছে শীর্ষ সামাজিক মাধ্যমটি।

জটিলতার শুরু ব্রিটিশ ট্যাবলয়েড ডেইলি মেইলের একটি ভিডিও’র সূত্র ধরে। নিউ ইয়র্ক টাইমস এক প্রতিবেদনে জানিয়েছে, ফেইসবুকে ডেইলি মেইলের ওই ভিডিও দেখা শেষে দর্শক “প্রাইমেটদের নিয়ে আরও ভিডিও” দেখতে চান কি না, সেই প্রশ্ন করছিলো ফেইসবুকের এআই।

২৭ জুলাইয়ের ওই ভিডিও নিয়ে এআই-এর বিভ্রান্তি চিহ্নিত হওয়ার পর পুরো ‘টপিক রিকমেন্ডেশন’ ফিচারটি বন্ধ করে দিয়েছে ফেইসবুক কর্তৃপক্ষ।  প্রযুক্তিবিষয়ক সাইট ভার্জকে পাঠানো এক ইমেইলে ফিচারটি বন্ধ রাখার বিষয়ে নিশ্চিত করেছেন এক ফেইসবুক মুখপাত্র।

এই প্রসঙ্গে ওই ফেইসবুক মুখপাত্র বলেন “এটা অবশ্যই একটি অগ্রহণযোগ্য ভুল ছিলো”। ফেইসবুক ভবিষ্যতে এমন ভুল এড়াতে পুরো বিষয়টি নিয়ে তদন্ত করছে বলে জানান তিনি।

“আমরা যদিও আগে এআই উন্নত করেছি, আমরা জানি যে এটা নিখুঁত নয় এবং আমাদের আরও উন্নতি করার জায়গা আছে। অপমানজনক রিকমেন্ডেশন পেয়েছেন, এমন সবার কাছে ক্ষমা চাইছি আমরা”-- বলেছেন ওই ফেইসবুক মুখপাত্র।

মানুষের লৈঙ্গিক পরিচয় অথবা জাতিগত পরিচয়ের প্রশ্নে এআই জটিলতার সর্বশেষ উদাহরণ এটি। বিশেষ করে ভিন্ন বর্ণের মানুষদের ভুল পরিচয়ে চিহ্নিত করে বিভিন্ন সময়ে ব্যাপক সমালোচনার মুখে পড়েছে ফেইশল রিকগনিশন প্রযুক্তি।

২০১৫ সালে গুগলের ফটো অ্যাপ কৃষ্ণাঙ্গদের ‘গরিলা’ হিসেবে ট্যাগ করায় ক্ষমা চাইতে বাধ্য হয়েছিলো সার্চ জায়ান্ট প্রতিষ্ঠানটি। ২০২০ সালে ফেইসবুক জানায়, এআই ব্যবহার করে তৈরি অ্যালগরিদমে জাতিগত পক্ষপাতের জটিলতা আছে কি না--সেটি যাচাই করে দেখছিল প্রতিষ্ঠানটি। এক্ষেত্রে ফেইসবুক এবং ইনস্টাগ্রাম, উভয় মাধ্যমেই একই অ্যালগরিদম ব্যবহৃত হতো।

এপ্রিল মাসে যুক্তরাষ্ট্রের ফেডারেল ট্রেড কমিশন সতর্ক করে দিয়েছিলো-- যে এআই টুলগুলোর মধ্যে বর্ণ ও জাতিগত পক্ষপাতমূলক আচরণ পরিলক্ষিত হচ্ছে সেই টুলগুলো ব্যবহার করে ঋণ, বাসস্থান এবং চাকরি সংশ্লিষ্ট সিদ্ধান্ত নেওয়া হলে ভোক্তা রক্ষা আইনে লঙ্ঘনের মতো ঘটনা ঘটতে পারে।