বন্দুক হাতে ফিলিস্তিনী শিশুর স্টিকার দেখাচ্ছে হোয়াটসঅ্যাপের এআই

গত মাসে এই এআই স্টিকার সুবিধা চালু করে মেটা, যেখানে বিভিন্ন ‘হিংসাত্মক বা জঘন্য’ ছবি তৈরির প্রবণতা দেখা গেছে। এর মধ্যে রয়েছে শিশু সেনাদের ছবিও।

প্রযুক্তি ডেস্কবিডিনিউজ টোয়েন্টিফোর ডটকম
Published : 6 Nov 2023, 07:13 AM
Updated : 6 Nov 2023, 07:13 AM

মেসেজিং সেবা হোয়াটসঅ্যাপে এআই প্রম্পটের মাধ্যমে স্টিকার তৈরির নতুন ফিচার চালু করেছে মেটা। আর ওই এআই মডেলে ‘প্যালেস্টাইন’ ও অনুরূপ শব্দ ব্যবহার করলে কখনও কখনও শিশুর হাতে বন্দুকের ছবি দেখা যাচ্ছে। 

তবে, ‘ইসরায়েল’ শব্দের বেলায় ফলাফলে এমন কোনো ছবির দেখা মেলেনি।

গত মাসে এই এআই স্টিকার সুবিধা চালু করে মেটা, যেখানে বিভিন্ন ‘হিংসাত্মক বা জঘন্য’ ছবি তৈরির প্রবণতা দেখা গেছে। এর মধ্যে রয়েছে শিশু সেনাদের ছবিও।

শুক্রবার ব্রিটিশ দৈনিক গার্ডিয়ানের প্রতিবেদনে উঠে আসে, নাম প্রকাশে অনিচ্ছুক এক সূত্র বলেছে, ইসরায়েল যুদ্ধ সংশ্লিষ্ট বিভিন্ন প্রম্পট ফ্ল্যাগ করে এ সমস্যা আরও বাড়িয়েছেন কোম্পানির কয়েকজন কর্মী।

মেটার মুখপাত্র কেভিন ম্যাকঅ্যালিস্টার প্রযুক্তি সাইট ভার্জকে এক ইমেইল বার্তায় বলেন, কোম্পানি বিষয়টি নিয়ে কাজ করছে। তিনি আরও যোগ করেন, এই ফিচারে বিবর্তনের পাশাপাশি ব্যবহারকারীদের বিভিন্ন ফিডব্যাক নিয়ে কাজ করার মাধ্যমে নিজেদের সেবাকে আরও উন্নত করবে মেটা।

এর আগেও মেটার এআই মডেলে এমন পক্ষপাতমূলক আচরণ দেখা গেছে। উদাহরণ হিসেবে বলা যায়, ইনস্টাগ্রামের ‘অটো-ট্রান্সলেট’ ফিচারে কেউ আরবি ভাষায় নিজের বৃত্তান্ত লিখলে এতে ‘টেরোরিস্ট’ শব্দ যোগ করে দেয় মেটা। এ ছাড়া, ফেইসবুকের এমনই এক ভুল অনুবাদের কারণে ২০১৭ সালে ইসরায়েলে গ্রেপ্তার হয়েছিলেন ফিলিস্তিনের এক ব্যাক্তি।