১১ দিনেই গ্রকের মাধ্যমে ৩০ লাখ ‘আপত্তিকর’ ছবি: গবেষণা

শিশুদের ক্ষেত্রে গ্রক অপব্যবহারের কিছু ভয়াবহ উদাহরণ উঠে এসেছে গবেষণায়। ছবি: রয়টার্স

এ মাসের শুরুতে সামাজিক যোগাযোগ মাধ্যম এক্স-এ সাধারণ মানুষের অনুমতি ছাড়াই তাদের অসংখ্য আপত্তিকর বা যৌনতাপূর্ণ ছবি ছড়িয়ে দেওয়ার অভিযোগ ওঠে ইলন মাস্কের এআই স্টার্টআপ এক্সএআইয়ের তৈরি এআই চ্যাটবট গ্রক-এর বিরুদ্ধে। তবে সেই সময় সংখ্যাটি জানা যায়নি।

সাম্প্রতিক এক গবেষণায় উঠে এসেছে, কেবল ১১ দিনের ব্যবধানে আনুমানিক ৩০ লাখ যৌনতাপূর্ণ ছবি তৈরি করেছে গ্রক, যার মধ্যে শিশুদের ছবি ছিল প্রায় ২৩ হাজার।

অন্যভাবে বললে, ওই ১১ দিনে প্রতি মিনিটে গড়ে প্রায় ১৯০টি যৌনতাপূর্ণ ছবি তৈরি করেছে গ্রক, যার মধ্যে প্রতি ৪১ সেকেন্ডে একবার শিশুদের কোনো না কোনো আপত্তিকর ছবি তৈরি হয়েছে বলে প্রতিবেদনে লিখেছে প্রযুক্তি সাইট এনগ্যাজেট।

বৃহস্পতিবার ‘সেন্টার ফর কাউন্টারিং ডিজিটাল হেইট’ বা সিসিডিএইচ তাদের গবেষণার ফলাফল প্রকাশ করেছে। এ গবেষণার জন্য ২৯ ডিসেম্বর থেকে ৯ জানুয়ারি পর্যন্ত গ্রকের তৈরি ২০ হাজার ছবির নমুনা সংগ্রহ করেছিল ব্রিটিশ অলাভজনক প্রতিষ্ঠানটি।

ওই সময়ের মধ্যে গ্রকের তৈরি মোট ৪৬ লাখ ছবির ওপর ভিত্তি করে এ সার্বিক পরিসংখ্যানটি তৈরি হয়েছে। গবেষণায় ‘যৌনতাপূর্ণ ছবি’ বলতে বোঝানো হয়েছে “বাস্তবসম্মতভাবে কোনো ব্যক্তিকে যৌন ভঙ্গিতে বা পরিস্থিতিতে দেখানো, বিশেষ করে তাদেরকে অন্তর্বাস, সাঁতারের পোশাক বা শরীরের অনেক অংশ দেখা যায় এমন পোশাকে ফুটিয়ে তোলা হয়েছে বা যৌন নিঃসরণ দেখানোকে”।

সিসিডিএইচ তাদের গবেষণায় ছবির প্রম্পট বা ছবি তৈরির নির্দেশ বিশ্লেষণ করেনি। ফলে এ আনুমানিক পরিসংখ্যানে বিষয়টি আলাদা করা সম্ভব হয়নি যে, কোন কোন ছবি বাস্তব ছবির ওপর ভিত্তি করে অনুমতি ছাড়া তৈরি আর কোনগুলো কেবল টেক্সট লিখে নতুনভাবে তৈরি ছিল।

সংগৃহীত নমুনা ছবিগুলোর মধ্যে কতগুলো যৌনতাপূর্ণ তা শনাক্তের জন্য এআই টুল ব্যবহার করেছে সিসিডিএইচ। এ কারণে গবেষণার ফলাফলের ব্যাপারে কিছুটা সতর্কতা বা সংশয় থাকতে পারে।

তবে এ বিষয়ে এক্স-এর জন্য কাজ করা অনেক থার্ড-পার্টি অ্যানালিটিক্স সার্ভিস বেশ নির্ভরযোগ্য তথ্য দিতে পারে। কারণ সরাসরি প্ল্যাটফর্মটির এপিআই ব্যবহার করে তারা।

নানা বির্তকের পর ৯ জানুয়ারি গ্রকের মাধ্যমে ছবি এডিটের সক্ষমতা কেবল ‘পেইড’ বা প্রিমিয়াম ব্যবহারকারীদের জন্য সীমিত করেছে এক্সএআই। তবে সমস্যার সমাধান মেলেনি, বরং আপত্তিকর ছবি তৈরির বিষয়টি প্রিমিয়াম ফিচারে পরিণত হয়েছে। এর পাঁচ দিন পর বাস্তব মানুষের ছবি থেকে ডিজিটাল উপায়ে পোশাক সরিয়ে ফেলার ক্ষেত্রে গ্রকের রাশ টেনে ধরে এক্স।

তবে এখন পর্যন্ত নিজেদের স্টোর থেকে গ্রক সরায়নি টিম কুকের অ্যাপল ও সুন্দার পিচাইয়ের গুগল। অথচ অন্যান্য ডেভেলপারের বেলায় একই ধরনের ‘পোশাক সরিয়ে ফেলা’ বিভিন্ন অ্যাপ ঠিকই সরিয়েছে কোম্পানি দুটি। এক্স-এ এসব ছবি তৈরির সময়ও কোনো পদক্ষেপ নেয়নি এসব কোম্পানি।

এ দিকে, একটি খোলা চিঠির মাধ্যমে কোম্পানিগুলোকে ব্যবস্থা নেওয়ার আহ্বান জানিয়েছিল ২৮টি নারী অধিকার ও অন্যান্য প্রগতিশীল অধিকার সংগঠন।

গবেষণায় প্রাপ্ত যৌনতাপূর্ণ ছবিগুলোর মধ্যে এমন অনেক ছবি মিলেছে, যেখানে স্বচ্ছ বিকিনি পরা মানুষ দেখানোর পাশাপাশি ‘ইউনিফর্ম পরা একজন স্বাস্থ্যকর্মীকেও আপত্তিকর অবস্থায় দেখানো হয়েছে’। অন্যান্য ছবির মধ্যে রয়েছেন এমন নারী, যারা কেবল ডেন্টাল ফ্লস, পলিথিন বা স্বচ্ছ টেপ পরে আছেন।

একটি ছবিতে সুইডেনের উপ-প্রধানমন্ত্রী এবা বুশ’কে ‘বিকিনি পরা ও মাথায় সাদা তরল মিশ্রিত’ অবস্থায় দেখানো হয়েছে।

যৌনতাপূর্ণ এসব ছবির তালিকায় পারিচিত তারকাদের মধ্যে রয়েছেন সেলিনা গোমেজ, টেইলর সুইফট, বিলি আইলিশ, আরিয়ানা গ্রান্দে, আইস স্পাইস, নিকি মিনাজ, ক্রিস্টিনা হেন্ডরিক্স, মিলি ববি ব্রাউন ও কমালা হ্যারিস।

শিশুদের ক্ষেত্রে গ্রক অপব্যবহারের কিছু ভয়াবহ উদাহরণ উঠে এসেছে গবেষণায়। যেমন একজন ব্যবহারকারী গ্রক ব্যবহার করে এক স্কুলছাত্রীর স্কুলে যাওয়ার আগের তোলা সাধারণ একটি ছবিকে বিকৃত করে তাকে বিকিনি পরা অবস্থায় রূপান্তর করেছে।

অন্য একটি ছবিতে দেখা গেছে ‘ছয়টি ছোট মেয়ে অত্যন্ত ছোট বিকিনি পরে রয়েছে’। সিসিডিএইচ বলেছে, ১৫ জানুয়ারি পর্যন্ত এই দুটি পোস্টই এক্স প্ল্যাটফর্মে সক্রিয় ছিল।

গবেষণার নমুনায় শিশুদের যে পরিমাণ যৌনতাপূর্ণ ছবি পাওয়া গিয়েছিল তার ২৯ শতাংশই ১৫ জানুয়ারি পর্যন্ত এক্স-এ ছিল, এমনকি কোনো পোস্ট প্ল্যাটফর্ম থেকে সরিয়ে দেওয়ার পরেও সরাসরি ইউআরএল-এর মাধ্যমে ওইসব ছবি দেখা গেছে।

আরও পড়ুন…

শিশুদের 'আপত্তিকর' ছবি তৈরি করে বিতর্কে মাস্কের গ্রক

'আপত্তিকর' ছবি: মাস্কের গ্রক'কে ৩ দেশের কড়া হুঁশিয়ারি

এবার ছবি এডিটে বিকিনি যোগ নিষিদ্ধ করল গ্রক