শিশুদের ‘আপত্তিকর’ ছবি তৈরি করে বিতর্কে মাস্কের গ্রক

এক্স-এ নতুন ‘এডিট ইমেজ’ বাটন যোগের ফলে যে কেউ মূল পোস্টকারীর অনুমতি ছাড়াই টেক্সট প্রম্পট ব্যবহার করে সেই ছবি পরিবর্তন করতে পারেন।

ব্যবহারকারীদের অভিযোগ, টুলটি ব্যবহার করে শিশুদের স্বল্পবসনা বা আপত্তিকর ছবি তৈরি করা হচ্ছে। ছবি: রয়টার্স

ব্যবহারকারীদের প্রম্পট বা অনুরোধের প্রেক্ষিতে শিশুদের যৌনতাপূর্ণ ছবি তৈরি করায় সম্প্রতি কঠোর সমালোচনা ও তোপের মুখে পড়েছে ইলন মাস্কের কৃত্রিম বুদ্ধিমত্তা বা এআই স্টার্টআপ এক্সএআইয়ের তৈরি চ্যাটবট গ্রক।

শুক্রবার মাস্কের সামাজিক মাধ্যমটিতে ব্যবহারকারীর এক প্রশ্নের জবাবে গ্রক বলেছে, সমস্যাটি ‘জরুরি ভিত্তিতে সমাধান’ করছে তারা। একইসঙ্গে শিশুদের যৌন নিপীড়নমূলক কনটেন্টকে ‘অবৈধ ও নিষিদ্ধ’ বলেও উল্লেখ করেছে চ্যাটবটটি।

ব্যবহারকারীদের প্রশ্নের উত্তরে গ্রক আরও বলেছে, এ ধরনের কনটেন্টের কথা জানার পরও যদি কোনো কোম্পানি জেনেশুনে তাতে সহায়তা করে বা তা বন্ধ করতে ব্যর্থ হয় তবে সেই কোম্পানিকে ফৌজদারি শাস্তির মুখে পড়তে হতে পারে।

তবে গ্রক-এর বিভিন্ন পোস্ট কৃত্রিম বুদ্ধিমত্তা বা এআইয়ের মাধ্যমে তৈরি বার্তা। ফলে এগুলোকে কোম্পানির আনুষ্ঠানিক বক্তব্য বা বিবৃতি হিসেবে গণ্য হবে না বলে প্রতিবেদনে লিখেছে আমেরিকান সংবাদমাধ্যম সিএনবিসি।

গত বছর ‘এক্স’-এর সঙ্গে একীভূত হয়েছে মাস্কের আরেক কোম্পানি এক্সএআইয়ের তৈরি এই গ্রক চ্যাটবট।

এক্স-এ শিশুদের যৌনতাপূর্ণ ছবির বিষয়ে জানতে চাইলে সিএনবিসির মন্তব্যের অনুরোধে স্বয়ংক্রিয়ভাবে তৈরি এক উত্তরে এক্সএআই বলেছে, ‘লিগ্যাসি মিডিয়া বা মূলধারার সংবাদমাধ্যমগুলো আসলে মিথ্যা বলে’।

সাম্প্রতিক দিনগুলোতে এক্স-এ গ্রক টুলটি নিয়ে গভীর উদ্বেগ প্রকাশ করেছেন ব্যবহারকারীরা। তাদের অভিযোগ, টুলটি ব্যবহার করে শিশুদের স্বল্পবসনা বা ‘যৌনতাপূর্ণ’ ছবি তৈরি করা হচ্ছে।

ছবিতে ‘এডিট ইমেজ’ বাটন যোগ করেছে সামাজিক মাধ্যমটি, যার মাধ্যমে যে কোনো ব্যবহারকারী মূল পোস্টকারীর অনুমতি ছাড়াই টেক্সট প্রম্পট ব্যবহার করে সেই ছবিতে পরিবর্তন আনতে পারেন।

এক্সএআইয়ের কারিগরি কর্মী পারসা তাজিকও এক পোস্টে এ সমস্যার কথা স্বীকার করেছেন।

পোস্টে তাজিক লিখেছেন, “বিষয়টি নজরে আনার জন্য ধন্যবাদ। নিরাপত্তা ব্যবস্থা আরও জোরদারের ব্যাপারে আমাদের দল কাজ করছে।”

এদিকে, শুক্রবার বিষয়টি তদন্ত করে দেখার প্রতিশ্রুতি দিয়ে বিবৃতি দিয়েছেন ভারত ও ফ্রান্সের সরকারি কর্মকর্তারা।

তবে মার্কিন ‘ফেডারেল ট্রেড কমিশন’ বা এফটিসি এ নিয়ে মন্তব্য করতে রাজি হয়নি এবং ফেডারেল কমিউনিকেশনস কমিশন বা এফসিসিও মন্তব্যের অনুরোধে সাড়া দেয়নি।

২০২২ সালে চ্যাটজিপিটি চালুর পর থেকে এআই দিয়ে ছবি তৈরির বিভিন্ন প্ল্যাটফর্ম যেভাবে দ্রুত ছড়িয়ে পড়েছে তাতে ইন্টারনেটের নিরাপত্তা ও ছবি বিকৃতির বিষয়ে বিশ্বজুড়ে উদ্বেগ তৈরি হয়েছে। ফলে কৃত্রিমভাবে তৈরি নগ্ন ছবি বা ‘ডিপফেইক নুডস’ তৈরি করছে এমন প্ল্যাটফর্মের সংখ্যাও বাড়ছে।

গেল বছরের মে মাসেও তীব্র সমালোচনার মুখে পড়েছিল এক্স। ওই সময় দক্ষিণ আফ্রিকায় ‘শ্বেতাঙ্গ গণহত্যা’ নিয়ে আগ বাড়িয়ে বিতর্কিত মন্তব্য করেছিল গ্রক। এর দুই মাস পর ইহুদি-বিদ্বেষী মন্তব্য পোস্ট ও অ্যাডলফ হিটলারের প্রশংসাও করে চ্যাটবটটি।

এসব ভুলভ্রান্তি বা হোঁচট খাওয়ার পরও একের পর এক পার্টনারশিপ ও ব্যবসায়িক চুক্তি করে চলেছে এক্সএআই।

গত মাসে নিজেদের এআই প্ল্যাটফর্মে গ্রক-কে অন্তর্ভুক্ত করেছে মার্কিন যুদ্ধ বিভাগ (প্রতিরক্ষা দপ্তর)। এ ছাড়া বর্তমানে ‘পলিমার্কেট’ ও ‘কালশি’র মতো বাজি ধরার বিভিন্ন প্ল্যাটফর্মের প্রধান চ্যাটবট হিসেবেও কাজ করছে গ্রক।