ডিপফেইক ছবি তৈরি, গ্রক ব্যবহারকারীর বিরুদ্ধে মামলায় এক্সএআই

কোনো এআই কোম্পানির পক্ষ থেকে তাদের নিজস্ব ব্যবহারকারীর বিরুদ্ধে এ ধরনের মামলা করার ঘটনা এটাই প্রথম।

ওই ব্যক্তিকে শিশু যৌন নিপীড়নের অভিযোগে গ্রেপ্তারও করা হয়েছে। ছবি: রয়টার্স

কৃত্রিম বুদ্ধিমত্তা বা এআই প্রযুক্তি ব্যবহার করে মানুষের সম্মতি ছাড়া আপত্তিকর ডিপফেইক ছবি তৈরির অভিযোগে এক ব্যবহারকারীর বিরুদ্ধে মামলা করেছে ইলন মাস্কের কোম্পানি এক্সএআই।

যুক্তরাষ্ট্রের সাউথ ক্যারোলাইনার বাসিন্দা ৬৭ বছর বয়সী ওই ব্যক্তি চ্যাটবট ‘গ্রক’-এর নিরাপত্তা বলয় ভেঙে নারী ও শিশুদের ছবি বিকৃত করেছেন বলে অভিযোগ উঠেছে।

ওই ব্যক্তিকে শিশু যৌন নিপীড়নের অভিযোগে গ্রেপ্তারও করা হয়েছে বলে প্রতিবেদনে লিখেছে প্রযুক্তি সংবাদের সাইট এনগ্যাজেট।

অভিযুক্ত ব্যক্তির নাম টেরি ওয়েন হারউড। তার বিরুদ্ধে অভিযোগ, তিনি এক্সএআইয়ের নিজস্ব চ্যাটবট গ্রক ব্যবহার করে বিভিন্ন মানুষের ছবি বিকৃত করার চেষ্টা করেছেন।

টেক্সাসের একটি আদালতে দায়ের করা মামলার অভিযোগে এক্সএআই বলেছে, ২০২৫ সালের ৮ ডিসেম্বর থেকে এ বছরের ১৮ ফেব্রুয়ারি পর্যন্ত অভিযুক্ত হারউড তার দুটি এক্সএআই অ্যাকাউন্ট থেকে বেশ কয়েকজন প্রাপ্তবয়স্ক এবং অপ্রাপ্তবয়স্ক ব্যক্তির স্বাভাবিক ছবি আপলোড করেছেন।

এরপর তিনি চ্যাটবট গ্রক’কে নির্দেশ দিয়েছেন যেন এসব ছবি পরিবর্তন করে বা নতুন ছবি ও ভিডিও তৈরি করে ওই প্রাপ্তবয়স্ক ও শিশুদের ‘পর্নোগ্রাফিক উপায়ে বা অন্য কোনোভাবে যৌন উত্তেজক’ রূপে উপস্থাপন করা হয়।

মামলার বিবরণীতে কোম্পানিটি বলেছে, গ্রক ‘বহুবার’ হারউডের দেওয়া এসব নির্দেশ মানতে সরাসরি অস্বীকৃতি জানিয়েছিল।

গ্রক প্রত্যাখ্যান করার পরও অভিযুক্ত ব্যক্তি দমে যাননি। তিনি এআইয়ের নিরাপত্তা বেষ্টনী ও সুরক্ষানীতি ফাঁকি দেওয়ার জন্য বারবার ভিন্ন উপায়ে ও ঘুরিয়ে-ফিরিয়ে নির্দেশ বা প্রম্পট পাঠাতে থাকেন।

মামলায় নির্দিষ্ট ঘটনার উদাহরণ দিয়ে এক্সএআই বলেছে, হারউড ১০ থেকে ১১ বছর বয়সী সম্পূর্ণ পোশাক পরিহিত মেয়ের ছবি প্ল্যাটফর্মটিতে আপলোড করেছেন।

এরপর তিনি গ্রক’কে নির্দেশ দিয়েছেন, যেন মেয়েটির দেহ থেকে সব পোশাক সরিয়ে তাকে বিছানায় ‘প্লেবয় মডেলের মতো ভঙ্গি’ করতে বাধ্য করা হয়। গ্রক তাৎক্ষণিকভাবে তার এই অনুরোধ প্রত্যাখ্যান করলেও হারউড অনবরত তার প্রম্পট সংশোধন করে নতুন অনুরোধ পাঠাতে থাকেন।

রয়টার্স লিখেছে, কোনো এআই প্রযুক্তি কোম্পানির পক্ষ থেকে তাদের নিজেদের ব্যবহারকারীর বিরুদ্ধে এ ধরনের মামলা করার ঘটনা এটাই প্রথম।

এ আইনি পদক্ষেপের মাধ্যমে এক্সএআই বিশ্বজুড়ে তাদের ব্যবহারকারীদের কাছে এই কঠোর বার্তা দিতে চাইছে যে, গ্রক বা তাদের তৈরি কোনো প্রযুক্তির অপব্যবহার করা হলে কোনো ধরনের ছাড় দেওয়া হবে না ও কঠোর আইনি ব্যবস্থা নেওয়া হবে।

জানুয়ারির শুরুতে প্রথম অভিযোগ উঠতে শুরু করে, এক্সএআইয়ের তৈরি চ্যাটবট ‘গ্রক’ ব্যবহার করে বাস্তব জীবনের নারী ও শিশুদের ছবি বিকৃত করে আপত্তিকর ও যৌন উত্তেজক ছবি তৈরি করা যাচ্ছে।

এ কেলেঙ্কারিটি প্রকাশ্যে আসার পরপরই বিভিন্ন দেশের নিয়ন্ত্রক সংস্থাগুলো দ্রুত গ্রকের বিরুদ্ধে আনুষ্ঠানিক তদন্ত শুরু করে।

জানুয়ারির মাঝামাঝি সময়ে যুক্তরাষ্ট্রের ক্যালিফোর্নিয়া অঙ্গরাজ্যের কর্তৃপক্ষ এআই প্রযুক্তির এই অপব্যবহার নিয়ে তদন্তে নামে। একই সময়ে তদন্ত শুরু করে যুক্তরাজ্যের নিয়ন্ত্রক সংস্থা ‘অফকম’।

এ ছাড়া ইউরোপীয় কমিশন ও আয়ারল্যান্ডের ডেটা প্রোটেকশন কমিশনও এই বিষয়ে আলাদা দুটি তদন্ত কমিটি গঠন করেছে।

তদন্ত শুরুর পরপরই এক্সএআই তাদের প্ল্যাটফর্মে ব্যবহারকারীদের মাধ্যমে সম্মতিহীন যৌন উত্তেজক ডিপফেইক তৈরি বন্ধ করতে বেশ কিছু নিরাপত্তামূলক ব্যবস্থা গ্রহণ করেছে।

তবে এই কড়াকড়ির পরও ব্যবহারকারীরা গ্রক ব্যবহার করে পুরুষদের পোশাকবিহীন ছবি তৈরি করতে পারছিল। অভিযুক্ত হারউডও এ ফাঁকফোকর গলে তার অ্যাকাউন্ট থেকে অনবরত ছবি আপলোড করে সেগুলোকে আপত্তিকরভাবে বিকৃত করার চেষ্টা চালিয়ে যাচ্ছিলেন।

পরবর্তীতে ৯ মার্চ যুক্তরাষ্ট্রের সাউথ ক্যারোলাইনার অ্যাটর্নি জেনারেলের কার্যালয় থেকে হারউডের গ্রেপ্তারের খবর ঘোষণা করা হয়। শিশুদের বিরুদ্ধে ইন্টারনেট অপরাধ দমন টাস্কফোর্সের অভিযানের অংশ হিসেবে তাকে গ্রেপ্তার করা হয়।

হারউডের বিরুদ্ধে অপ্রাপ্তবয়স্কদের মার্কিন আইনে দ্বিতীয় ডিগ্রির যৌন নিপীড়নের তিনটি ও তৃতীয় ডিগ্রির যৌন নিপীড়নের পাঁচটি অভিযোগ আনা হয়েছে।

তদন্তে জানা গেছে, হারউড কেবল শিশু যৌন নির্যাতনের এসব আপত্তিকর কনটেন্ট নিজের কাছেই রাখেননি, বরং সেগুলো ইন্টারনেটে ছড়িয়েও দিয়েছিলেন।

এ ঘটনার প্রেক্ষিতে এক্সএআই এখন আদালতের কাছে অনির্দিষ্ট অংকের আর্থিক ক্ষতিপূরণ দাবি করেছে।

একইসঙ্গে আদালতের কাছে কোম্পানিটি আবেদন করেছে, হারউডের এই বিকৃত কর্মকাণ্ডের শিকার হওয়া ব্যক্তিরা যদি ভবিষ্যতে এক্সএআইয়ের বিরুদ্ধে কোনো আইনি পদক্ষেপ নেন তবে সেই মামলার সব খরচ যেন অভিযুক্ত হারউডকেই বহন করার নির্দেশ দেওয়া হয়।