এ বছর ওপেনএআইয়ে শিশু নিপীড়ন সংশ্লিষ্ট রিপোর্ট ৮০ গুণ

২০২৫ সালের প্রথম ছয় মাসে ওপেনএআই মোট ৭৫ হাজার রিপোর্ট পাঠিয়েছে। এসব রিপোর্টে সংশ্লিষ্ট কনটেন্টের সংখ্যা ছিল সাড় ৭৪ হাজার।

রিপোর্টের সংখ্যা বেড়ে যাওয়ার মানে যে অপরাধমূলক কার্যক্রমও একই হারে  বাড়ছে, তা সবসময় নয়। ছবি: ফ্রিপিক

শিশু সুরক্ষা নিয়ে কৃত্রিম বুদ্ধিমত্তা খাতে চাপ যে বাড়ছে, তা স্পষ্ট হচ্ছে ওপেনএআইয়ের সর্বশেষ পরিসংখ্যানে। চলতি বছরের প্রথম ছয় মাসে শিশু নিপীড়ন ও শিশু যৌন নিপীড়ন সংক্রান্ত কনটেন্ট নিয়ে যুক্তরাষ্ট্রের সরকারি কর্তৃপক্ষের কাছে ওপেনএআই যে পরিমাণ রিপোর্ট পাঠিয়েছে, তা গত বছরের একই সময়ের তুলনায় প্রায় ৮০ গুণ।

কোম্পানির সর্বশেষ তথ্য অনুসারে, ২০২৫ সালের জানুয়ারি থেকে জুন পর্যন্ত ওপেনএআই ‘ন্যাশনাল সেন্টার ফর মিসিং অ্যান্ড এক্সপ্লয়টেড চিলড্রেন’ বা এনসিএমইসি’র সাইবারটিপলাইন-এ মোট ৭৫ হাজার ২৭টি রিপোর্ট পাঠিয়েছে। এসব রিপোর্টে সংশ্লিষ্ট কনটেন্টের সংখ্যা ছিল ৭৪ হাজার ৫৫৯টি।

এর আগে ২০২৪ সালের একই সময়ে পাঠানো হয়েছিল ৯৪৭টি রিপোর্ট, যা ছিল মাত্র ৩ হাজার ২৫২টি কনটেন্টকে ঘিরে।

যুক্তরাষ্ট্রের আইন অনুযায়ী, কোনো প্ল্যাটফর্মে শিশু নিপীড়নের স্পষ্ট ইঙ্গিত পাওয়া গেলে তা সাইবারটিপলাইন-এ জানানো বাধ্যতামূলক। এনসিএমইসি এসব রিপোর্ট পর্যালোচনা করে পরে সংশ্লিষ্ট আইনশৃঙ্খলা সংস্থার কাছে পাঠায় তদন্তের জন্য।

তবে রিপোর্টের সংখ্যা বেড়ে যাওয়ার মানে যে অপরাধমূলক কার্যক্রমও একই হারে বাড়ছে, তা সবসময় নয়।

রিপোর্টের সংখ্যা বাড়ার পেছনে থাকতে পারে স্বয়ংক্রিয় কনটেন্ট মডারেশন পদ্ধতির পরিবর্তন বা নতুন মানদণ্ডের প্রয়োগ। একই কনটেন্ট নিয়ে একাধিক রিপোর্ট হতে পারে, আবার একটি রিপোর্টে একাধিক কনটেন্টও থাকতে পারে। ওপেনএআই তাই রিপোর্ট সংখ্যা এবং সেগুলো কতগুলো কনটেন্টকে কেন্দ্র করে উভয় সংখ্যাই প্রকাশ করে।

ওপেনএআইয়ের মুখপাত্র গ্যাবি রাইলা বলেন, ২০২৪ সালের শেষের দিকে কোম্পানি রিপোর্ট পর্যালোচনা ও দ্রুত ব্যবস্থা নেওয়ার ক্ষমতা বাড়াতে বিনিয়োগ করেছে, যাতে ব্যবহারকারীর সংখ্যা বাড়ার সঙ্গে তাল মিলিয়ে চলা যায়।

“নতুন নতুন ফিচার চালু হওয়া এবং ছবি আপলোডের সুযোগ বৃদ্ধি, সঙ্গে পণ্যের জনপ্রিয়তা বেড়ে যাওয়ায় রিপোর্টের সংখ্যা বেড়েছে।”

চ্যাটজিপিটি ব্যবহারকারীর সংখ্যাও বড় আকারে বেড়েছে। গত অগাস্টে চ্যাটজিপিটি প্রধান নিক টার্লি বলেছেন, অ্যাপটির সাপ্তাহিক সক্রিয় ব্যবহারকারীর সংখ্যা আগের বছরের চার গুণ হয়েছে।

ওপেনএআই-এর প্রতিবেদনে এই কনটেন্টের মধ্যে শিশু যৌন নিপীড়ন ও শিশু নিপীড়ন সংক্রান্ত সব ধরনের কনটেন্ট রয়েছে। এর মধ্যে ব্যবহারকারীর আপলোড করা ফাইল, ছবি বা অনুরোধও আছে। চ্যাটজিপিটির পাশাপাশি এপিআই ব্যবহারের মাধ্যমে অন্য প্ল্যাটফর্মেও ওপেনএআইয়ের মডেল কার্যকর হয়। তবে ভিডিও তৈরির নতুন অ্যাপ সোরা সংক্রান্ত কোনো রিপোর্ট এতে আসেনি, কারণ সেটি সেপ্টেম্বরের পরে চালু হয়েছে।

এআই খাতজুড়ে এমন প্রবণতা নতুন নয়। এনসিএমইসি’র বিশ্লেষণে দেখা গেছে, জেনারেটিভ এআই সংশ্লিষ্ট সাইবারটিপলাইন রিপোর্ট ২০২৩ থেকে ২০২৪ সালের মধ্যে ১৩২৫ শতাংশ বেড়েছে। আর ২০২৫ সালের সম্পূর্ণ তথ্য এখনও প্রকাশ হয়নি।

এরইমধ্যে শিশু নিরাপত্তা নিয়ে ওপেনএআইসহ বড় প্রযুক্তি কোম্পানিগুলো বাড়তি নজরদারির মুখে রয়েছে। গত গ্রীষ্মে যুক্তরাষ্ট্রের ৪৪টি অঙ্গরাজ্যের অ্যাটর্নি জেনারেলরা ওপেনএআই, মেটা, ক্যারেক্টার ডটএআই ও গুগলকে চিঠি দিয়ে সতর্ক করেছেন, শিশুদের নিপীড়ন থেকে রক্ষা করতে তারা সব ক্ষমতা ব্যবহার করবেন।

এই চাপের মধ্যে ওপেনএআই সাম্প্রতিক মাসগুলোতে নিরাপত্তাকেন্দ্রিক নতুন ফিচার চালু করেছে। সেপ্টেম্বর মাসে চ্যাটজিপিতে প্যারেন্টাল কন্ট্রোল চালু করা হয়েছে। বাবা-মা ও কিশোর ব্যবহারকারীরা একে একে তাদের অ্যাকাউন্ট যুক্ত করতে পারেন, ভয়েস মোড বন্ধ করতে পারেন, ছবি তৈরি বন্ধ করতে পারেন এবং মডেল প্রশিক্ষণ থেকে বাদ দিতে পারেন। এ ছাড়া, আত্মহত্যার ইঙ্গিত ধরা পড়লে বাবা-মাকে জানানো এবং প্রয়োজনে আইনশৃঙ্খলা সংস্থাকেও অবহিত করার ব্যবস্থা যুক্ত হয়েছে।

অক্টোবরের শেষ দিকে ক্যালিফোর্নিয়া ডিপার্টমেন্ট অফ জাস্টিসের সঙ্গে আলোচনার পর ওপেনএআই প্রতিশ্রুতি দিয়েছে, কিশোর ও অন্যান্য ব্যবহারকারীর ঝুঁকি কমাতে এআই-সংক্রান্ত পদক্ষেপ চালিয়ে যাবে। নভেম্বরে প্রকাশিত ‘টিন সেইফটি ব্লুপ্রিন্ট’-এ কোম্পানি উল্লেখ করেছে, শিশু যৌন নিপীড়ন ও শিশু নিপীড়ন সংক্রান্ত কনটেন্ট শনাক্ত ও কর্তৃপক্ষকে জানানোর সক্ষমতা ক্রমাগত উন্নত করা হচ্ছে।

এ নিয়ে ওয়্যার্ড প্রতিবেদনে লিখেছে, শিশু নিরাপত্তার প্রশ্নে এআই ব্যবহারকে নিয়ন্ত্রণ করা জরুরি।

“সংখ্যার বাড়তি বা কমতির পেছনে প্রযুক্তিগত কারণ থাকতে পারে, কিন্তু নৈতিক ও আইনগত দায়বদ্ধতা যে অপরিবর্তনীয়, তা স্পষ্ট।”