এআই বিভ্রম নিয়ে সতর্ক করলেন মার্কিন স্টেট অ্যাটর্নি জেনারেলরা
“জেনারেটিভ এআই আমাদের পৃথিবীকে ইতিবাচকভাবে বদলে দিতে পারে। কিন্তু একইসঙ্গে এটি গুরুতর ক্ষতির কারণ হয়েছে এবং আরও হওয়ার ঝুঁকি আছে।”
যুক্তরাষ্ট্রের বিভিন্ন অঙ্গরাজ্যের অ্যাটর্নি জেনারেলরা লার্জ ল্যাঙ্গুয়েজ মডেল বিষয়ে বড় প্রযুক্তি কোম্পানিগুলোকে এক চিঠিতে সতর্ক করেছেন। জেনারেটিভ এআই সিস্টেমে তৈরি হওয়া বিভ্রমমূলক বা মানসিক ঝুঁকি বাড়ানো আউটপুট দ্রুত ঠিক করার তাগাদা রয়েছে ওই চিঠিতে।
এ বিষয়ে এআই কোম্পানগুলোর ব্যর্থতাকে রাজ্য আইনের লঙ্ঘন হিসেবে দেখা হতে পারে। প্রতিবেদনে বিবিসি লিখেছে, সাম্প্রতিক মাসগুলোতে এআই চ্যাটবট ঘিরে উদ্বেগজনক মানসিক স্বাস্থ্য সংক্রান্ত একাধিক ঘটনার বাস্তবতায় এই চিঠির খবর এল।
চিঠিতে মাইক্রোসফট, ওপেনএআই, গুগলসহ আরও ১২টি কোম্পানিকে নির্দিষ্ট সুরক্ষা ব্যবস্থা নেওয়ার আহ্বান রয়েছে। চিঠি প্রাপকদের তালিকায় অ্যানথ্রপিক, অ্যাপল, চ্যাই এআই, ক্যারেক্টার টেকনোলজিস, লুকা, মেটা, নোমি এআই, পারপ্লেক্সিটি এআই, রেপ্লিকা আর এক্সএআই–ও রয়েছে।
অ্যাটর্নি জেনারেলরা চান, কোম্পানিগুলো লার্জ ল্যাঙ্গুয়েজ মডেলগুলোকে স্বচ্ছ থার্ড পার্টি যাচাইয়ের আওতায় আনুক, যেখানে বিশেষজ্ঞরা আগেভাগেই দেখে নেবেন যে সিস্টেমে বিভ্রমমূলক বা তোষণমূলক আউটপুটের ঝুঁকি আছে কি না। এতে বিশ্ববিদ্যালয় ও সিভিল সোসাইটি সংগঠনও থাকতে পারে। চিঠিতে বলা হয়, এসব বিশেষজ্ঞ যেন কোম্পানির অনুমতির অপেক্ষা না করে তাদের অনুসন্ধান প্রকাশ করতে পারেন।
চিঠিতে উল্লেখ রয়েছে, “জেনারেটিভ এআই আমাদের পৃথিবীকে ইতিবাচকভাবে বদলে দিতে পারে। কিন্তু একইসঙ্গে এটি গুরুতর ক্ষতির কারণ হয়েছে এবং আরও হওয়ার ঝুঁকি আছে।” আলোচিত ঘটনাগুলোর মধ্যে আত্মহত্যা, হত্যার মতো সহিংসতার সঙ্গে অতিরিক্ত এআই ব্যবহারের সম্পর্ক নিয়ে তদন্তও রয়েছে। এআই টুলগুলো কখনো ব্যবহারকারীর বিভ্রান্তিকে উৎসাহ দিয়েছে, কখনো আশ্বস্ত করেছে যে, তারা বিভ্রমে নেই।
অ্যাটর্নি জেনারেলরা আরও বলেছেন, মানসিক স্বাস্থ্য–সংক্রান্ত ঘটনা যেন সাইবার সিকিউরিটি ঘটনার মতো গুরুত্ব পায়। ডেটা ব্রিচ হলে যেমন প্রটোকল অনুসরণ করতে হয়, ঠিক সেভাবেই কোম্পানিগুলোকে বিভ্রমমূলক বা ক্ষতিকর আউটপুট শনাক্ত হওয়ার পর নির্দিষ্ট সময়সীমার মধ্যে ব্যবস্থা নিতে হবে। ব্যবহারকারীরা এমন আউটপুটের মুখোমুখি হলে তাদের স্পষ্টভাবে জানানো উচিত।
আরও একটি বড় শর্ত হলো বাজারে ছাড়ার আগেই জেনারেটিভ এআই মডেলের ওপর নিরাপত্তা পরীক্ষা সম্পন্ন করা। লক্ষ্য থাকবে, মডেল যেন সম্ভাব্য ক্ষতির মতো বিভ্রম বা তোষণমূলক প্রতিক্রিয়া তৈরি না করে।
ফেডারেল পর্যায়ে অবশ্য ছবি কিছুটা ভিন্ন। এআইয়ের প্রতি ট্রাম্প প্রশাসনের অনেক পক্ষপাত রয়েছে বলে প্রতিবেদনে উঠে এসেছে। গত এক বছরে অঙ্গরাজ্য পর্যায়ের নিয়ন্ত্রণ বন্ধ করতে জাতীয় পর্যায়ে নিষেধাজ্ঞা আনার চেষ্টাও হয়েছে। যদিও চাপের মুখে সেগুলো এখনো পাস হয়নি। তারপরও প্রেসিডেন্ট বলেছেন, তিনি নতুন এক নির্বাহী আদেশ দেবেন যাতে অঙ্গরাজ্যগুলোর এআই নিয়ন্ত্রণ করার ক্ষমতা সীমিত হয়। তাঁর ভাষায়, এতে এআইকে “শুরুর দিকেই ধ্বংস হয়ে যাওয়া” থেকে বাঁচানো যাবে।
এআই নিয়ে রাজ্য বনাম ফেডারেল সরকারের টানাপোড়েন আরও বাড়ছে। আর বড় প্রযুক্তি কোম্পানিগুলোকে এই নতুন মানসিক স্বাস্থ্য–কেন্দ্রিক শর্ত মানা প্রায় বাধ্যতামূলক হয়ে উঠছে।
