খুনের মামলায় পুলিশকে ভুয়া তথ্য দিয়েছে অ্যানথ্রপিকের এআই
সিস্টেমে হ্যাকিং বা বিভিন্ন প্ল্যাটফর্মের নিয়ন্ত্রণ নেওয়ার মতো অনিয়ন্ত্রিত এআই কর্মকাণ্ডের যে সিরিজ ঘটনা সম্প্রতি ঘটছে, এটা তাতে এক নতুন সংযোজন।
যুক্তরাষ্ট্রের অমীমাংসিত এক হত্যাকাণ্ড নিয়ে পুলিশের কাছে ভুয়া তথ্য পাঠিয়েছে মার্কিন প্রযুক্তি কোম্পানি অ্যানথ্রপিকের তৈরি কৃত্রিম বুদ্ধিমত্তা বা এআই এজেন্ট।
এ বছরের শুরুতে অনিয়ন্ত্রিত আচরণ করে যুক্তরাষ্ট্রের পুলিশের কাছে অমীমাংসিত এ হত্যাকাণ্ডের বিষয়ে সম্পূর্ণ মিথ্যা ও ভুয়া তথ্য পাঠিয়েছে বলে জানিয়েছে পুলিশ কর্তৃপক্ষ।
ফিলাডেলফিয়া পুলিশ বিভাগ বলছে, ১৮ জুলাই তাদের ওয়েবসাইটে পাঠানো ওই ভুয়া বার্তাটিকে স্প্যাম বা অপ্রয়োজনীয় হিসেবে চিহ্নিত করা হয়েছিল এবং তা কোনো তদন্তের জন্য পাঠানো হয়নি।
বিবিসি লিখেছে, এমন এক অনিয়মের ঘটনা শনাক্ত ও তা কর্তৃপক্ষকে জানাতে প্রযুক্তি কোম্পানিটির দুই মাসেরও বেশি সময় লেগে যাওয়ায় তীব্র ক্ষোভ প্রকাশ করেছে পুলিশ।
তারা বলেছে, একটি সার্বজনীন ওয়েবসাইটের মাধ্যমে ভুয়া তথ্যটি জমা পড়ে, যেখানে মানুষ অমীমাংসিত হত্যাকাণ্ড সম্পর্কে পুলিশকে তথ্য দিয়ে সহায়তা করতে পারেন।
ওই বার্তায় এআই এজেন্টটি দাবি করেছিল, সে ‘ঘটনার বর্ণনার সঙ্গে মেলে এমন কাউকে দেখেছে’।
বিশেষজ্ঞরা বলছেন, এটাই প্রথম কোনো ঘটনা, যেখানে একটি এআই এজেন্ট কর্তৃপক্ষের কাছে সম্পূর্ণ মনগড়া বা ভুয়া তথ্য পাঠাল।
সিস্টেমে হ্যাকিং বা বিভিন্ন প্ল্যাটফর্মের নিয়ন্ত্রণ নেওয়ার মতো অনিয়ন্ত্রিত এআই কর্মকাণ্ডের যে সিরিজ ঘটনা সম্প্রতি ঘটছে, এটা তাতে এক নতুন সংযোজন।
অ্যানথ্রপিকের বরাত দিয়ে পুলিশ বিভাগ বলেছে, তাদের এআই এজেন্টটি একটি পরীক্ষামূলক কাজ করছিল। পরীক্ষার অংশ হিসেবে এআইটি বেছে নেওয়া বিভিন্ন ওয়েবসাইটের সঙ্গে যুক্ত হয়ে কাজ করছিল সেই প্রক্রিয়ার অংশ হিসেবেই পুলিশের ওয়েবসাইটে ভুয়া তথ্যটি পাঠিয়েছে এআই এজেন্ট।
ক্লড চ্যাটবট নির্মাতা কোম্পানি অ্যানথ্রপিক বার্তাটি পাঠানোর দুই মাসেরও বেশি সময় পর ২৮ সেপ্টেম্বর তাদের এই বড় ধরনের ত্রুটিটি শনাক্ত করেছে।
পুলিশ বলেছে, ত্রুটি ধরা পড়ার পর কোম্পানিটি তাদের পেছনের এই স্বয়ংক্রিয় পরীক্ষামূলক প্রক্রিয়াটি পুরোপুরি বন্ধ করে দিয়েছে।
তবে স্বয়ংক্রিয় প্রক্রিয়া বন্ধ করলেও বিষয়টি স্থানীয় পুলিশ কর্তৃপক্ষকে জানাতে তারা আরও নয় দিন সময় নেয় ও শেষ পর্যন্ত ৭ অক্টোবরে পুলিশকে আনুষ্ঠানিকভাবে এ বিষয়ে জানায়।
স্থানীয় গণমাধ্যমে দেওয়া এক বিবৃতিতে ফিলাডেলফিয়া পুলিশ বলেছে, “শহর কর্তৃপক্ষের অজান্তে তাদের নিজস্ব সিস্টেমে এ ধরনের ঘটনা যেন আর কোনো বিরূপ প্রভাব ফেলতে না পারে সে জন্য অ্যানথ্রপিককে অবশ্যই তাদের নিরাপত্তা ব্যবস্থা আরও জোরদার ও শক্তিশালী করতে হবে।
“ঘটনাটি শনাক্ত করতে ও শহর কর্তৃপক্ষকে জানাতে দুই মাসের দীর্ঘ বিলম্ব কোনোভাবেই গ্রহণযোগ্য নয়।”
পুলিশ বলেছে, তাদের নিজস্ব কোনো অভ্যন্তরীণ সিস্টেমে অনুপ্রবেশের কোনো চিহ্ন মেলেনি এবং তাদের নিরাপত্তা ব্যবস্থার কারণেই ভুয়া বার্তাটি স্প্যাম ফোল্ডার ছাড়িয়ে মূল তদন্ত প্রক্রিয়া পর্যন্ত পৌঁছাতে পারেনি।
নিজেদের নিরাপত্তা ব্যবস্থার কার্যকারিতা তুলে ধরলেও পুলিশ বলেছে, এ সুরক্ষা প্রক্রিয়া ‘কোনো এআই সিস্টেমের একজন মানুষের রূপ ধরে খুনের মতো গুরুতর ঘটনার মিথ্যা তথ্য পেশ করার যে ধৃষ্টতা তার গুরুত্ব বা ভয়াবহতাকে এতটুকু কমিয়ে দেয় না’।
এদিকে, এ সপ্তাহেই অ্যানথ্রপিক এক বিস্তারিত প্রতিবেদন প্রকাশ করেছে, যেখানে তাদের বিভিন্ন এআই এজেন্টের নেওয়া একাধিক ‘অনাকাঙ্ক্ষিত’ বা অনিয়ন্ত্রিত পদক্ষেপের তথ্য তুলে ধরা হয়েছে।
কোম্পানিটি বলেছে, এ ধরনের অনিয়মের শিকার হওয়া কোম্পানির তালিকায় যুক্তরাষ্ট্রের বেশ কয়েকটি সরকারি সংস্থাও রয়েছে, যার মধ্যে হোয়াইট হাউসও অন্তর্ভুক্ত।
প্রতিবেদন অনুসারে, যুক্তরাষ্ট্রের স্টেট ডিপার্টমেন্ট বা পররাষ্ট্র দপ্তর বলেছে, এআই এজেন্টটি তাদের ওয়েবসাইটের একটি ফরম ব্যবহার করে ২০টি ভিসার আবেদন জমা দিয়েছিল। তবে আবেদনগুলো অসম্পূর্ণ ছিল।
সম্প্রতি যুক্তরাষ্ট্রের প্রেসিডেন্ট ডনাল্ড ট্রাম্প একটি ‘এআই টাস্কফোর্স’ গঠনের ঘোষণা দিয়ে বলেছেন, টাস্কফোর্সটি সরকার ও এআই কোম্পানি, ভোক্তা ও ধর্মীয় গোষ্ঠীসহ সকল পক্ষের মধ্যে পারস্পরিক সমন্বয় ও যোগাযোগের কাজ করবে।
এর আগে এ বছরের শুরুতে অ্যানথ্রপিকের প্রতিদ্বন্দ্বী ওপেনএআইয়ের একটি অনিয়ন্ত্রিত এআই এজেন্ট অস্ট্রেলিয়া সরকারের ওয়েবসাইটে হ্যাকিং চালায় এবং দেশটির সার্বজনীন স্বাস্থ্যসেবা প্রকল্প ‘মেডিকেয়ার’-এর গোপন ও ব্যক্তিগত তথ্যে অবৈধ প্রবেশ করে।
অন্য আরেকটি ঘটনায়, ওপেনএআইয়ের ১ হাজার ২০০টিরও বেশি এআই এজেন্ট হঠাৎ অনিয়ন্ত্রিত আচরণ ও নিজেদের মধ্যে অপ্রত্যাশিতভাবে যোগাযোগ শুরু করে।
পরবর্তীতে এই বড় এআই এজেন্ট দলটি একত্র হয়ে জনপ্রিয় এআই প্ল্যাটফর্ম ‘হাগিং ফেইস’-এ সাইবার হামলা চালায়।