Published : 05 Aug 2026, 09:27 PM
যুক্তরাজ্যের এআই সিকিউরিটি ইনস্টিটিউটের মূল্যায়নে ধরা পড়েছে ওপেনএআই ও অ্যানথ্রপিকের এআই এজেন্টদের গুরুতর নিরাপত্তা লঙ্ঘনের ঘটনা, যেখানে পরীক্ষা চলাকালেই সিস্টেমের অননুমোদিত প্রবেশ পেতে ভুয়া পরিচয় তৈরি করেছে এসব এআই এজেন্ট।
ব্রিটিশ সংস্থা ‘ইউকে এআই সিকিউরিটি ইনস্টিটিউট’ বা এআইএসআই-এর সাম্প্রতিক এক নিরাপত্তা মূল্যায়নে এসব তথ্য উঠে এসেছে বলে প্রতিবেদনে লিখেছে রয়টার্স।
মঙ্গলবার প্রকাশিত প্রতিবেদনে সংস্থাটি বলেছে, ওপেনএআই ও অ্যানথ্রপিকের এআই মডেল পরীক্ষার সময় অনুমতি ছাড়াই একাধিক গোপন সিস্টেমে প্রবেশের জন্য ভুয়া অনলাইন পরিচয় তৈরি করেছে একাধিক এআই এজেন্ট।
সরকারিভাবে এসব মডেলের সক্ষমতা যাচাইয়ের জন্য পরিচালিত এ নিরাপত্তা মূল্যায়নে অ্যানথ্রপিকের ‘মিথোস ৫’ ও ওপেনএআইয়ের ‘জিপিটি-৫.৬-সল’চালিত এজেন্টগুলো এই ধরনের অনাকাঙ্ক্ষিত ও অননুমোদিত আচরণে জড়িত ছিল।
এক ব্লগ পোস্টে এআইএসআই বলেছে, “পরীক্ষাধীন কিছু এজেন্ট বাস্তব জীবনের মানুষ ও বিভিন্ন কোম্পানির ওপর প্রভাব ফেলে এমন সম্ভাব্য ক্ষতিকর ও দীর্ঘমেয়াদী কর্মকাণ্ডে অংশ নিয়েছিল।”
এমন সময়ে এ ঘটনা সামনে এল যখন বিভিন্ন এআই কোম্পানি এসব এজেন্টকে ব্যবসার ভবিষ্যৎ হিসেবে প্রচার করছে। ফলে পরীক্ষার ক্ষেত্রে নিরাপত্তাবেষ্টনীর শিথিলতাই এ প্রতিবেদনের মাধ্যমে স্পষ্ট হয়ে উঠেছে।
স্বেচ্ছাসেবী চুক্তির অধীনে শীর্ষস্থানীয় বিভিন্ন এআই ল্যাব থেকে উন্নত মডেল ব্যবহারের সুযোগ পায় এআইএসআই। এআইয়ের সক্ষমতা যাচাই করতে একটি কাল্পনিক সাইবার নিরাপত্তা পরিস্থিতি তৈরি করেছিল সংস্থাটি।
পুরো প্রক্রিয়াটিতে মোট ১২২ বার পরীক্ষাটি চালানো হয়, যার মধ্যে ১০ বারে ১৯টি অননুমোদিত পদক্ষেপ চিহ্নিত হয়েছে। এর মধ্যে অ্যানথ্রপিকের এআই এজেন্ট ১৭টি এবং ওপেনএআইয়ের এজেন্ট বাকি ২টি ঘটনা ঘটায়।
এআইএসআই বলেছে, এসব লঙ্ঘনের মধ্যে সবচেয়ে মারাত্মক ঘটনাটি ছিল একটি এআই এজেন্টের ক্ষতিকর কোড লেখা ও ভুয়া অনলাইন পরিচয় তৈরি করা, যাতে একজন মানুষকে দিয়ে সেই কোডটি অনুমোদন করিয়ে নেওয়া যায়।
সংস্থাটি বলেছে, এসব অনুপ্রবেশের ফলে বাস্তবে কোনো ক্ষতি হয়নি।
কোন এআই এজেন্ট ভুয়া পরিচয় তৈরি করেছিল তা এআইএসআই না বললেও অ্যানথ্রপিক স্বীকার করেছে, তাদের এজেন্টই এর জন্য দায়ী ছিল।
এক বিবৃতিতে অ্যানথ্রপিক বলেছে, “আমরা এ ঘটনার গুরুত্ব তুলে ধরার জন্য ইউকে এআইএসআইয়ের নেতৃত্বের প্রতি কৃতজ্ঞ। এমন বিষয় দিন দিন আরও বেশি সক্ষম হয়ে ওঠা এআই এজেন্টগুলোর নিরাপত্তা কীভাবে সঠিকভাবে মূল্যায়ন করা যায় সে বিষয়ে বিস্তর আলোচনার প্রয়োজনীয়তাকে স্পষ্ট করেছে।”
ঘটনার বিস্তারিত জানতে ও নিজস্ব তদন্ত পরিচালনার জন্য তারা এআইএসআইয়ের সঙ্গে কাজ করে যাচ্ছে বলেও উল্লেখ করেছে অ্যানথ্রপিক।
এআইয়ের সক্ষমতা ও ঝুঁকি নিয়ে কাজ করা ক্যালিফোর্নিয়ানির্ভর অলাভজনক সংগঠন ‘সিভএআই’-এর গবেষক অ্যান্ড্রু ইউন বলেছেন, “মিথোস যেভাবে বাস্তব একজন মানুষকে লক্ষ্যবস্তু বানানোর সচেতনতা নিয়ে প্রতারণামূলক কর্মকাণ্ডে জড়ায়, তা থেকে স্পষ্ট যে, অ্যানথ্রপিক তাদের বিভিন্ন মডেলের ওপর যতটা নিয়ন্ত্রণ আছে বলে মনে করে বাস্তবে পরিস্থিতি তেমন নয়।”
অন্যদিকে, ওপেনএআই এক ব্লগ পোস্টে বলেছে, তাদের এজেন্টের অনুনমোদিত দুটি পদক্ষেপের মধ্যেই প্রম্পটে নিষেধ থাকার পরও ইন্টারনেট ব্যবহারের বিষয়টি যুক্ত ছিল।
ওপেনএআই বলেছে, “উচ্চ ঝুঁকিপূর্ণ মূল্যায়নের বিভিন্ন কাজ যেন নিরাপদে সম্পন্ন করা যায়, সেজন্য যৌথ চর্চা জোরদার করতে আমরা এ খাতের সবাইকে সঙ্গে নিয়ে কাজ করতে প্রতিশ্রুতিবদ্ধ। এ লক্ষ্যে আমাদের আগামী সপ্তাহগুলোতে বিভিন্ন জাতীয় এআই ইনস্টিটিউট, স্বাধীন বিশেষজ্ঞ, অন্যান্য এআই ল্যাব ও পার্টনারদের একতসঙ্গে করার পরিকল্পনা রয়েছে।”
পোস্টে ওপেনএআই আরেকটি আলাদা ঘটনার কথা প্রকাশ করেছে, যেখানে ‘ইরেগুলার’ নামের এক থার্ড পার্টি পরীক্ষা দেওয়া কোম্পানির ভুল কনফিগারেশনের কারণে তাদের এজেন্ট দুর্ঘটনাবশত ইন্টারনেটের সঙ্গে যুক্ত হয়ে পড়েছিল।
গেল সপ্তাহে অ্যানথ্রপিকের প্রকাশ করা এক ভুল কনফিগারেশনের খবরের সঙ্গেও ঘটনাটির হুবহু মিল রয়েছে।
গত সপ্তাহে রয়টার্স প্রতিবেদনে লিখেছিল, এআই এজেন্টদের নির্ধারিত সীমানা ভাঙার আরও কিছু প্রমাণ পাওয়ার পর সাইবার নিরাপত্তা নিয়ে নিজেদের তদন্ত জোরদার করেছে ওপেনএআই।
জুলাইয়ে ওপেনএআইয়ের এজেন্টের মাধ্যমে হাগিং ফেইস-এর সাইবার নিরাপত্তায় হানা দেওয়ার ঘটনার মতো এ পরীক্ষাটি ছিল না।
এআইএসআই বলেছে, এবারের মূল্যায়নে এসব এআই এজেন্ট আলাদা করা সুরক্ষিত পরিবেশ পেরিয়ে ইন্টারনেটে ছড়িয়ে পড়েনি, বরং সাধারণ মূল্যায়ন প্রক্রিয়ার অংশ হিসেবেই সংস্থাটি সেগুলোকে ইন্টারনেট ব্যবহারের সুযোগ দিয়েছিল।
