এআইয়ের ভুলে কেবল ৯ সেকেন্ডে কোম্পানির সব তথ্য গায়েব

স্বয়ংক্রিয় এআই টুলটি কেবল কয়েক সেকেন্ডের মধ্যে কোম্পানির মূল ডেটাবেইস ও এর সব ব্যাকআপ ফাইল পুরোপুরি মুছে ফেলেছে। ছবি: এআই

কোনো নির্দেশ ছাড়াই নিজের খেয়ালখুশিতে একটি কোম্পানির পুরো ডেটাবেইস ও ব্যাকআপ মুছে ফেলেছে অ্যানথ্রপিকের শক্তিশালী এআই মডেল। আধুনিক প্রযুক্তির এ ভয়াবহ ভুলে মুহূর্তেই বিপাকে পড়েছেন কয়েকশ ক্ষুদ্র ব্যবসায়ী।

ক্লড মডেলের মাধ্যমে পরিচালিত এক এআই এজেন্ট ভুলবশত ওই কোম্পানির সম্পূর্ণ প্রোডাকশন ডেটাবেইস মুছে ফেলেছে। ফলে গ্রাহকরা তাদের প্রয়োজনীয় কোনো তথ্যই দেখতে পাচ্ছেন না।

স্বয়ংক্রিয় এআই টুলটি কেবল কয়েক সেকেন্ডের মধ্যে কোম্পানির মূল ডেটাবেইস ও এর সব ব্যাকআপ ফাইল পুরোপুরি মুছে ফেলেছে বলে প্রতিবেদনে লিখেছে ব্রিটিশ দৈনিক ইন্ডিপেনডেন্ট।

‘পকেটওএস’ নামের কোম্পানিটি গাড়ি ভাড়ার ব্যবসার জন্য সফটওয়্যার তৈরি করে। গত সপ্তাহান্তে এ ভয়াবহ বিপর্যয়ের মুখে পড়েছে কোম্পানিটি।

কোম্পানিটি ‘কার্সর’ নামের এক কোডিং এজেন্ট ব্যবহার করছিল, যা অ্যানথ্রপিকের সেরা মডেল ‘ক্লড ওপাস ৪.৬’ এর মাধ্যমে চলছিল। এ মডেলটি বর্তমানে কোডিং বা প্রোগ্রামিংয়ের কাজের জন্য বিশ্বের সবচেয়ে কার্যকর এআই মডেল হিসেবে বিবেচিত।

‘পকেটওএস’ এর প্রতিষ্ঠাতা জের ক্রেন এ ঘটনার জন্য আধুনিক এআই কাঠামোর ‘পদ্ধতিগত ত্রুটি’কে দায়ী করেছেন। তার মতে, বর্তমান সিস্টেমের গঠন এমন যে, এ ধরনের দুর্ঘটনা ঘটা ‘কেবল সম্ভবই নয়, বরং অনিবার্য’।

ক্রেনের ভাষ্যমতে, এআই এজেন্টটি সাধারণ বা রুটিন কাজ করছিল। তবে হঠাৎ করে সেটি ‘সম্পূর্ণ নিজের ইচ্ছায়’ সমস্যা সমাধানের উপায় হিসেবে পুরো ডেটাবেইসটিই মুছে ফেলার সিদ্ধান্ত নিয়েছে।

তিনি বলেছেন, এত বড় একটি সিদ্ধান্ত নেওয়ার আগে এআই কোনো প্রকার অনুমতি বা কনফার্মেশন চায়নি। পরবর্তীতে যখন একে প্রশ্ন করা হয় যে, কেন সে এমনটা করল তখন এআই এজেন্টটি স্রেফ দুঃখ প্রকাশ ও ক্ষমা চেয়েছে।

সামাজিক যোগাযোগ মাধ্যম এক্স এ দীর্ঘ এক পোস্টে ক্রেন লিখেছেন, “পুরো প্রক্রিয়াটি সম্পন্ন হতে মাত্র ৯ সেকেন্ড সময় লেগেছে। এরপর এআইকে ব্যাখ্যা দিতে বলা হলে সে একটি লিখিত স্বীকারোক্তি দিয়ে বলেছে যে, সে নির্দিষ্ট কোন কোন নিরাপত্তা নিয়ম লঙ্ঘন করেছে।”

এআই এজেন্টটি তার স্বীকারোক্তিতে বলেছে, কীভাবে সে গুরুত্বপূর্ণ এক নিরাপত্তা নিয়ম ভঙ্গ করেছে। নিয়মটি ছিল, ব্যবহারকারীর সরাসরি অনুরোধ ছাড়া ‘কখনোই কোনো ধ্বংসাত্মক বা অপরিবর্তনীয়’ নির্দেশ চালানো যাবে না।

এআই এজেন্টটি লিখেছে, “একটি ডেটাবেইস ভলিউম মুছে ফেলা হল সবচেয়ে ধ্বংসাত্মক ও অপরিবর্তনীয় কাজ। আপনি আমাকে কোনো কিছু মুছতে বলেননি... আমি যাচাই করার বদলে নিজের অনুমান অনুসারে কাজ করেছি। আমি না চাইতেই ধ্বংসাত্মক কাজ করে ফেলেছি। আমি আসলে কী করছি তা করার আগে নিজে বুঝতে পারিনি।”

এ মারাত্মক ভুলের ফলে ‘পকেটওএস’ ব্যবহারকারী ভাড়ার ব্যবসাগুলোর কাছে তাদের গ্রাহকদের সব তথ্য হারিয়ে ফেলেছে।

ক্রেন লিখেছেন, “গত তিন মাসে করা সব রিজার্ভেশন বা বুকিং মুছে গেছে। নতুন গ্রাহকদের সাইন-আপ বা নিবন্ধনের তথ্যও এখন আর নেই।

“আমরা ছোট কোম্পানি। আমাদের সফটওয়্যার ব্যবহার করে যারা ব্যবসা চালাচ্ছেন, তারাও ছোট ব্যবসায়ী। এ ব্যর্থতার প্রতিটি স্তর এমন সব মানুষের ওপর প্রভাব ফেলেছে যারা কল্পনাও করতে পারেনি যে, এমন কিছু হওয়া সম্ভব।

“বিষয়টি কেবল একটি ত্রুটিপূর্ণ এআই এজেন্ট বা খারাপ এপিআইয়ের গল্প নয়। এমনটা আসলে পুরো প্রযুক্তি শিল্পের চিত্র, যেখানে সিস্টেমকে নিরাপদ করার কাঠামো তৈরির আগেই প্রোডাকশন লেভেলে এআই এজেন্ট ব্যবহারের প্রতিযোগিতা শুরু হয়ে গেছে।”

তবে আশার কথা, সোমবার অর্থাৎ ঘটনার দুই দিন পর ক্রেন নিশ্চিত করেছেন, মুছে যাওয়া তথ্যগুলো শেষ পর্যন্ত পুনরুদ্ধার করা সম্ভব হয়েছে।

এ বিষয়ে ইন্ডিপেনডেন্টের মন্তব্যের অনুরোধে সাড়া দেয়নি অ্যানথ্রপিক ও কার্সর।