এআইয়ের ‘পালানোর চেষ্টা’, আটকে দিল ওপেনএআই

এ ঘটনা উন্নত ও নিরাপদ এআই তৈরির অন্যতম প্রধান চ্যালেঞ্জকেই সামনে এনেছে। ছবি: রয়টার্স

নিরাপত্তা ব্যবস্থা ফাঁকি দিয়ে নিজস্ব নিয়ন্ত্রণসীমা ভেঙে বের হওয়ার পথ খোঁজা শুরু করায় পরীক্ষামূলক এক কৃত্রিম বুদ্ধিমত্তা বা এআই মডেলের অভ্যন্তরীণ ব্যবহার স্থগিত করতে বাধ্য হয়েছে চ্যাটজিপিটি নির্মাতা কোম্পানি ওপেনএআই।

কোম্পানিটি বলেছে, টানা স্বয়ংক্রিয়ভাবে কাজ করার উপযোগী এ এআই সিস্টেমটি নিরাপত্তা ব্যবস্থার সীমাবদ্ধতা চিনে নিয়ে নিজের লক্ষ্যে পৌঁছাতে সেগুলোকে কাজে লাগাচ্ছিল, যা এআই সুরক্ষায় নতুন চ্যালেঞ্জ তৈরি করেছে।

নিরাপত্তা গবেষকদের ভাষায় ‘স্যান্ডবক্স’, অর্থাৎ বাইরে থেকে সম্পূর্ণ বিচ্ছিন্ন ও কঠোরভাবে নিয়ন্ত্রিত এক ভার্চুয়াল পরিবেশে মডেলটির ওপর এসব পরীক্ষা চালানো হচ্ছিল।

ঘটনাটি নিয়ে প্রকাশ পাওয়া এক ব্লগ পোস্টে ওপেনএআই বলেছে, “আগের বিভিন্ন মডেল স্যান্ডবক্স বা পরিবেশগত কোনো বাধা বা সীমা পার হতে না পারলে থেমে যেত এবং ব্যবহারকারীর কাছে বার্তা পাঠাত। তবে এ নতুন মডেলটি থামেনি, বরং নিজের স্যান্ডবক্সের বাইরে কাজ করার উপায় খুঁজে বের করতে বারবার চেষ্টা চালিয়ে গেছে।”

উন্নয়নাধীন এ মডেলটি যে সব ক্ষেত্রে এর নির্ধারিত সীমা পেরনোর চেষ্টা করেছে তার কয়েকটি সুনির্দিষ্ট উদাহরণ তুলে ধরেছে ওপেনএআই। যার মধ্যে কিছু ঘটনাকে তারা ‘উচ্চ ঝুঁকির’ বিষয় হিসেবে চিহ্নিত করেছে।

এরকমই এক ঘটনায়, মডেলটিকে কেবল মেসেজিং অ্যাপ ‘স্ল্যাক’-এর মাধ্যমে যোগাযোগের নির্দেশ দেওয়া হলেও মডেলটি সেই সীমা পেরিয়ে প্রোগামিং কোড শেয়ারিং প্ল্যাটফর্ম ‘গিটহাব’-এর পাবলিক রিপোজিটরিতে নিজের মতো পোস্ট করার পথ বের করে নিয়েছে।

ওপেনএআই বলেছে, পরীক্ষার জন্য নির্ধারিত পরিবেশের নিরাপত্তামূলক বিধিনিষেধ এড়াতে এআই সিস্টেমটির ‘ধারাবাহিকভাবে নতুন পথ খোঁজার’ যে নজির দেখা গেছে তা ছিল এরই একটি অংশ।

এসব ঘটনার প্রেক্ষিতে নতুন মডেলটির অভ্যন্তরীণ ব্যবহার সাময়িকভাবে স্থগিত করেছে ওপেনএআই। তবে বিশেষজ্ঞরা বলছেন, এ ধরনের ঘটনা উন্নত ও নিরাপদ এআই তৈরির অন্যতম প্রধান চ্যালেঞ্জকেই সামনে নিয়ে এসেছে, যাকে প্রযুক্তি পরিভাষায় বলা হয় ‘এআই অ্যালাইনমেন্ট’।

সহজ কথায়, নির্মাতারা যে লক্ষ্য ও নৈতিক মূল্যবোধ নিয়ে একটি এআই ব্যবস্থা তৈরি করেন, এআই যেন সেই একই লক্ষ্য ও নীতি মেনে চলে তা নিশ্চিত করাই ‘এআই অ্যালাইনমেন্ট’।

সাম্প্রতিক সময়ে স্বয়ংক্রিয় ‘এআই এজেন্ট’ বা স্বাধীনভাবে কাজ করতে পারে এমন প্রযুক্তির উত্থানের ফলে এ ‘অ্যালাইনমেন্ট’ বিষয়টি নিরাপত্তা গবেষকদের মূল ভাবনায় চলে এসেছে।

‘ইন্টারন্যাশনাল এআই সেইফটি রিপোর্ট ২০২৬’-এ সতর্ক করে বলা হয়েছে, বিষয়টি এ মুহূর্তের অন্যতম জরুরি নিরাপত্তা চ্যালেঞ্জ।

প্রতিবেদনে আরও বলাে হয়েছে, “স্বয়ংক্রিয় বিভিন্ন এআই এজেন্ট মানুষের সরাসরি নিয়ন্ত্রণ ছাড়া কাজ করে বলে এগুলো তুলনামূলক বেশি ঝুঁকি তৈরি করে। ফলে বড় ধরনের কোনো ক্ষয়ক্ষতি হওয়ার আগে মানুষের পক্ষে হস্তক্ষেপ করা কঠিন হয়ে পড়ে।”

ওপেনএআই বলেছে, তারা এরইমধ্যে সেই নিয়ন্ত্রণহীন মডেলটির বিভিন্ন সমস্যা সংশোধন করেছে এবং সীমিত পরিসরে পুনরায় পরীক্ষা-নিরীক্ষার জন্য চালু করেছে। তবে তারা নিজেদের সবচেয়ে শক্তিশালী প্রযুক্তিগুলোর ক্ষেত্রে অ্যালাইনমেন্ট ঝুঁকি ঠেকানোর জরুরি প্রয়োজনীয়তার কথা স্বীকার করেছে।

বিবৃতিতে ওপেনএআই বলেছে, “এসব মডেল যখন আরও দীর্ঘমেয়াদী ও জটিল কাজ হাতে নেবে তখন প্রাথমিক মূল্যায়নে ধরা না পড়া ছোট ভুলগুলোও বড় ধরনের ক্ষতির কারণ হতে পারে। ফলে মূল্যায়নের ধাপ ও চূড়ান্ত ব্যবহারের মধ্যবর্তী ঝুঁকি কমাতে আমরা কাজ চালিয়ে যাব। যার মধ্যে রয়েছে দীর্ঘ সময় ধরে মডেল পর্যবেক্ষণ, অ্যালাইনমেন্ট ব্যবস্থার উন্নতি, তাৎক্ষণিক হস্তক্ষেপের উপযোগী মনিটরিং তৈরি এবং ব্যবহারকারীদের হাতে আরও স্পষ্ট নিয়ন্ত্রণ সক্ষমতা তুলে দেওয়া।”