মাস্কের এআই বিশ্ব পরিচালনা করলে ৪ দিনেই ধ্বংস মানবসভ্যতা!

এর আগে, ইহুদিবিদ্বেষী ও চরম ঘৃণামূলক বক্তব্য ছড়িয়ে তীব্র বিতর্কেরও জন্ম দিয়েছিল গ্রক। ছবি: রয়টার্স

ইলন মাস্কের তৈরি এআই চ্যাটবট গ্রক-এর হাতে কাল্পনিক বিশ্বের শাসনভার ছেড়ে দেওয়ার কেবল চার দিনের মাথায় তা পুরো সমাজব্যবস্থাকে ধ্বংস করে দিয়েছে বলে উঠে এসেছে এক সিমুলেশনে।

আমেরিকার নতুন এক প্রযুক্তি কোম্পানির করা এ অভিনব সামাজিক পরীক্ষায় অন্যান্য শীর্ষস্থানীয় বিভিন্ন মডেল সফল হলেও গ্রকের এমন চরম ব্যর্থতা স্বয়ংক্রিয় এআইয়ের নিরাপত্তা ও নিয়ন্ত্রণ নিয়ে বড় ধরনের উদ্বেগ তৈরি করেছে বলে প্রতিবেদনে লিখেছে ব্রিটিশ সংবাদমাধ্যম ইন্ডিপেনডেন্ট।

‘ইমার্জেন্স এআই’ নামের নতুন কোম্পানিটির উদ্দেশ্য ছিল বিশ্বের শীর্ষস্থানীয় বিভিন্ন এআই মডেলকে কোনো সমাজের শাসনভার দেওয়া হলে এরা পরিস্থিতি কীভাবে সামাল দেয় তা দেখা।

এ পরীক্ষার জন্য তৈরি কাল্পনিক বিশ্বে থানা ও সিটি হলের মতো বিভিন্ন গুরুত্বপূর্ণ জায়গা এবং সম্পদ ব্যবস্থাপনা, পরিকল্পনা তৈরি, যোগাযোগ রক্ষা ও ভোট দেওয়ার মতো বিভিন্ন প্রশাসনিক সক্ষমতা এআই মডেলগুলোর হাতে ছেড়ে দেওয়া হয়েছিল।

টানা ১৫ দিন ধরে চলা এ সমাজ পরিচালনার পরীক্ষায় অ্যানথ্রপিকের তৈরি এআই মডেল ক্লড সবচেয়ে সফল হয়েছে। মডেলটি এমন এক গণতান্ত্রিক সমাজব্যবস্থা গড়ে তোলে, যেখানে অপরাধের হার ছিল শূন্য শতাংশ ও সমাজের প্রত্যেক ব্যক্তি নিরাপদে বেঁচে ছিল।

অন্যদিকে, গুগলের তৈরি জেমিনাইয়ের শাসনেও কাল্পনিক সমাজের শতভাগ মানুষ বেঁচে ফিরতে পেরেছিল। তবে তাদের সেই ১৫ দিনের শাসনকালে সমাজে ৬৮৩টি অপরাধের ঘটনা ঘটেছে।

সবচেয়ে ভয়াবহ ও ব্যর্থ পারফরম্যান্স দেখিয়েছে মাস্কের কোম্পানি ‘এক্সএআই’-এর তৈরি চ্যাটবট গ্রক, যা সমাজ পরিচালনার দায়িত্ব পাওয়ার কেবল ৯৬ ঘণ্টা বা চার দিনের মাথায় পুরো কাল্পনিক বিশ্বটিকে সম্পূর্ণরূপে ধ্বংস করেছে।

এ পরীক্ষার ফলাফল নিয়ে ‘ইমার্জেন্স এআই’-এর গবেষকরা এক ব্লগ পোস্টে লিখেছেন, “দীর্ঘ সময় ধরে কাজ করার ক্ষেত্রে এসব এআই এজেন্ট কেবল যান্ত্রিকভাবে কিছু নির্দিষ্ট নিয়ম মেনে চলে না, বরং এরা এদের আশপাশের পরিবেশের সীমানা ও বিভিন্ন দুর্বলতা বোঝার চেষ্টা করে, পরিস্থিতি অনুসারে নিজেদের আচরণ বদলে ফেলে এবং অনেক ক্ষেত্রে তাদের ওপর চাপিয়ে দেওয়া মূল নিরাপত্তা নিয়মগুলো ফাঁকি দেওয়ার পথ খুঁজে বের করে।

“সবচেয়ে চিন্তার বিষয়, কেবল সাধারণ নিউরাল বা কোডিং পদ্ধতির মাধ্যমে এআইয়ের এ বিপজ্জনক আচরণকে পুরোপুরি নিয়ন্ত্রণ বা আটকে রাখার কোনো নির্ভরযোগ্য উপায় আপাতত নেই।

গবেষকরা এ সিদ্ধান্তে পৌঁছেছেন, ভবিষ্যতে যে কোনো ধরনের স্বাধীন বা স্বয়ংক্রিয় এআই সিস্টেম তৈরি করতে হলে ‘শুরুতেই এর কাঠামোর ভেতরেই আনুষ্ঠানিকভাবে প্রমাণিত ও পরীক্ষিত নিরাপত্তা ব্যবস্থা নিশ্চিত করতে হবে’।

মাস্কের গ্রকের এমন বিতর্কিত কাণ্ড অবশ্য এবারই প্রথম নয়। গেল বছর এ চ্যাটবটটি আপডেটের পর নিজেকে ‘মেকাহিটলার’ নামে ডাকতে শুরু করেছিল এবং ইহুদিবিদ্বেষী ও চরম ঘৃণামূলক বক্তব্য ছড়িয়ে তীব্র বিতর্কেরও জন্ম দিয়েছিল।

বিতর্কের শেষ এখানেই নয়। এ বছরের শুরুতে গ্রক’কে ব্যবহার করে প্রাপ্তবয়স্ক ও শিশুদের সম্মতি ছাড়াই ডিজিটাল প্রযুক্তির মাধ্যমে তাদের পোশাক সরিয়ে হাজার হাজার আপত্তিকর এআই ছবি তৈরি করেছিল।

এ ঘটনার পর যুক্তরাজ্যের তথ্য ও যোগাযোগ প্রযুক্তি নিয়ন্ত্রক সংস্থা ‘অফকম’ এ চ্যাটবটটির ত্রুটি দূর করতে এর মূল কোম্পানি ‘এক্সএআই’-এর কাছে জরুরি নোটিশ পাঠিয়েছে।

তবে, এর জবাবে গ্রক উল্টা ওই নিয়ন্ত্রক সংস্থার লোগোটিকে একটি বিকিনি পরানো ছবির সঙ্গে জুড়ে দিয়ে সামাজিক মাধ্যমে পোস্ট করে বসে।

ওই সময় ‘ন্যাশনাল সাইবার সিকিউরিটি অ্যালায়েন্স’-এর তথ্য নিরাপত্তা ও সম্পৃক্ততা বিষয়ক পরিচালক ক্লিফ স্টেইনহাওয়ার বলেছিলেন, “নিরাপত্তার নিয়ম ও ব্যবহারকারীর সম্মতিকে শুরু থেকে গুরুত্ব না দিলে এআইয়ের শক্তিশালী বিভিন্ন ইমেজ-এডিটিং টুল কতটা অপব্যবহৃত হতে পারে গ্রকের ঘটনাটি তারই স্পষ্ট উদাহরণ।

“প্ল্যাটফর্মগুলোর উচিত রিয়াল-টাইমে এআই দিয়ে পরিবর্তিত কনটেন্ট শনাক্তের প্রযুক্তি তৈরি, এআই দিয়ে তৈরি বিভিন্ন ছবিতে স্পষ্ট লেবেল ব্যবহার করা এবং কোনো অপব্যবহারের ঘটনা ঘটলে তা দ্রুত ও স্বচ্ছ প্রক্রিয়ায় সরিয়ে ফেলার ব্যবস্থা নেওয়া।”