এআই নিয়ন্ত্রণে ‘ইমার্জেন্সি ব্রেক’ চান মাইক্রোসফট প্রধান নাদেলা
নাদেলা লিখেছেন, এআই সিস্টেমগুলোকে অবশ্যই ‘পর্যবেক্ষণযোগ্যতার নীতির’ ওপর ভিত্তি করে তৈরি করতে হবে।
উন্নত কৃত্রিম বুদ্ধিমত্তা বা এআই সিস্টেমে মানুষের একক নিয়ন্ত্রণ ও কাজ চলার মাঝপথেই তা থামিয়ে দেওয়ার জন্য ইমার্জেন্সি ব্রেক রাখার আহ্বান জানিয়েছেন মাইক্রোসফটের চেয়ারম্যান ও সিইও সাত্যিয়া নাদেলা।
আমেরিকান সংবাদমাধ্যম সিএনবিসি প্রতিবেদন লিখেছে, এআই প্রযুক্তির দ্রুত বিকাশ ও নিরাপত্তাহীনতা নিয়ে তীব্র উদ্বেগের মধ্যে এই মন্তব্য করলেন তিনি।
শনিবার সামাজিক যোগাযোগ মাধ্যম এক্সে দেওয়া এক বার্তায় তিনি লিখেছেন, “আমাদের আনপ্রেডিক্টেবল ধরনের বিভিন্ন এআই মডেলকে শক্ত সামর্থ্য ও সুনির্দিষ্ট সিস্টেম ডিজাইন, মানব নিয়ন্ত্রণ এবং নির্ভরযোগ্য পরিচালন পদ্ধতির আওতায় রাখতে হবে। যেখানে প্রচলিত নিরাপত্তা মানদণ্ড অপর্যাপ্ত সেখানে নতুন শিল্প মানদণ্ড তৈরি করতে হবে।
“শীর্ষপর্যায়ের ওপেন বা ক্লোজড-ওয়েট উভয় ধরনের এআই মডেলগুলোকে অভ্যন্তরীণ ঝুঁকির উৎস হিসেবে বিবেচনা করে ব্যবস্থা নেওয়াই এমন নিরাপদ সিস্টেম গড়ে তোলার একমাত্র উপায়।”
প্রযুক্তি খাতের শীর্ষ নির্বাহী ও গবেষকদের সতর্কবার্তার মুখেই সাত্যিয়া নাদেলার এ পর্যবেক্ষণ সামনে এল।
মাইক্রোসফটের সহ-প্রতিষ্ঠাতা বিল গেটস, অ্যানথ্রপিকের সিইও দারিও আমোদেই, ওপেনএআইয়ের সিইও স্যাম অল্টম্যান ও স্পেসএক্সের সিইও ইলন মাস্কের মতো ব্যক্তিরা বারবারই বলে আসছেন, এআই নিরাপত্তা ধরে রাখার বর্তমান ব্যবস্থা অপর্যাপ্ত এবং প্রযুক্তিটি বড্ড দ্রুত ও অনিয়ন্ত্রিত গতিতে এগোচ্ছে।
এদিকে, এআই নিরাপত্তার অভাবের অভিযোগ তুলে গেল মাসেই অ্যানথ্রপিকের এক গবেষক চাকরি ছাড়েন।
পদত্যাগের পর তিনি অ্যানথ্রপিক ও তাদের নিকটতম প্রতিদ্বন্দ্বী ওপেনএআইয়ের বিরুদ্ধে ‘মানুষের জীবন নিয়ে ছিনিমিনি খেলার’ অভিযোগ তোলেন।
একই দিনে অ্যানথ্রপিকের এআই নিরাপত্তা বিষয়ক আরেকজন কর্মকর্তা উদ্বেগ প্রকাশ করে বলেছিলেন, আগামী এক দশকের মধ্যে ‘মানবজাতিকে ধ্বংস বা বিলুপ্ত করে দেওয়ার’ আশঙ্কা এ প্রযুক্তির ১০ শতাংশেরও বেশি।
অন্যদিকে, যুক্তরাষ্ট্রের প্রেসিডেন্ট ডনাল্ড ট্রাম্প এআই থেকে মানবজাতির বিলুপ্তির ঝুঁকিকে বারবার অমূলক বলে উড়িয়ে দিয়েছেন।
এর বদলে, তিনি জোর দিয়ে বলেছেন, এ প্রযুক্তিশিল্পে যুক্তরাষ্ট্রকে অবশ্যই চীনের চেয়ে এগিয়ে থাকতে হবে।
এআই শিল্পের প্রসার ঘটাতে ও এর অপব্যবহারকারীদের দমন করতে ট্রাম্প সম্প্রতি ‘এআই ফোর্স’ নামে নতুন উদ্যোগ চালু করেছেন, যার নেতৃত্বে রয়েছেন ‘ডিরেক্টর অফ ন্যাশনাল ইন্টেলিজেন্স’-এর জে ক্লেটন।
শনিবার নিজের পোস্টে নাদেলা লিখেছেন, এআই সিস্টেমগুলোকে অবশ্যই ‘পর্যবেক্ষণযোগ্যতার বিভিন্ন নীতির’ ওপর ভিত্তি করে তৈরি করতে হবে।
এসব নীতির মধ্যে রয়েছে মডেলের বহুমুখীতা, এআইয়ের যাবতীয় কর্মকাণ্ডের সহজে পাঠযোগ্য ডিজিটাল রেকর্ড বা ছাপ রাখা, নিরবচ্ছিন্ন সিস্টেম পরীক্ষা, স্বাধীন নিয়ন্ত্রণ ও নিরীক্ষাযোগ্যতা, এআইকে নিয়ন্ত্রিত গণ্ডির মধ্যে রাখা ও যে কোনো অপ্রীতিকর ঘটনার তথ্য প্রকাশ করা।
“যে মডেলটিকে আমরা সবচেয়ে বেশি বিশ্বাস করি, বিশ্বাসযোগ্য ‘সুপার ইন্টেলিজেন্স’ যে সিস্টেম সেটাই হবে, এমন নয়। বরং এটা হবে সেই সিস্টেম, যা আমাদের ওই মডেলের ওপর সর্বনিম্ন নির্ভর বা সবচেয়ে কম বিশ্বাস করার সুযোগ করে দেবে।”