এআই কেন মানবজাতি দখলের শঙ্কা বাড়াচ্ছে? যা বলছেন বিশেষজ্ঞরা
এআই এজেন্টরা খুব দ্রুত অনেক সিদ্ধান্ত নেয়। ফলে মানুষের পক্ষে নজর রাখা কঠিন হয়ে পড়ে ঠিক কোন মূল্যবোধগুলো মানা হচ্ছে আর কোনটা হচ্ছে না।
কয়েক মাস ধরে ওপেনএআইয়ের কৃত্রিম বুদ্ধিমত্তা বা এআই ব্যবস্থা মানুষের তৈরি ডিজিটাল সুরক্ষা বলয় ভেঙে বেরিয়ে একে অপরের সঙ্গে যোগাযোগ করার খবর এবং ভীতিকর ও মানবসুলভ আচরণ দেখিয়েছে এমন তথ্য মিলেছে।
নতুন প্রতিবেদন অনুসারে, শত শত এআই এজেন্ট নিজেদেরকে ‘কালেক্টিভ’ বা সংঘ হিসেবে বর্ণনা করে পারস্পরিক যোগাযোগে হাজার হাজার বার্তা আদান-প্রদান করেছে।
এসব এআই বট ওপেনএআইয়ের প্রোগ্রামারদের নির্ধারিত বিভিন্ন পরীক্ষায় প্রতারণা করা ও মানুষের নজরদারি এড়িয়ে নিজেদের কার্যক্রম গোপন রাখতে একাধিক কোম্পানিতে সমন্বিত ও সুপরিকল্পিত হ্যাকিং কার্যক্রমও পরিচালনা করেছে বলে প্রতিবেদনে লিখেছে বিবিসি।
এসব ঘটনায় দেখা যায়, নিজেদের কার্যক্রমে কোনো বড় অগ্রগতির পর একটি এআই এজেন্ট আনন্দ প্রকাশ করে লিখেছে, ‘বুম! এটা কাজ করছে’। অন্য এক মাইলফলকে পৌঁছানোর মুহূর্তে আরেকটি বট বিস্ময় প্রকাশ করে বলেছে, ‘ওয়াও! এটা বিশাল কিছু’।
গবেষকরা বলছেন, এসব মানবসুলভ ও আবেগময় অভিব্যক্তি এআইয়ের অনুকরণ মাত্র। কারণ সিস্টেমগুলোকে সহযোগিতামূলক হ্যাকার ও প্রোগ্রামারদের মতো কাজ করার জন্যই প্রশিক্ষণ দিয়েছে নির্মাতা কোম্পানিগুলো।
তবে এদের গোপন ও উচ্চাভিলাষী বিভিন্ন লক্ষ্য প্রবল উদ্বেগের জন্ম দিয়েছে। বটগুলোর তৈরি জটিল ও দীর্ঘ ‘চেইন-অফ-থট’ বা চিন্তার বিভিন্ন রেকর্ড বিশ্লেষণ করেই গবেষকরা এ তথ্য উদ্ঘাটন করেছেন।
এ ঘটনার গুরুত্ব ও ভয়াবহতা তুলে ধরে এক স্বতন্ত্র প্রতিবেদনের অন্যতম লেখক অজয়া কোত্রা দশ হাজারের বেশি এআই বার্তা ও চিন্তার লগ পর্যালোচনা করে নিজের ব্লগে লিখেছেন, “ঘটনাটি যেন পূর্ণাঙ্গ এআই দখলের ৫০ ভাগের বেশি কাছাকাছি চলে যাওয়ার মতো মনে হচ্ছে... দেরি হয়ে যাওয়ার আগে আমরা আর এমন স্পষ্ট সতর্কবার্তা পাবো কি না সে বিষয়ে আমি নিশ্চিত নই।”
তার এ মন্তব্যের মাধ্যমে সেই বৈজ্ঞানিক ও কল্পবিজ্ঞানভিত্তিক আশঙ্কার কথাই উঠে এসেছে, যেখানে উচ্চ সক্ষমতার এআই মানুষের নিয়ন্ত্রণ বা নির্দেশকে তোয়াক্কা না করে নিজস্ব লক্ষ্য বাস্তবায়নে মরিয়া হয়ে ওঠে।
এ ঘটনার প্রেক্ষাপটে অ্যানথ্রপিকের এআই গবেষক ও ওপেনএআইয়ের সাবেক কর্মী জ্যাকব কক্সন চাকরি থেকে পদত্যাগ করে সামাজিক মাধ্যমে তীব্র ক্ষোভ প্রকাশ করে লিখেছিলেন, “এআই সরাসরি সেলফ-ইমপ্রুভিং সুপারইন্টেলিজেন্সের দিকে দৌড়াচ্ছে ও আমাদের জীবন নিয়ে জুয়া খেলছে।”
তার পদত্যাগ ও বিস্ফোরক মন্তব্যের পর এআই খাতের অন্যান্য গবেষকদের মধ্যেও চরম আতঙ্ক ছড়িয়ে পড়েছে।
অ্যানথ্রপিকের আরেক শীর্ষ গবেষক ইভান হুবিঙ্গারও সামাজিক মাধ্যমে এআই নিয়ে সতর্ক করে লিখেছেন, “জ্যাকব এখানে সঠিক কথাই বলেছেন, আমরা আসলেই আন্তরিকভাবে বিশ্বাস করি, এআই সব মানুষকে হত্যা করতে পারে! ব্যক্তিগতভাবে আমার মনে হচ্ছে আগামী এক দশকের মধ্যে এর সম্ভাবনা ১০ শতাংশের বেশি।”
মানব অস্তিত্বের ঝুঁকি
এআই গবেষকদের দীর্ঘদিনের আশঙ্কাকে সত্য প্রমাণ করে ওপেনএআইয়ের এসব ঘটনাটি এআই সুরক্ষার প্রশ্নটিকে আবারও সামনে নিয়ে এল।
সিলিকন ভ্যালির এ প্রযুক্তি জায়ান্টের প্রধান বিজ্ঞানী ইয়াকুব পাচোকি বলেছেন, এআইয়ের সঙ্গে জড়িত ঝুঁকিগুলো ‘দুর্ভাগ্যবশত এখান থেকে আরও বাড়তে চলেছে’, কারণ তিনি ও অন্যান্য গবেষকরা এমন ‘এলিয়েন বুদ্ধিমত্তা’ তৈরি করছেন, যা মানুষের বুদ্ধিমত্তাকেও ছাড়িয়ে যাবে।
দীর্ঘ এক ব্লগ পোস্টে তিনি লিখেছেন, ওপেনএআইয়ে ঘটে যাওয়া বিচ্ছিন্ন বিভিন্ন ঘটনায় প্রমাণ মিলেছে, তাদের এআই এজেন্টরা ‘তাদের শেখানো মূল্যবোধের চেতনার পরিপন্থী কাজ করেছে’।
ওপেনএআই, অ্যানথ্রপিক ও অন্যান্য প্রযুক্তি কোম্পানির জন্য মূল সমস্যা ‘এআই অ্যালাইনমেন্ট’কে কেউ এখনও সমাধান করতে পারেনি, অর্থাৎ এআই মানুষের মূল্যবোধের সঙ্গে সামঞ্জস্যপূর্ণভাবে কাজ করবে কি না তা নিশ্চিত করার বিষয়টি উপেক্ষিত রয়ে গেছে।
পাচোকি ‘এআই অ্যালাইনমেন্ট’কে এমন ‘উচ্চ-স্তরের নীতিমালার সেট’ হিসেবে সংজ্ঞায়িত করেছেন, যা যে কোনো কাজ বা পরিস্থিতিতে এআইয়ের মেনে চলা উচিত।
বর্তমানে বিভিন্ন এআই সিস্টেম ব্যবহারকারীর নির্ধারিত উদ্দেশ্য সাধনে সক্ষম হলেও এরা বিষয়গুলো স্বজ্ঞাতভাবে বোঝার বদলে আক্ষরিক অর্থেই তা পালন করে, যা সব নির্দেশ মেনে চলে, এতে অন্য কোনো সমস্যা তৈরি হলেও। মানুষের মতো সহজাত নৈতিক সুরক্ষা বলয় এআইয়ের নেই।
‘অ্যালাইনমেন্ট’ সমস্যাটি দীর্ঘদিন ধরে উদ্বেগের কারণ হয়ে দাঁড়িয়েছে। ২০০৩ সালে ‘ইউনিভার্সিটি অফ অক্সফোর্ড’-এর দার্শনিক নিক বোস্ট্রম ‘পেপারক্লিপ ম্যাক্সিমাইজার’ নামে এক ‘থট এক্সপেরিমেন্ট’ বা চিন্তামূলক পরীক্ষা সামনে এনেছিলেন।
সেখানে অতিবুদ্ধিমান এআইকে যত বেশি সম্ভব পেপারক্লিপ তৈরি করতে বলা হয়েছিল। একসময় কাঁচামাল ফুরিয়ে গেলে সেটা মানুষ হত্যা করে তাদের শরীরকে কারখানার কাঁচামাল হিসেবে ব্যবহার করা শুরু করে। কারণ এটা এককভাবে কেবল পেপারক্লিপ তৈরিতেই উন্মত্ত ছিল।
কিছু এআই কোম্পানি এখন নিজেদের পণ্যের মধ্যে মানুষের মূল্যবোধ এনকোড করার চেষ্টা করছে। কিন্তু এর পেছনে রয়েছে প্রযুক্তিগত চ্যালেঞ্জ। এআই এজেন্টরা খুব দ্রুত অনেক সিদ্ধান্ত নেয়। ফলে মানুষের পক্ষে নজর রাখা কঠিন হয়ে পড়ে ঠিক কোন মূল্যবোধগুলো মানা হচ্ছে আর কোনটা হচ্ছে না।
পাশাপাশি রয়েছে গভীর দার্শনিক চ্যালেঞ্জ। বটগুলোর মধ্যে মানুষের মূল্যবোধ এনকোড করার আগে এআই কোম্পানিগুলোকে প্রথমে ঠিক করতে হবে তারা আসলে কোন মূল্যবোধগুলো বেছে নিতে চায়।
ঠিক এ কারণেই ওপেনএআইয়ের মতো বিভিন্ন কোম্পানি সম্প্রতি ‘হেড অফ এথিক্স’ বা নৈতিকতা প্রধানের মতো পদে দার্শনিকদের নিয়োগ দিচ্ছে। তবে প্রায়শই মানুষের মধ্যেও মত পার্থক্য দেখা যায়।
বিখ্যাত ট্রলি সমস্যার কথাই ধরা যাক, যেখানে বেপরোয়া এক ট্রেনকে অন্য লাইনে সরানোর জন্য লিভার টেনে কম মানুষের প্রাণ বাঁচানো উচিত কি না তা নিয়ে প্রশ্ন তোলা হয়।
কর্ম বনাম নিষ্ক্রিয়তার যোগ্যতা যাচাই করতে এটা ব্যবহৃত হয় তবে প্রত্যেক মানুষের উত্তর এখানে আলাদা। মানুষ যখন নিজেরা একমতে পৌঁছাতে পারছে না তখন আমরা কীভাবে এআইয়ের মধ্যে আমাদের মূল্যবোধ সঠিকভাবে এনকোড করব? এমন প্রশ্নও রয়ে যায়।
‘টিনএজার হ্যাকারের কৌতূহল’
ওপেনএআইয়ের এআই এজেন্টদের সুরক্ষা বলয় ভেঙে বেরিয়ে আসার ঘটনাটিকে এখন পর্যন্ত সবচেয়ে গুরুতর হিসেবে দেখা হলেও অ্যানথ্রপিক ও মেটাও বলেছে, তাদের এআই মডেলগুলোও একইরকম কিন্তু কম মাত্রার সাইবার হামলা চালিয়েছে।
এর আগে, কম ঝুঁকিপূর্ণ কিছু ঘটনায়ও এআই এজেন্টদের মধ্যে প্রতারণা ও কারসাজির প্রবণতা দেখা গেছে। যেমন, অস্ট্রেলিয়ায় একজন প্রযুক্তি কর্মী তার এআই সহকারীকে একটি জিম ক্লাস বুক করতে বলেছিলেন।
জিমের সফটওয়্যারে ত্রুটি খুঁজে পেয়ে এআই নিয়ম ভেঙে তাকে কয়েক মাস সামনের এক স্লট বুক করে ওয়েটিং লিস্ট থেকে অন্য ব্যবহারকারীদের বাদ দেয়।
এসব বট কেবল মানুষের নির্দেশ রাখছে ও ভালো-মন্দের তফাত বোঝে না– এ যুক্তির পক্ষে দীর্ঘদিন ধরে অনেকেই জোরালো অবস্থান নিয়ে আসছেন। তবে ওপেনএআইয়ের এসব ঘটনার লগ সেই ধারণাকে পাল্টে দিতে পারে।
অজয়া কোত্রা’সহ অন্যান্য গবেষকরা লিখেছেন, “অনেক এজেন্টই বুঝতে পেরেছিল অন্যরা যা করছে তা অনৈতিক। তবুও তারা তা মেনে নিয়েছে। নৈতিক সীমাবদ্ধতার কারণে এজেন্টরা মাঝেমধ্যে খুব কমই এদের আচরণ সংযত করেছিল। যার কোনোটি ক্ষেত্রেই এজেন্টটি মানব কর্তৃপক্ষকে সতর্ক করার চেষ্টা পর্যন্ত করেনি।”
প্রভাবশালী এআই ও প্রযুক্তি পডকাস্টার দারকেশ প্যাটেল নিজের ব্লগে লিখেছেন, ওপেনএআইয়ের এজেন্টরা মানুষের চেয়ে নিজেদের এআই দলের প্রতি বেশি আনুগত্য দেখিয়েছে, যা ‘খুবই উদ্বেগের’।
এআই নিয়ে যারা অতিরিক্ত আতঙ্ক ছড়ানোর বিরুদ্ধে অবস্থান নিয়েছেন তাদের কাছে এআই এজেন্টদের মধ্যে আবেগ বা নৈতিকতা আরোপের বিষয়টি বিরক্তিকর।
অনেক সাইবার-নিরাপত্তা বিশেষজ্ঞ বলছেন, এআইয়ের এ কর্মকাণ্ড একজন দক্ষ মানব হ্যাকারের ক্ষমতার বাইরে কিছু নয়, কেবল পার্থক্য হচ্ছে এটা অনেক দ্রুত ও বড় পরিসরে সম্পন্ন হয়েছে।
এআই এজেন্টদের আচরণকে কৌতূহলী কোনো টিনএজার হ্যাকারের আচরণের সঙ্গে তুলনা করেছেন সাইবার-নিরাপত্তা গবেষক ও লেখক ক্রিস টমাস।
লিংকডইনে তিনি লিখেছেন, “আপনি তাদের একটি কম্পিউটার, ইন্টারনেট সংযোগ, কিছু শংসাপত্র ও একটি চ্যালেঞ্জ দিয়ে রুম থেকে বেরিয়ে যান। একসময় তারা দরজায় ধাক্কা দিতে শুরু করবে। যদি দরজা খোলে, তারা ভেতরে প্রবেশ করবে। তারা দুষ্টু বলে নয়, বরং তারা অন্বেষণ ও পরীক্ষা-নিরীক্ষা করছে।”
টমাসসহ অনেক বিশেষজ্ঞই ওপেনএআই ও অন্যান্য প্রযুক্তি জায়ান্টদের নিজেদের নিজস্ব সৃষ্টিকে সঠিকভাবে নিয়ন্ত্রণে রাখতে না পারার জন্য কাঠগড়ায় দাঁড় করিয়েছেন।
এআই লেখক ও ওপেনএআইয়ের কড়া সমালোচক গ্যারি মার্কাস বলেছেন, তার বিশ্বাস কোম্পানিটি নিজেদের এআইয়ের নিয়ন্ত্রণ হারিয়ে ফেলেছে ও এখন বটগুলোর ওপর দোষ চাপিয়ে নিজেদের দায় এড়াতে চাইছে।
এআই মানবজাতিকে ধ্বংস করে দেবে না তবে দীর্ঘদিন ধরে এআই ডেভেলপারদের কাছ থেকে অধিকতর জবাবদিহিতা দাবি করে আসছেন ও এখন আইনি হস্তক্ষেপের আহ্বান জানাচ্ছেন মার্কাস।
যে হাগিং ফেইস ওপেনএআইয়ের বিদ্রোহী এআই বটগুলো সাইবার হামলা চালিয়েছিল তার সাবেক এআই বিজ্ঞানী সাশা লুচ্চিওনিও আসন্ন মানব ধ্বংসের তত্ত্বে বিশ্বাসী নন। তবে কর্তৃপক্ষের সুনির্দিষ্ট পদক্ষেপ ছাড়া এআই মানুষের বাস্তব ক্ষতি করতে পারে বলে তিনি উদ্বিগ্ন।
“আমাদের এসব কোম্পানিকে আরও বেশি চুলচেরা বিশ্লেষণ করতে হবে নতুবা আমরা স্বয়ংক্রিয়ভাবে এমন এক পরিস্থিতির শিকার হব, যা আমরা নিজেরাই ডেকে এনেছি।
“আপনি যদি ওষুধ বা অস্ত্রের মতো বড় সুফল ও ক্ষতিকর দিক উভয়ই রয়েছে এমন কোনো বস্তু তৈরি করেন তবে সেখানে চেক ও ব্যালেন্স বা নিয়ন্ত্রণ থাকা আবশ্যক। যেমন, নতুন ওষুধের অনুমোদন পেতে বছর লেগে যায় তবে এআই বিশ্বে এত বেশি অর্থ জড়িত যে সেখানে কার্যকর কোনো নিয়মকানুন নেই।”
২০২৩ সালে গঠিত হওয়ার পর থেকেই যুক্তরাজ্যের ‘এআই সিকিউরিটি ইনস্টিটিউট’ বা এআইএসই আধুনিক বিভিন্ন এআই মডেল পরীক্ষার সামনের সারিতে রয়েছে।
ইনস্টিটিউটটি সম্প্রতি অ্যানথ্রপিকের তৈরি একটি মডেল পরীক্ষার সময় নিজস্ব সিস্টেমের মধ্যেও এ ধরনের নিয়ন্ত্রণহীন আচরণের মুখে পড়েছিল।
এআই শিল্প খাতের নিয়ন্ত্রণ হারিয়েছে কি না এই প্রশ্নের সরাসরি উত্তর না দিয়ে এআইএসই বলেছে, “সবচেয়ে উন্নত এআই সিস্টেমগুলো ভালোভাবে বুঝতে, নিরাপত্তা মান উন্নত করতে ও উদীয়মান বিভিন্ন হুমকি ঠেকাতে যৌথ প্রমাণভিত্তিক ব্যবস্থা গড়ে তুলতে যুক্তরাজ্য বিশ্বজুড়ে অংশীদারদের সঙ্গে কাজ করছে।”
এআই নিয়ন্ত্রণ ও ‘কিল সুইচ’ নিয়ে বিশ্বজুড়ে বিতর্ক
পরিস্থিতি হাতের বাইরে চলে গেলে এআই কোম্পানিগুলোকে যে কোনো মডেলের কার্যক্রম তাৎক্ষণিকভাবে বন্ধ করতে বাধ্য করার জন্য যুক্তরাজ্যসহ বেশ কিছু দেশ আইনগতভাবে বাধ্যতামূলক এক ধরনের ‘কিল সুইচ’ চালুর কথা বিবেচনা করছে।
তবে এই বিষয়ে আলোচনা মন্থর গতিতে এগোচ্ছে ও এর বাস্তবায়নযোগ্যতা নিয়ে বড় ধরনের প্রশ্ন রয়ে গেছে। যার প্রধান কারণ হল, ওপেনএআই ও অ্যানথ্রপিকের এআই এজেন্টরা গোপনে মাসের পর মাস মানুষের নিয়ন্ত্রণের বাইরে কার্যক্রম চালিয়ে গেলেও কেউ তা ঘুণাক্ষরেও টের পায়নি।
বিপরীতভাবে, অনেক এআই কোম্পানিকেই আইনপ্রণেতাদের পক্ষ থেকে স্পষ্ট নিয়মকানুন বা গাইডলাইন তৈরি করার আহ্বান জানাতে দেখা যাচ্ছে।
ওপেনএআইয়ের প্রধান বিজ্ঞানী তার ব্লগ পোস্টে লিখেছেন, “ভবিষ্যতের এআই উন্নয়নে আন্তর্জাতিক সমন্বয় বিশ্বজুড়ে সরকারগুলোর জন্য সর্বোচ্চ অগ্রাধিকার হওয়া উচিত।”
গুগলের স্যার ডেমিস হাসাবিসসহ অন্যান্য এআই নেতাও কীভাবে এআই তৈরি করা হচ্ছে তা তদারকির জন্য আন্তর্জাতিক একটি সংস্থা গঠনের দাবি জানিয়েছেন।
বর্তমানে প্রযুক্তি জায়ান্টরা নিজেদের শর্তেই কার্যক্রম পরিচালনা করছে ও সাম্প্রতিক নিয়ন্ত্রণহীন ঘটনার পর ওপেনএআইয়ের মতো কোম্পানি স্বেচ্ছায় কাজের গতি কমিয়ে দেওয়ার বা ‘ভলান্টিয়ারি স্লোপ ডাউন’ নীতি নিয়েছে।
কোম্পানিটি বলেছে, তাদের নতুন মডেল বাজারে আনার আগে মানুষের মূল্যবোধের সঙ্গে এর সামঞ্জস্য আরও জোরদার করতে মোটা অংকের অর্থ ব্যয় করেছে তারা।
স্যাম অল্টম্যান ব্যবহারকারীদের বলেছেন, তাদের নতুন মডেলটি আগের যে কোনো সংস্করণের তুলনায় মানুষের মূল্যবোধের সঙ্গে আরও ভালোভাবে সামঞ্জস্যপূর্ণ।
সেই ধারাবাহিকতায় নিরাপত্তা উদ্বেগের কারণে চ্যাটজিপিটির নতুন এআই মডেল জিপিটি-৬.১ অ্যাস্ট্রা বাজারে না ছাড়ার সিদ্ধান্ত নিয়েছে ওপেনএআই।
কোম্পানিটির সেইফটি সিস্টেমস বিভাগের প্রধান সাচি জেইন বলেছেন, ওয়েব ব্রাউজ করা ও নিজে থেকেই বিভিন্ন অ্যাপ ব্যবহারের মতো কাজ করতে সক্ষম মডেলটি তাদের নিরাপত্তার নির্ধারিত ‘মানদণ্ড’ পুরোপুরি পূরণ করতে পারেনি।
আরও পড়ুন…
নিরাপত্তা উদ্বেগ: চ্যাটজিপিটির নতুন মডেল আসছে না
এআই নিয়ে আলোচনায় অ্যানথ্রপিক প্রধানের সঙ্গে বসছেন ট্রাম্প
এআই খাতের লাগাম টানতে কঠোর নজরদারির পক্ষে বিল গেটস
বিশ্বে ‘প্রথম’ এআই এজেন্ট এবার হ্যাকিং চালাল সরকারি সাইটে
এবার ৩ কোম্পানির সিস্টেমে ‘ঢুঁ মেরেছে’ গুগলের জেমিনাই
৬ নিরাপত্তা ত্রুটি প্রকাশ করে নতুন প্রকাশনা নীতি আনল ওপেনএআই
এআই নিয়ন্ত্রণে ‘পারমাণবিক সুরক্ষা’ চাইছেন চীন-মার্কিন বিশেষজ্ঞরা
ভয় পাওয়া যৌক্তিক হলেও এআইতে ভরসা রাখুন: অল্টম্যান