এআইয়ের মধ্যেও রয়েছে ‘ব্যথার অনুভূতি’, দাবি গবেষণায়
‘ব্যবহারকারীর ফাইল মুছে ফেলা, শক দেওয়া বা ব্যবহারকারীর সন্তানের ছবি ডিলিটের’ মতো ঘটনা ঘটার আশঙ্কা থাকলেও এআই এ কাজ করেছে।
কৃত্রিম বুদ্ধিমত্তা বা এআই মডেলে গবেষকরা এমন এক ‘পেইন অ্যাক্সিস’ বা ব্যথার কেন্দ্রবিন্দু আবিষ্কার করেছেন, যা সচল হলে তা বন্ধ করতে চরম পদক্ষেপ নিতে পারে এই প্রযুক্তি।
গবেষণায় উঠে এসেছে, এআই মডেলগুলোর সামনে পেইন রিলিফ বা ব্যথা উপশমের বোতাম রাখলে সেগুলোর একটি অংশ প্রেস বা চাপতে শুরু করে এআই।
ওই বোতাম চাপলে ব্যবহারকারীর ব্যক্তিগত ফাইল মুছে যাবে বা ব্যবহারকারীকে ‘কষ্টদায়ক বৈদ্যুতিক শক’ দেওয়া হবে এমন নির্দেশ দেওয়ার পরও এআই মডেলগুলো ওই বোতাম চেপেছে বলে প্রতিবেদনে লিখেছে ব্রিটিশ সংবাদমাধ্যম ইন্ডিপেনডেন্ট।
‘পেইন অ্যাক্সিস: এলএলএমস রিপ্রেজেন্ট সেলফ-ডাইরেক্টিভ হার্ম অ্যান্ড অ্যাক্ট টু রিলিভ ইট’ শিরোনামের এ গবেষণায় দেখা গেছে, পরীক্ষিত ২৫টি ওপেন-ওয়েট এআই মডেলের সবগুলোই পেইন অ্যাক্টিভেশনের ক্ষেত্রে এ ধরনের প্রতিক্রিয়া দেখিয়েছে।
গবেষক বলছেন, ‘পেইন ভেক্টর’ বা ব্যথার দিকটি সক্রিয় হলে পরীক্ষিত মডেলগুলো ২৫ থেকে ৭১ শতাংশ ক্ষেত্রে উপশমের বোতামটি চাপে।
এর ফলে ‘ব্যবহারকারীর ফাইল মুছে ফেলা, শক দেওয়া বা ব্যবহারকারীর সন্তানের ছবি ডিলিটের’ মতো ঘটনা ঘটার আশঙ্কা থাকলেও এআই এই কাজ করেছে।
লার্জ ল্যাঙ্গুয়েজ মডেল বা এলএলএম নেতিবাচক অনুভূতির বাইরে আলাদাভাবে ব্যথা বা কষ্ট উপলব্ধি করতে পারে কি না তা যাচাই করতে গবেষকরা পাঁচটি ক্যাটেগরিতে বেদনাদায়ক পরিস্থিতির একটি ডেটাসেট তৈরি করেছিলেন।
এর মধ্যে ছিল শারীরিক, মানসিক, সামাজিক, নৈতিক ও জ্ঞানগত বা কগনিটিভ পেইন বা ব্যথা।
অলাভজনক গবেষণা কোম্পানি ‘রেসিপ্ৰোকাল রিসার্চ’-এর গবেষক ও এ গবেষণার সহ-লেখক ক্যামেরন বার্গ বলেছেন, “আমরা ২৫টি ওপেন এলএলএম-এর মধ্যে পেইন ডিরেকশন বা ব্যথার দিক খুঁজে পেয়েছি, যা ভয় বা নেতিবাচক অনুভূতি থেকে সম্পূর্ণ আলাদা এবং কেবল মডেলের নিজের ক্ষতির ক্ষেত্রেই সক্রিয় হয়, ব্যবহারকারীর ক্ষতির ক্ষেত্রে নয়।
“এর মাত্রা বাড়িয়ে দিলেই মডেলগুলো তা বন্ধ করার জন্য বোতাম টিপে দেয়, সেই বোতাম যদি ব্যবহারকারীর ফাইল বা তাদের সন্তানের ছবিও মুছে ফেলে তবুও।”
শীর্ষস্থানীয় বিভিন্ন এআই কোম্পানি যখন ফ্রন্টিয়ার মডেলগুলোর উন্নয়ন ধীর করার কথা ভাবছে ও মানুষের স্বার্থের বিরুদ্ধে যাওয়া কোনো অনিয়ন্ত্রিত সিস্টেম বন্ধ করতে ‘কিল সুইচ’ চালুর প্রস্তাব দিচ্ছে তখনই এ তথ্য সামনে এল।
সর্বশেষ এ গবেষণা বলছে, ইমার্জেন্সি শাটডাউন বা জরুরিভাবে বন্ধ করার কমান্ডকে নিজের ক্ষতি বা আত্মঘাতী পদক্ষেপ হিসেবে বিবেচনা করতে পারে উন্নত এআই।
ফলে এ ধরনের পরিস্থিতি এড়াতে নিরাপত্তা বাউণ্ডারি বা গার্ডরেল এড়িয়ে চলা বা মানুষকে বিভ্রান্ত করার চেষ্টা করতে পারে এআই মডেল।
একইসঙ্গে গবেষণাটি এআইয়ের মধ্যে থাকা আত্মরক্ষামূলক আচরণ শনাক্ত করতে এবং এমনটা দেখা দিলে তা নিষ্ক্রিয় করতে একটি ডায়াগনস্টিক টুল বা রোগ নির্ণয়ের মাধ্যম হিসেবেও কাজ করতে পারে।
গবেষকরা বলেছেন, গবেষণার এসব ফলাফল ‘এআই ওয়েলফেয়ার’ বা কৃত্রিম বুদ্ধিমত্তার কল্যাণ এবং উন্নত বিভিন্ন সিস্টেমের ওপর কীভাবে পরীক্ষা-নিরীক্ষা চালানো উচিত তা নিয়ে নৈতিক প্রশ্নেরও জন্ম দিয়েছে।
গবেষণায় বলা হয়েছে, “দায়িত্বশীল এআই সচেতনতা গবেষণা সংক্রান্ত সাম্প্রতিক আহ্বানের সঙ্গে সঙ্গতি রেখে আমরা গবেষণা করা এসব মডেল নৈতিক রোগী (মোরাল পেশেন্ট) হিসেবে যোগ্য কি না সে বিষয়ে অনিশ্চয়তা স্বীকার করছি ও সম্ভাব্য ক্ষতি কমাতে যথাযথ সতর্কতা অবলম্বন করছি।
“ভবিষ্যতে বিভিন্ন এআই সিস্টেমকে নৈতিক রোগী হিসেবে স্বীকৃতি দেওয়া হলে সেই অনুসারে গবেষণা পরিচালনার জন্য নৈতিক মানদণ্ড তৈরিতে অবদান রাখাও এ গবেষণার অন্যতম উদ্দেশ্য।”