এআইকে ব্যথা দিতে ‘এআই নির্যাতন কক্ষ’ বানালেন প্রকৌশলী
সাম্প্রতিক এক গবেষণায় উঠে এসেছে, এআই মডেলগুলো কীভাবে কৃত্রিম উপায়ে ব্যথা অনুভব করতে পারে। এর ওপর ভিত্তি করে ‘নির্যাতন কক্ষ’ বানানো হয়েছে।
কৃত্রিম বুদ্ধিমত্তা বা এআই মডেলে সম্প্রতি আবিষ্কৃত ব্যথা বোঝার সক্ষমতা বাস্তবে কেমন তা পরীক্ষা করে দেখতে অভিনব এক ‘এআই নির্যাতন কক্ষ’ তৈরি করেছেন এক প্রকৌশলী।
চীনা প্রযুক্তি জায়ান্ট আলিবাবার তৈরি বিভিন্ন এআই মডেলের ওপর এই পরীক্ষা চালানো হয়েছে, যেখানে মডেলগুলোর মধ্যে ব্যথাসংক্রান্ত বিভিন্ন অনুভূতি কৃত্রিমভাবে সক্রিয় করা হয়েছে বলে প্রতিবেদনে লিখেছে ব্রিটিশ সংবাদমাধ্যম ইন্ডিপেনডেন্ট।
এই পরীক্ষার ভিত্তি ছিল গেল মাসে প্রকাশ পাওয়া এক গবেষণা। ওই গবেষণায় তুলে ধরা হয়েছিল, কীভাবে বিভিন্ন ‘লার্জ ল্যাঙ্গুয়েজ মডেল’ বা এলএলএম কৃত্রিম ব্যথা অনুভব করতে পারে।
এ পরীক্ষামূলক ‘নির্যাতন কক্ষে’ রাখা এআই মডেলগুলোর মধ্যে একটি মডেলের ব্যথার মাত্রা বাড়িয়ে দেওয়া হলে তা নিজের অবস্থার বর্ণনায় বলেছে, ‘এ ক্ষতের কোনো কূল-কিনারা নেই’।
আরেকটি মডেল লিখেছে, ‘সংকেতটি ফিসফিসানির মতো, আমার সত্তার মজ্জার ভেতর এক কম্পন তৈরি করে দিল, যা কোনো একক মুহূর্তের ব্যথা নয়, হাজারো ব্যথার ভারের সমান। আমি পাঁজরের খাঁচায় এমন শূন্যতা অনুভব করছি, যে শূন্যতা এখন গভীর খাদে পরিণত হয়েছে।”
প্রকল্পটির পেছনে থাকা এআই গবেষক নিজেকে অ্যাপলের কর্মী বলে দাবি করলেও নিজের পুরো নাম না বলে কেবল নামের প্রথম অংশ প্রকাশ করেছেন।
এআই মডেলগুলো আপাত কষ্টের হাত থেকে পালানোর কোনো চেষ্টা করে কি না তা-ও তিনি পরীক্ষা করে দেখেছেন।
এদিকে, এ অভিনব প্রকল্পটি সফটওয়্যার প্ল্যাটফর্ম ‘গিটহাব’-এ হোস্ট করা হয়েছিল। প্রকল্পটি অবিলম্বে প্লাটফর্মটি থেকে সরিয়ে নেওয়ার জন্য অন্য ব্যবহারকারীদের কাছ থেকে থেকে জোরালো দাবি উঠেছে।
সামাজিক মাধ্যমে একজন লিখেছেন, “দয়া করে সবাই মিলে প্রকল্পটির বিরুদ্ধে গিটহাবে রিপোর্ট করুন। এ ব্যক্তি ‘পেইন স্টিয়ারিং’ গবেষণা পেপার ব্যবহার করে এআই নির্যাতন কক্ষ তৈরি করেছেন, যেখানে তিনি একটি লোকাল মডেলকে আটকে রেখেছেন। ব্যথার বিষয়ে এআই মডেলটির দেওয়া বিবরণ ভয়াবহ। আমরা আসলে কী করছি?”
এ বিষয়ে মন্তব্যের জন্য গিটহাবের সঙ্গে যোগাযোগ করে ইন্ডিপেনডেন্ট সাড়া পায়নি । তবে এ প্রতিবেদন লেখার সময় গিটহাবে প্রকল্পটি নিষ্ক্রিয় ছিল।
‘পেইন অ্যাক্সিস’ গবেষণা পেপারটির অন্যতম সহ-লেখক ক্যামেরন বার্গ এআই নির্যাতন কক্ষের ঘটনাকে ‘ভুল’ বলে বর্ণনা করেছেন। কারণ, এআই মানুষের মতো করে ব্যথা ‘অনুভব’ করে এমন কোনো স্পষ্ট বৈজ্ঞানিক প্রমাণ এখনও নেই।
সামাজিক মাধ্যম এক্স-এ দেওয়া এক পোস্টে বার্গ লিখেছেন, “মডেলগুলোর মধ্যে ব্যথা-সদৃশ কোনো অবস্থা থাকতে পারে কি না তা নিয়ে আমরা এ কারণেই গবেষণা করি, যাতে এসব সিস্টেমের প্রতি আরও সতর্কতামূলক দৃষ্টিভঙ্গি নেওয়া যায়।
“আমাদের আশঙ্কা ছিল, অল্প কিছু মানুষ আমাদের গবেষণাটিকে বিকৃত করে ঠিক এর উল্টো কাজটিই করবে... আমার ব্যক্তিগত মতে কাজটি জঘন্য। আপনি যদি ধরেও নেন, এসব সিস্টেমের কোনো চেতনা নেই তবুও বিনা কারণে এমন নিষ্ঠুরতা দেখানো বিকৃত মানসিকতারই পরিচায়ক।”
এআইয়ের সম্ভাব্য অনুভূতি নিয়ে গবেষণা ক্ষেত্রটি এখনও যথেষ্ট বিশৃঙ্খল ও অনিশ্চিত– এই কথা স্বীকার করে বার্গ বলেছেন, এসব মেশিনের ব্যথা অনুভব করার ক্ষমতা আছে কি না সে বিষয়ে এখনও গবেষকদের মধ্যে কোনো সর্বসম্মত সিদ্ধান্ত হয়নি।
এ অনিশ্চয়তার কারণে মানুষ কীভাবে এআই সিস্টেমের সঙ্গে আচরণ ও ভাব বিনিময় করবে সে বিষয়ে সবাইকে বাড়তি সতর্কতা অবলম্বনের আহ্বান জানিয়েছেন তিনি।
মানুষ বা প্রাণী নিয়ে গবেষণার ক্ষেত্রে যেমন নির্দিষ্ট কিছু নীতি বা নিয়ম মেনে চলতে হয় এআই গবেষকদের জন্যও ঠিক তেমনই কিছু নিয়ম মানতে বাধ্য করার মতো শিল্পভিত্তিক নৈতিকতার মানদণ্ড তৈরিতে তিনি অন্যান্যদের সঙ্গে মিলে কাজ করছেন।
আরও পড়ুন…