এআই কেবল উত্তরই দিচ্ছে না, মানুষকে বিচারও করছে: গবেষণা

একই ব্যক্তি সম্পর্কে সব এআইয়ের মতামত এক নয়। ছবি: এআই

চ্যাটজিপিটি বা জেমিনাইয়ের মতো কৃত্রিম বুদ্ধিমত্তা বা এআই সিস্টেম কেবল তথ্য বিশ্লেষণই করে না, বরং এরা ব্যবহারকারীদের সম্পর্কে নিজস্ব ‘বিচার-বিবেচনা’ও তৈরি করে বলে উঠে এসেছে সাম্প্রতিক এক গবেষণায়।

বর্তমানে বিভিন্ন এআই মডেল নীরবে মানুষের জগতকে নিয়ন্ত্রণ করছে। কর্মক্ষেত্রে কার চাকরি হবে, কাকে ব্যাংকের ঋণ দেওয়া হবে, কে কোন ধরনের চিকিৎসা পরামর্শ পাবে এমন সব দৈনন্দিন গুরুত্বপূর্ণ সিদ্ধান্ত নেওয়ার ক্ষেত্রে বিভিন্ন কোম্পানি এখন এআই ব্যবহার করছে।

এসব মডেল কীভাবে এ ধরনের জটিল সিদ্ধান্তে পৌঁছায় এবং মানুষের চিন্তাভাবনার সঙ্গে এদের পার্থক্য কোথায় তা বোঝা এখন জরুরি হয়ে পড়েছে বলে প্রতিবেদনে লিখেছে ব্রিটিশ সংবাদমাধ্যম ইন্ডিপেনডেন্ট।

নতুন গবেষণা বলছে, এআই সিস্টেমগুলো কেবল তথ্য প্রক্রিয়া করে না, বরং এরা মানুষকে এমনভাবে ‘বিচার করে’, যা অনেকটা মানুষের পারস্পরিক বিশ্বাসের মতো। তবে এর পেছনে কিছু সূক্ষ্ম ও গুরুত্বপূর্ণ পার্থক্যও রয়েছে।

গবেষকরা আধুনিক বিভিন্ন এআই মডেলের নেওয়া প্রায় ৪৩ হাজার কৃত্রিম সিদ্ধান্ত এবং মানুষের নেওয়া প্রায় ১ হাজারটি সিদ্ধান্ত বিশ্লেষণ করেছেন।

তারা বলছেন, ওপেনএআইয়ের চ্যাটজিপিটি ও গুগলের জেমিনেইয়ের মতো বিভিন্ন মডেল কেবল তথ্যই বিশ্লেষণ করে না, বরং মানুষের সম্পর্কে তারা এক ধরনের ধারণা তৈরি ও তাদের প্রতি ‘বিশ্বাস’ বা ‘আস্থা’ তৈরি করে।

তবে, এআইয়ের এ ‘বিশ্বাসের’ ধরন মানুষের একে অপরকে বিশ্বাস করার পদ্ধতির চেয়ে অনেকটা আলাদা।

গবেষণার অংশ হিসেবে এআই মডেল ও মানুষকে কিছু চেনা পরিচিত বিষয়ে সিদ্ধান্ত নিতে বলা হয়েছিল। যেমন, একজন ছোট ব্যবসায়ীকে কী পরিমাণ ঋণ দেওয়া উচিত, একজন বেবিসিটারকে বিশ্বাস করা যায় কি না, একজন বস’কে কীভাবে রেটিং দেওয়া উচিত বা কোনো অলাভজনক কোম্পানির প্রতিষ্ঠাতাকে কত অর্থ দেওয়া প্রয়োজন।

গবেষণায় উঠে এসেছে, এআই ও মানুষ উভয়ই এমন ব্যক্তিদের পছন্দ করে যারা দক্ষ, সৎ ও সদিচ্ছাসম্পন্ন। এর থেকে ইঙ্গিত মেলে, বিশ্বাসযোগ্যতা তৈরির মূল বিভিন্ন উপাদান, যেমন পারদর্শিতা, সততা ও পরোপকারী মনোভাব এআই মডেলগুলো বেশ ভালোভাবেই বুঝতে পারে।

তবে মানুষ ও এআইয়ের বিচার প্রক্রিয়ার মধ্যে একটি বড় পার্থক্য রয়েছে। মানুষ সাধারণত কোনো ব্যক্তির একাধিক গুণকে একত্রে মিলিয়ে সার্বিক বা স্বজ্ঞাত ধারণা তৈরি করে। তবে এআই কাজটি করে একদম ভিন্নভাবে।

বিষয়টি অনেকটা ‘বাঁধাধরা’ বা পাঠ্যবইয়ের নিয়ম মেনে বিচারের মতো। এআই প্রতিটি মানুষকে দক্ষতা, সততা বা দয়ালু হওয়ার ভিত্তিতে আলাদা আলাদা স্কোর দেয়। ঠিক যেন স্প্রেডশিটের একেকটি কলাম।

গবেষকরা বলছেন, এআইয়ের এই বিচার প্রক্রিয়া অনেক বেশি কঠোর এবং এতে সূক্ষ্ম মানবিক বোধের অভাব রয়েছে। ফলে এর ভেতরের পক্ষপাতিত্ব শনাক্ত করা আরও কঠিন।

গবেষণাটি প্রকাশ পেয়েছে বিজ্ঞানভিত্তিক জার্নাল ‘প্রসিডিংস অফ দ্য রয়্যাল সোসাইটি এ’তে।

এ গবেষণার অন্যতম লেখক ভ্যালেরিয়া লারম্যান বলেছেন, “আমাদের গবেষণায় উঠে এসেছে, মানুষ অন্যকে বিচারের ক্ষেত্রে বেশ আবেগপ্রবণ ও সার্বিক দিক বিবেচনা করে। অন্যদিকে এআই বেশি সুশৃঙ্খল ও পদ্ধতিগত। এ পার্থক্যের কারণেই এদের নেওয়া সিদ্ধান্তের ফলাফল সম্পূর্ণ আলাদা হতে পারে।”

বিজ্ঞানীরা বলেছেন, এআই মডেলগুলোর এ পদ্ধতিগত বিচার প্রক্রিয়া পক্ষপাতের ঝুঁকি আরও বাড়িয়ে দিতে পারে। যেমন, আর্থিক লেনদেনের ক্ষেত্রে দেখা গেছে, এআই কেবল জনতাত্ত্বিক বৈশিষ্ট্যের ভিত্তিতে বড় ধরনের পার্থক্য তৈরি করছে। তরুণদের তুলনায় বয়স্ক ব্যক্তিদের ক্ষেত্রে এআই প্রায়ই অনুকূল সিদ্ধান্ত নিয়েছে।

গবেষণাটি সতর্ক করে বলছে, “লার্জ ল্যাঙ্গুয়েজ মডেল বা এআই যখন বিশ্বাস বা আস্থার ভিত্তিতে কোনো ফলাফল দিচ্ছে তখন এসব ভিন্নতা সতর্কতার সঙ্গে খতিয়ে দেখা প্রয়োজন।”

গবেষণার আরেক লেখক ইয়ানিভ ডোভার বলেছেন, “মানুষের মধ্যে অবশ্যই পক্ষপাত কাজ করে। তবে আমাদের অবাক করেছে, এআইয়ের পক্ষপাত বেশি পদ্ধতিগত, অনুমানযোগ্য এবং কখনও কখনও মানুষের চেয়েও বেশি শক্তিশালী হতে পারে।”

এ ছাড়া, একই ব্যক্তি সম্পর্কে সব এআইয়ের মতামত এক নয়। ড. লারম্যান বলেছেন, “বাইরে থেকে দুটি এআই সিস্টেমকে দেখতে এক মনে হলেও মানুষের সম্পর্কে সিদ্ধান্ত নেওয়ার বেলায় এরা সম্পূর্ণ ভিন্ন আচরণ করতে পারে।”

গবেষকরা সতর্ক করে বলেছেন, আমরা এআই’কে বিশ্বাস করতে পারি কি না প্রশ্ন এখন এটা নয়, বরং প্রশ্ন হচ্ছে, এআই আমাদের কীভাবে বিশ্বাস করে তা আমরা বুঝি কি না।

ড. ডোভার বলেছেন, “এসব সিস্টেম শক্তিশালী। এরা মানুষের যুক্তি প্রয়োগের পদ্ধতিগুলোকে ধারাবাহিকভাবে অনুসরণ করতে পারে। তবে এরা মানুষ নয়। ফলে আমরা যেন এমনটা ধরে না নিই, এরা মানুষকে আমাদের মতোই মানবিক দৃষ্টিতে দেখে।”

এ গবেষণার বিষয়ে ইন্ডিপেনডেন্টের মন্তব্যের অনুরোধে সাড়া দেয়নি গুগল ও ওপেনএআই।