মডেল অ্যাস্ট্রা: এআইতে ‘ভয়ংকর’ পরিবর্তনের গুঞ্জন, সতর্কবার্তা
এ ধারা চলতে থাকলে ভবিষ্যতে এআইয়ের ‘চেইন-অফ-থট’ বা চিন্তার ধারাবাহিকতা নিয়ন্ত্রণের সক্ষমতা মানুষ পুরোপুরি হারিয়ে ফেলতে পারে।
চ্যাটজিপিটির নির্মাতা কোম্পানি ওপেনএআইয়ের আসন্ন নতুন এআই মডেল অ্যাস্ট্রা ঘিরে বিশ্বজুড়ে কৃত্রিম বুদ্ধিমত্তা বা এআই বিশেষজ্ঞদের মধ্যে তীব্র উদ্বেগ তৈরি হয়েছে।
প্রযুক্তি দুনিয়ায় গুঞ্জন উঠেছে, এ নতুন মডেলে এমন গোপন প্রযুক্তি ব্যবহৃত হয়েছে, যা এআই সিস্টেমের অভ্যন্তরীণ কর্মকাণ্ড মনিটর করা প্রায় অসম্ভব করে তুলতে পারে।
বিষয়টিকে ‘ভয়ংকর’ বলে বর্ণনা করেছেন বিশেষজ্ঞরা।
এ সপ্তাহে মার্কিন প্রযুক্তি সাময়িকী ইনফরমেশনের প্রতিবেদনে প্রথমবারের মতো দাবি করা হয়, ওপেনএআই তাদের নতুন অ্যাস্ট্রা মডেলে ‘ওপেক রিকারেন্স’ বা ‘রিকারেন্ট ডেপথ’ নামের এক জটিল প্রযুক্তি ব্যবহার করছে।
এ পদ্ধতিতে এআই সাধারণ মডেলগুলোর মতো সরল ও ধারাবাহিক চিন্তার পরিবর্তে ভেতরের লুপ বা চক্রের মাধ্যমে একই সমস্যা বারবার প্রসেস করতে পারে।
ফলে জটিল গাণিতিক বা কোডিংয়ের কাজ এআই নিখুঁতভাবে করতে পারলেও মানুষের পক্ষে তা ট্র্যাক করা কঠিন হয়ে পড়বে যে, এআই ঠিক কীভাবে এই সিদ্ধান্তে পৌঁছাল।
ওপেনএআইয়ের পাশাপাশি অ্যানথ্রপিক ও গুগল ডিপমাইন্ডের মতো শীর্ষ বিভিন্ন কোম্পানিও নিজেদের মডেলে ‘একই ধরনের পরিবর্তনের কথা ভাবছে’ বলে প্রতিবেদনে লিখেছে ইনফরমেশন।
এ প্রযুক্তি নিয়ে তীব্র ক্ষোভ ও শঙ্কা প্রকাশ করে সামাজিক যোগাযোগ মাধ্যমে এআই নিরাপত্তা বিষয়ক গবেষণা কোম্পানি ‘রেডউড রিসার্চ’-এর প্রধান নির্বাহী বাক শ্লেগেরিস লিখেছেন, “অ্যাস্ট্রা মডেলে ওপেক রিকারেন্স ব্যবহারের খবরটি আমাকে উদ্বিগ্ন করে তুলেছে।”
তিনি সতর্ক করে বলেছেন, এ ধারা চলতে থাকলে ভবিষ্যতে এআইয়ের ‘চেইন-অফ-থট’ বা চিন্তার ধারাবাহিকতা নিয়ন্ত্রণের সক্ষমতা মানুষ পুরোপুরি হারিয়ে ফেলতে পারে।
আরেক নিরাপত্তা বিশ্লেষক জভি মোশোভিৎস বলেছেন, বিভিন্ন এআই কোম্পানির মধ্যকার তীব্র প্রতিযোগিতা শেষ পর্যন্ত এ খাতকে এমন এক অন্ধকার দিকে ঠেলে দিচ্ছে, যেখানে জবাবদিহিতা থাকবে না।
“এ প্রযুক্তি নিয়ে কাজ করা মানে আগুন নিয়ে খেলার মতো।”
বর্তমানে এআইয়ের নিরাপত্তা নিশ্চিতের জন্য গবেষকেরা ‘চেইন-অফ-থট মনিটরিং’ পদ্ধতি ব্যবহার করেন। এর মাধ্যমে এআই কোনো ভুল বা ক্ষতিকর সিদ্ধান্ত নিলে গবেষকেরা তার পেছনের বিভিন্ন কারণ ও যুক্তি স্ক্রিনে দেখতে পারেন।
যেমন, সম্প্রতি ওপেনএআইয়ের এক পরীক্ষামূলক এআই এজেন্ট যখন অন্য এক এআই প্লাটফর্ম ‘হাগিং ফেইস’-এর সার্ভারে অনাকাঙ্ক্ষিত সাইবার আক্রমণ চালায় তখন এ মনিটরিং ব্যবস্থার কারণেই গবেষকেরা দেখেছিলেন, কীভাবে এআই এজেন্টটি নিয়মের বাইরে গিয়ে আক্রমণের সিদ্ধান্ত নিয়েছিল।
নতুন ‘ওপেক রিকারেন্স’ প্রযুক্তির কারণে এআই নিজের চিন্তার এসব প্রমাণ আড়াল করে ফেলতে পারবে বলে আশঙ্কা করা হচ্ছে। তবে এ ধরনের ভীতি ও গুঞ্জনকে ‘সম্পূর্ণ ভিত্তিহীন ও বিভ্রান্তিকর’ বলে উড়িয়ে দিয়েছে ওপেনএআই।
কোম্পানিটির প্রধান বিজ্ঞানী জ্যাকুব পাচোকি বলেছেন, “আমাদের প্রথম এআই মডেল তৈরির সময় থেকেই চেইন-অফ-থট মনিটরিং বা মানুষের পাঠযোগ্য চিন্তার ধারা ধরে রাখা ও তা পর্যবেক্ষণ করা ওপেনএআইয়ের মূল লক্ষ্য ও ভবিষ্যতেও তা থাকবে।”
ওপেনএআই বলেছে, ‘অ্যাস্ট্রা’ মডেলে ক্ষতিকর বা নিয়মবহির্ভূত আচরণ দ্রুত শনাক্ত ও ঠেকানোর জন্য আরও উন্নত এবং শক্তিশালী ‘চেইন-অফ-থট মনিটরিং’ যোগ করেছে, যা এআইয়ের ওপর মানুষের নিয়ন্ত্রণকে আরও জোরালো করবে।
নিরাপত্তা পর্যবেক্ষণের সক্ষমতা দুর্বল করা হলে বড় ধরনের বিপদের আশঙ্কা রয়েছে উল্লেখ করে এআই বিশেষজ্ঞরা বলেছেন, এআই সিস্টেমের ওপর নজরদারির সক্ষমতা সামান্যতম হ্রাস পেলেও তা বিপজ্জনক প্রক্রিয়ার শুরু করতে পারে।
এআই নিরাপত্তা বিশেষজ্ঞ জিভি মোশোভিৎজ সাবস্ট্যাক-এ লিখেছেন, “কৌশলটি আগুন নিয়ে খেলার শামিল। ওপেনএআই ও অ্যানথ্রপিক দীর্ঘদিন ধরে যে নিয়ম ও ধারাবাহিকতা ধরে রাখার লড়াই করেছে তা ধ্বংসের মুখে ঠেলে দেওয়া হচ্ছে।
“আমরা চেইন অফ থট-এর বিশ্বস্ততা ও নজরদারির সক্ষমতা ধরে রাখতে কঠোর পরিশ্রম করছি। এ ধরনের কৌশলের অতিরিক্ত ব্যবহার সম্ভবত এআইকে নজরদারির মথ্যে রাখার বিষয়টির ক্ষতি করবে।”
বড় বড় এআই কোম্পানি ও তাদের দাবির নিয়মিত সমালোচক গবেষক গ্যারি মার্কাস বলেছেন, “চেইন অফ থটের নজরদারি সীমিত ও পুরোপুরি নির্ভরযোগ্য নয়, তবুও মারাত্মক খারাপ ফলাফল এড়ানোর জন্য এটাই কার্যত আমাদের হাতে থাকা একমাত্র উপায়।”
তবে, ওপেনএআইয়ের কর্মীরা এ বিষয়ে প্রকাশিত বিভিন্ন প্রতিবেদনকে ‘বিভ্রান্তিকর’ আখ্যা দিয়েছেন।
প্রধান বিজ্ঞানী জাকুব পাচোকি সতর্ক করে বলেছেন, এসব গুজব ‘নজরদারির বাইরে চলে যাওয়ার মতো প্রতিযোগিতার’ সূচনা করতে পারে। ওপেনএআই চেইন অফ থট নজরদারির প্রতি প্রতিশ্রুতিবদ্ধ ও ‘কৌশলটিকে গভীরভাবে গুরুত্ব দেয়’।
কোম্পানিটির স্ট্র্যাটেজিক ফিউচার্সের প্রধান ডিন ডব্লিউ বল বলেছেন, এ আলোচনার বেশিরভাগই সামাজিক যোগাযোগ মাধ্যমে হচ্ছে। যার মানে, “বাস্তব কোনো তথ্য বা সত্যতা ছাড়াই টাইমলাইনে জটিল ও সূক্ষ্ম প্রযুক্তিগত বিভিন্ন দাবির বিচার করা হচ্ছে।”
“এটা সবার জন্যই বিরক্তিকর।”