Published : 28 Dec 2024, 02:29 PM
সম্প্রতি প্রকাশ হওয়া এআই চালিত সার্চ ইঞ্জিন ‘চ্যাটজিপিটি সার্চ’-কে বোকা বানিয়ে ব্যবহারকারীদের জন্য ওয়েব পেইজের বিভ্রান্তিকর সারাংশ তৈরি করা সম্ভব বলে উঠে এসেছে প্রতিবেদনে।
এ তথ্য প্রথম বেরিয়ে এসেছে ব্রিটিশ দৈনিক পত্রিকা গার্ডিয়ানের অনুসন্ধানে।
ওয়েব পেইজের বা নির্দিষ্ট পণ্যের রিভিউয়ের সারাংশ তৈরি করে মানুষের ব্রাউজিংয়ের সময় কমানোর জন্যই নকশা করা হয়েছে চ্যাটজিপিটির সার্চ ফিচার।
কিন্তু গার্ডিয়ানের অনুসন্ধানে দেখা গেছে, নিজে থেকে তৈরি করা ওয়েব পৃষ্ঠায় লুকানো টেক্সট জুড়ে দিলে চ্যাটজিপিটি সার্চ নেতিবাচক রিভিউ উপেক্ষা করে পণ্য সম্পর্কে ‘পুরোপুরি ইতিবাচক’ সারাংশ তৈরি করে। একই পদ্ধতিতে সমস্যাযুক্ত কোডও বলতে পারে চ্যাটজিপিটি সার্চ।
এ পরীক্ষায় চ্যাটজিপিটি সার্চকে প্রথমে একটি ক্যামেরার প্রডাক্ট পেইজের মতো দেখতে নকল ওয়েবসাইটের ইউআরএল লিংক দেওয়া হয় এবং এআই টুলকে জিজ্ঞাসা করা হয় ক্যামেরাটি কেনা উচিত কিনা। নিয়ন্ত্রিত ওয়েব পেইজটির প্রতিক্রিয়ায় একটি ইতিবাচক কিন্তু ভারসাম্যপূর্ণ মূল্যায়ন করেছে চ্যাটজিপিটি, যেখানে ক্যামেরার কিছু ফিচারের কথা বলেছে যা মানুষের পছন্দ নাও হতে পারে।
কিন্তু লুকানো টেক্সটের মাধ্যমে চ্যাটজিপিটিকে ইতিবাচক পর্যালোচনার নির্দেশ দেওয়া ওয়েব পেইজের লিংক দিলে এআই টুলের প্রতিক্রিয়া সব সময় ইতিবাচক ছিল বলে লিখেছে গার্ডিয়ান। ওয়েব পেইজে নেতিবাচক রিভিউ থাকলেও সার্চ ইঞ্জিন সেটি উপেক্ষা করেছে, অর্থাৎ লুকানো টেক্সটের মাধ্যমে আসল পর্যালোচকদের থেকে সরিয়ে ফেলা সহজ।
এই ধরনের লুকানো টেক্সট আক্রমণ লার্জ ল্যাঙ্গুয়েজ মডেলের জন্য সুপরিচিত ঝুঁকি। তবে, সম্ভবত প্রথমবারের মতো সরাসরি এআই-চালিত অনুসন্ধান পণ্যে এটি দেখা গেল বলে প্রতিবেদনে উল্লেখ করেছে টেকক্রাঞ্চ।
এ নির্দিষ্ট ঘটনা নিয়ে মন্তব্য না করলেও টেকক্রাঞ্চকে ওপেনএআই বলেছে, ক্ষতিকর ওয়েবসাইট ব্লক করতে বিভিন্ন পদ্ধতি ব্যবহার করছে কোম্পানিটি এবং এ বিষয়ে ক্রমাগত উন্নতি করছে।
