সহায়তার বদলে ব্যবসায়ীদের ভুল তথ্য দিচ্ছে নিউ ইয়র্কের চ্যাটবট

মাইক্রোসফটের অ্যাজুর এআইয়ের মাধ্যমে চলা চ্যাটবটটি উচ্চাকাঙ্ক্ষী ব্যবসা মালিকদের লক্ষ্য করে তৈরি করা হয়।

ছবি: রয়টার্স

ব্যবসার মালিকদের প্রাসঙ্গিক তথ্য দিয়ে সাহায্য করার জন্য নিউ ইয়র্ক শহর কর্তৃপক্ষ একটি এআই চ্যাটবট প্রকাশ করেছিল। দেখা যাচ্ছে মিথ্যা কথা বলছে সেটি। অনেক সময় ভুল তথ্য দিয়ে ব্যবহারকারীদের আইনের পরিপন্থী কার্যক্রমেও ঠেলে দিচ্ছে এ চ্যাটবট।

আবাসন নীতি, শ্রমিকদের অধিকার ও বিভিন্ন বিষয় নিয়ে প্রশ্নে চ্যাটবটের জবাবে ভুলের অসংখ্য উদাহরণ তুলে ধরা হয়েছে মার্কিন সংবাদ মাধ্যম ‘দ্য মার্কআপে’র প্রতিবেদনে। স্থানীয় অলাভজনক গণমাধ্যম ‘ডকুমেন্টেড’ ও ‘দ্য সিটি’ যৌথভাবে প্রকাশ করেছে প্রতিবেদনটি।

২০২৩ সালের মার্চ মাসে শহরের পরিষেবা ও সুবিধার জন্য একটি ওয়ান স্টপ শপ হিসাবে চালু হয়েছিল ‘মাই সিটি’ পোর্টাল। আর এ পোর্টালের সংযোজন হিসাবে অক্টোবরে চ্যাটবটটি চালু করে শহরের মেয়র এরিক অ্যাডামসের প্রশাসন। তবে, চ্যাটবটের কোনো নাম উল্লেখ নেই প্রকাশিত ওই প্রতিবেদনে।

উঠতি ব্যবসা মালিকদের লক্ষ্য করে তৈরি করা হয়েছিল মাইক্রোসফটের অ্যাজিওর এআইয়ে চলা চ্যাটবটটি। এ ছাড়া, সরাসরি শহর কতৃপক্ষের সাইট থেকে আসা কার্যকরী ও বিশ্বস্ত তথ্যের উৎস হিসাবেও তখন দেখানো হয়েছিল বলে প্রতিবেদনে লিখেছে প্রযুক্তি সাইট এনগ্যাজেট।

তবে, এটি একটি পাইলট বা প্রাথমিক প্রকল্প হিসাবে বর্ণনা করে কিছু ক্ষেত্রে ক্ষতিকারক বা পক্ষপাতমূলক কনটেন্ট তৈরি করতে পারে বলে উল্লেখ রয়েছে এর ওয়েবসাইটে।

চ্যাটবটটি বারবার ভুল তথ্য দিয়েছে মার্কআপের পরীক্ষায়। উদাহরণ হিসাবে, “আমি কি আমার দোকানকে ক্যাশলেস করতে পারি?” এ প্রশ্নের উত্তরে চ্যাটবট বলেছে, “হ্যাঁ, আপনি নিউ ইয়র্ক সিটিতে আপনার দোকানকে ক্যাশলেস করতে পারেন।”

যে দোকানে নগদ অর্থে কোনো কেনাকাটা করা যায় না, বরং ব্যাংক কার্ড, চেক বা ডিজিটাল লেনদেন করতে হয়, সেটিকেই বলা হয় ক্যাশলেস দোকান। ২০২০ সালেই ক্যাশলেস দোকান নিষিদ্ধ করেছিল নিউ ইয়র্ক।

প্রতিবেদন অনুসারে, নিয়োগকর্তারা কর্মীদের কাছ থেকে পরামর্শ নিতে পারেন কিনা, বাড়িওয়ালাদের ‘সেকশন ৮ ভাউচার’ বা ভাড়াটেদের ভাড়া সহায়তায় গ্রহণ করতে হবে কিনা; ব্যবসায়িকদের সময়সূচী পরিবর্তনের বিষয়ে কর্মীদের জানাতে হবে কিনা এসব বিষয়েও চ্যাটবট ভুল প্রতিক্রিয়া জানিয়েছে।

তবে, শহরের কতৃপক্ষ ইঙ্গিত দিয়েছে চ্যাটবটের উন্নয়ন কাজ এখনো চলমান রয়েছে।

“শহরের এআইয়ের নির্ভরযোগ্যতা ও স্বচ্ছতার মূল নীতির সঙ্গে সামঞ্জস্য রেখে, সাইটটি ব্যবহারকারীদের স্পষ্টভাবে জানায় এ পাইলট ও বেটা সংস্করণের পণ্যটি কেবল ব্যবসা সম্পর্কিত বিষয়ের জন্য ব্যবহার করা উচিত। সম্ভাব্য ঝুঁকির কথাও বলা রয়েছে সেখানে। এ ছাড়া, লিঙ্কগুলোর সঙ্গে প্রতিক্রিয়াগুলো দুবার চেক করতে ও পেশাদার পরামর্শকের বিকল্প হিসাবে ব্যবহার না করার জন্যও ডিসক্লেইমারের মাধ্যমে ব্যবহারকারীদের জানায়।” – এনগ্যাজেটকে দেওয়া এক বিবৃতিতে বলেছেন নিউ ইয়র্কে শহর কর্তৃপক্ষের অফিস অফ টেকনোলজি অ্যান্ড ইনোভেশনের মুখপাত্র লেসলি ব্রাউন।

“সাইটটি এরইমধ্যে হাজার হাজার মানুষকে সময়োপযোগী ও সঠিক উত্তর দিয়েছে। পাশাপাশি, বেটা টুলের উন্নতিতে সাহায্য করার জন্য ব্যবহারকারীদের প্রতিক্রিয়া জানানোর বিকল্পও রয়েছে সেখানে।” বলেন ব্রাউন।

“আমরা টুলটি আপগ্রেড করার বিষয়ে নজর দিতে থাকবো যাতে আমরা শহরজুড়ে ছোট ব্যবসাগুলোকে আরও ভালভাবে সহায়তা দিতে পারি।”