‘আপত্তিকর’ মেসেজ পাঠালে চ্যাটিং বন্ধ করে দেবে ক্লড এআই

ফিচারটি যখন ব্যবহারকারীর কথা বারবার ক্ষতিকর বা অপমানজনক হয়ে ওঠে তখনই ব্যবহার করা হবে।

অ্যানথ্রপিকের এই পদক্ষেপ তাদের এআই ওয়েলফেয়ার বিষয়ক গবেষণার অংশ। ছবি: অ্যানথ্রপিক

অ্যানথ্রপিক তাদের দুটি ক্লড এআই মডেলের জন্য নতুন ফিচার আনছে। এ ফিচারের মাধ্যমে মডেলগুলো চাইলে ব্যবহারকারীর সঙ্গে কথপোকথন চালিয়ে যাওয়া বন্ধ করে দিতে পারে।

কোম্পানিটি তাদের ওয়েবসাইটে দেওয়া এক পোস্টে বলেছে, এখন থেকে ক্লড ওপাস ৪ এবং ৪.১ মডেলের সক্ষমতা থাকবে ব্যবহারকারীর সঙ্গে চলমান কথোপকথন শেষ করে দেওয়ার।

অ্যানথ্রপিক বলছে, এই ফিচার কেবল “অত্যন্ত বিরল ও চরম পরিস্থিতিতে, যখন ব্যবহারকারীর ইন্টারঅ্যাকশন বারবার ক্ষতিকর বা অপমানজনক হয়ে ওঠে,” তখনই ব্যবহার করা হবে।

স্পষ্ট করার জন্য কোম্পানিটি বলে, এই দুটি ক্লড মডেল ক্ষতিকর কথোপকথন বন্ধ করতে পারে, যেমন “অপ্রাপ্তবয়স্কদের জড়িত করে যৌন কনটেন্ট চাওয়া, কিংবা বড় ধরনের সহিংসতা বা সন্ত্রাসী কর্মকাণ্ড ঘটানোর মতো তথ্য আদায়ের চেষ্টা।”

অ্যানথ্রপিক আরও বলেছে, ক্লড ওপাস ৪ এবং ৪.১ কেবল “শেষ উপায়” হিসেবেই কথোপকথন শেষ করবে যখন বারবার আলাপের দিক পরিবর্তনের চেষ্টা ব্যর্থ হবে এবং ফলপ্রসূ আলোচনার সম্ভাবনা আর থাকবে না।

তবে কোম্পানিটির দাবি, বেশিরভাগ ব্যবহারকারীর ক্ষেত্রেই ক্লড হঠাৎ করে আলাপ বন্ধ করে দেবে না যদি তা কোনো বিতর্কিত বিষয়ের ওপর হয়। এই ফিচার কেবল “অত্যন্ত চরম পরিস্থিতিতে” ব্যবহার করা হবে বলে প্রতিবেদনে লিখেছে প্রযুক্তি বিষয়ক সাইট এনগ্যাজেট।

যখন ক্লড কথা চালিয়ে যাওয়া বন্ধ করে দেবে সেই থ্রেডে ব্যবহারকারী আর কোনো মেসেজ পাঠাতে পারবেন না। তবে চাইলে নতুন থ্রেড ওপেন করতে পারবেন।

অ্যানথ্রপিক বলছে, কোনো আলাপ বন্ধ হয়ে গেলে তা অন্য থ্রেডের ওপর কোনো প্রভাব ফেলবে না। এমনকি ব্যবহারকারীরা চাইলে পুরোনো মেসেজ এডিট বা আবার পাঠিয়ে আলাপকে ভিন্ন পথে এগিয়ে নিতে পারবেন।

অ্যানথ্রপিকের এই পদক্ষেপ তাদের এআই ওয়েলফেয়ার বিষয়ক গবেষণার অংশ। এআই মডেলকে মানুষের মত ভেবে দেখা উচিত কি না তা নিয়ে বিতর্ক থাকলেও কোম্পানিটি বলছে, কোনো মানসিক চাপ তৈরি করতে পারে এমন কথোপকথন থেকে এআইকে বেরিয়ে আসার সুযোগ দেওয়া ঝুঁকি নিয়ন্ত্রণের সহজ উপায়।

এখনো এই ফিচার পরীক্ষামূলকভাবে চলছে এবং ব্যবহারকারীরা যদি এমন পরিস্থিতির মুখোমুখি হন, তবে অ্যানথ্রপিক তাদের কাছ থেকে ফিডব্যাক আশা করছে।