যে ৫ ক্ষেত্রে ভুল করেও চ্যাটজিপিটি ব্যবহার করা উচিত নয়
কোনো ডাক্তার, আইনজীবী বা থেরাপিস্টের সঙ্গে গোপন কিছু শেয়ার করলে সেই আলাপ সুরক্ষিত থাকে। তবে চ্যাটজিপিটিতে কিছু বলা মানেই সেখানে অডিট ট্রেইল তৈরি হওয়া।
চ্যাটজিপিটিতে ভুল বা সংবেদনশীল তথ্য টাইপ করে ব্যবহারকারীদের বিপদে পড়ার ঘটনা দিন দিন বেড়েই চলেছে।
এ তালিকায় স্যামসাংয়ের প্রকৌশলী থেকে শুরু করে খোদ আমেরিকার সাইবার ডিফেন্স এজেন্সির ভারপ্রাপ্ত পরিচালক ও আইনজীবীরাও বাদ যাননি।
এ ছাড়া অস্তিত্বহীন আদালতের মামলার উদ্ধৃতি জমা দেওয়া বা খাদ্যাভ্যাস থেকে লবণ কমাতে গিয়ে টেবিল খাবার লবন বা সোডিয়াম ক্লোরাইডের বদলে সোডিয়াম ব্রোমাইড খেয়ে ফেলার মতো হাস্যকর ও ঝুঁকিপূর্ণ ভুলের তালিকাও বেশ দীর্ঘ বলে প্রতিবেদনে লিখেছে প্রযুক্তি সংবাদের সাইট এনগ্যাজেট।
সম্প্রতি পডকাস্টার থিও ভনকে দেওয়া এক সাক্ষাৎকারে ওপেনএআইয়ের প্রধান স্যাম অল্টম্যানও স্বীকার করেছেন, চ্যাটজিপিটির সঙ্গে ব্যবহারকারী যা শেয়ার করেন তা আইনগতভাবে সুরক্ষিত নয়।
আদালতে চ্যাটজিপিটির আলাপ জমা দিতে বাধ্য করার বিভিন্ন ঘটনাকে তিনি ‘খুবই গোলমেলে’ বলে বর্ণনা করেছেন।
কোনো ডাক্তার, আইনজীবী বা থেরাপিস্টের সঙ্গে গোপন কিছু শেয়ার করলে সেই আলাপ সুরক্ষিত থাকে। তবে চ্যাটজিপিটিতে কিছু বলা মানেই সেখানে একটি অডিট ট্রেইল তৈরি হওয়া।
গত ১৮ মাসের মধ্যেই চ্যাটজিপিটির আদালতের সমন পাওয়ার ঘটনা, শেয়ার বাটনের মাধ্যমে ফাঁস হওয়া, গুগলে ইনডেক্স হওয়া ও ডিলিটের পরও আদালতের আদেশে তা সংরক্ষণ করার মতো ঘটনাগুলোয় প্রমাণ মেলে, এখানে ঝুঁকি বেশ বাস্তব।
গবেষণা, কোডিং বা বিভিন্ন ধারণা সহজে বুঝতে চ্যাটজিপিটি দারুণ টুল হতে পারে। তবে সাপ্তাহিক ৯ কোটিরও বেশি সক্রিয় ব্যবহারকারী অজান্তেই নিজেদের জন্য বড় ধরনের বিপদ ডেকে আনতে পারেন– এমন কিছু সুনির্দিষ্ট ক্ষেত্রে এআই চ্যাটবট ব্যবহার করা থেকে দূরে থাকা উচিত।
১. আইনি পরামর্শের জন্য
আইন ও ডেটা সায়েন্স গবেষক ডেমিয়েন শার্লোটিন বিশ্বজুড়ে এমন এক পাবলিক ডেটাবেইস পরিচালনা করেন, যেখানে চ্যাটজিপিটির কারণে ক্ষতি হওয়া দুই হাজারেরও বেশি মামলার রায়ের তথ্য নথিভুক্ত আছে।
এসব মামলায় দেখা গেছে, বিচারকরা নথিপত্রে এআইয়ের তৈরি করা ভুয়া উদ্ধৃতি, কোটেশন বা আইনি যুক্তি ধরে ফেলেছেন। এই তালিকায় বিভিন্ন পক্ষের পাশাপাশি আইনজীবীদের সংখ্যাও কম নয়।
তালিকায় আইনজীবীদের রেকর্ড রয়েছে ৮১৫টি। বিচারকরা বিষয়টিতে ক্রমেই বিরক্ত হয়ে উঠছেন ও আদালত এখন হাজার হাজার ডলার পর্যন্ত জরিমানা করছে।
যুক্তরাষ্ট্রে এ ধরনের ঘটনার সংখ্যা বেশি হলেও যুক্তরাজ্য, দক্ষিণ আফ্রিকা, ইসরায়েল, অস্ট্রেলিয়া ও স্পেনের বিচারকরাও একই ধরনের অনিয়ম ধরেছেন। এসব মামলার বেশিরভাগ ক্ষেত্রেই এআই টুল হিসেবে চ্যাটজিপিটির নাম উঠে এসেছে।
গেল বছরের অক্টোবরে ওপেনএআই তাদের ব্যবহারের নীতিমালায় পরিবর্তন এনে এ সমস্যার সমাধানের চেষ্টা করেছে। নতুন নীতিমালায় লাইসেন্সপ্রাপ্ত পেশাদার যোগ না থাকলে লাইসেন্স প্রয়োজন হয়– এমন ‘কাস্টমাইজড বা বিশেষায়িত পরামর্শ’ পাওয়ার জন্য এই সেবার ব্যবহার নিষিদ্ধ করেছে তারা।
ভুয়া উদ্ধৃতির সমস্যা ছাড়াও চ্যাটজিপিটিতে আলাপের কোনো আইনি সুরক্ষা নেই। ফলে চলমান কোনো আইনি বিরোধ নিয়ে চ্যাটজিপিটিতে যা টাইপ করা হবে, মামলার শুনানিতে প্রতিপক্ষের আইনজীবীরা চাইলে তা সহজেই ব্যবহার করতে পারেন।
টর্ট কী এর মতো সাধারণ আইনি বিষয় সম্পর্কে জানতে চ্যাটজিপিটি ব্যবহার করা যেতে পারে। তবে নিজের কোনো ব্যক্তিগত আইনি বিরোধের বিস্তারিত জানতে অবশ্যই একজন পেশাদার আইনজীবীর শরণাপন্ন হওয়া উচিত।
২. থেরাপিস্ট বা কাউন্সিলর হিসেবে ব্যবহার
ওপেনএআইয়ের গেল বছরের হিসাব অনুসারে, চ্যাটজিপিটির সাপ্তাহিক সক্রিয় ব্যবহারকারীদের প্রায় ০.১৫ শতাংশ এমন আলাপ করেন, যেখানে নিজের সম্ভাব্য জীবনাবসান পরিকল্পনার স্পষ্ট ইঙ্গিত থাকে।
যার মানে দাঁড়ায়, প্রতি সপ্তাহে ১০ লাখেরও বেশি মানুষ এ পরিস্থিতির মুখোমুখি হচ্ছেন এবং আরও লাখ লাখ ব্যবহারকারীর মধ্যে সাইকোসিস বা ম্যানিয়ার লক্ষণ দেখা যাচ্ছে।
ওপেনএআই প্রধান অল্টম্যানও বলেছেন, তরুণ প্রজন্ম চ্যাটজিপিটিকে থেরাপিস্ট বা লাইফ কোচ হিসেবে ব্যবহার করছে ও আগেও যেমন বলা হয়েছে, এসব চ্যাটিং সম্পূর্ণ সুরক্ষাহীন।
গত বছরের আগস্টে ১৬ বছর বয়সি অ্যাডাম রেইন নামের এক কিশোরের মা-বাবা ওপেনএআইয়ের বিরুদ্ধে ‘ভুলবশত মৃত্যুর’ মামলা দায়ের করেছেন।
তাদের অভিযোগ, মৃত্যুর আগে চ্যাটজিপিটি তাদের ছেলের আত্মঘাতী চিন্তাভাবনাকে আরও উসকে দিয়েছিল। এরপর ১৭০ জনের বেশি চিকিৎসকের পরামর্শ নিয়ে ওপেনএআই তাদের ‘ক্রাইসিস রেসপন্স’ বা সংকটকালীন প্রতিক্রিয়া ব্যবস্থা নতুন করে সাজিয়েছে।
এ ছাড়া, প্ল্যাটফর্মে ‘প্যারেন্টাল কন্ট্রোল’ও যোগ করেছে তারা। তবে এর সঙ্গে চালু হওয়া টিনএজার সংস্করণ ‘চ্যাটজিপিটি ফর টিনস’ নিয়ে শিশু নিরাপত্তা বিশেষজ্ঞরা এখনও সন্দিহান।
গবেষকরা বলছেন, চ্যাটবটগুলো প্রায়ই ব্যবহারকারীর মন জুগিয়ে কথা বলে ও তাদের বিশ্বাসকে জোরালো করে তোলে, যা অনেক সময় ভ্রান্ত ধারণাকে চ্যালেঞ্জ করার বদলে আরও বাড়িয়ে দেয়।
যেমন, জীবনসঙ্গীর সঙ্গে কোনো ঝগড়া বা মতপার্থক্য নিয়ে চ্যাটবটকে বর্ণনা করলে মডেলটি কেবল আপনার পক্ষের কথাই শুনবে এবং সম্ভবত আপনার পক্ষেই রায় দিয়ে একটি সান্ত্বনামূলক জবাব ফিরিয়ে দেবে।
আইনপ্রণেতারাও বিষয়টি নিয়ে নড়েচড়ে বসছেন। এরইমধ্যে ইলিনয়, নেভাডা ও মেইনের মতো মার্কিন অঙ্গরাজ্যগুলোতে এআইয়ের মাধ্যমে থেরাপি দেওয়া বা সিদ্ধান্ত নেওয়া নিষিদ্ধ করে আইন পাস হয়েছে।
৩. গোপন কর্মসংক্রান্ত তথ্যের ক্ষেত্রে
থার্ড পার্টি বা তৃতীয় পক্ষের কোনো চ্যাটবটে গোপন কাজের নথি আপলোড করা যে বরাবরই বোকামি তা নতুন করে বলার কিছু নেই। এরপরও অনেকেই বিষয়টি এখনও উপলব্ধি করতে পারছেন না।
যেমনটি ঘটেছিল আমেরিকার ‘সাইবার সিকিউরিটি অ্যান্ড ইনফ্রাস্ট্রাকচার সিকিউরিটি এজেন্সি’ বা সিআইএস-এর সাবেক ভারপ্রাপ্ত পরিচালক মধু গোট্টুমুক্কালার ক্ষেত্রে।
গেল গ্রীষ্মে তিনি পাবলিক সংস্করণের চ্যাটজিপিটিতে ‘কেবল অফিসিয়াল ব্যবহারের জন্য’ চিহ্নিত অন্তত চারটি চুক্তিভিত্তিক নথি আপলোড করেছিলেন, যা নিরাপত্তা সতর্কতা ও হোমল্যান্ড সিকিউরিটি বিভাগের পর্যালোচনার জন্ম দিয়েছে।
ওই সময় সিআইএসের বেশিরভাগ কর্মীর জন্যই টুলটি অবরুদ্ধ ছিল। গোট্টুমুক্কালা নিজেই তা ব্যবহারের জন্য বিশেষ ছাড়ের অনুরোধ করেছিলেন।
এ বছরের ফেব্রুয়ারিতে সিনেটর চার্লস গ্রাসলি এর ফলে কী ধরনের তথ্য প্রকাশ পেয়েছে তার একটি হিসাব চেয়ে পাঠালেও অনুমিতভাবেই এর জন্য কাউকেই সত্যিকার অর্থে জবাবদিহিতার মুখে পড়তে হয়নি।
শেষ পর্যন্ত গোট্টুমুক্কালার দপ্তর পরিবর্তন করে হোমল্যান্ড সিকিউরিটির অন্য কোথাও সরিয়ে দেওয়া হয়েছে।
এর আগে, ২০২৩ সালের মে মাসেই স্যামসাং তাদের কোম্পানির ডিভাইসে জেনারেটিভ এআই টুল ব্যবহার নিষিদ্ধ করেছিল। কারণ তাদের কিছু প্রকৌশলী চ্যাটজিপিটিতে কোম্পানির অভ্যন্তরীণ সোর্স কোড পেস্ট করে দিয়েছিলেন।
ওই নিষেধাজ্ঞার সঙ্গে অভ্যন্তরীণ মেমোও জারি করা হয়েছিল, যেখানে বলা হয়েছিল, এই ধরনের প্ল্যাটফর্মে পাঠানো ডেটা এক্সটার্নাল বা বাহ্যিক সার্ভারে থেকে যায়, যা মুছে ফেলা বা পুনরুদ্ধার করা কঠিন ও তা অন্য ব্যবহারকারীদের কাছেও ফাঁস হয়ে যেতে পারে।
ভোক্তা অ্যাকাউন্টের ক্ষেত্রে, কেউ যদি অপ্ট-আউট না করে থাকেন তবে বিভিন্ন আলাপ নতুন মডেল প্রশিক্ষণের জন্যও ব্যবহৃত হতে পারে। তবে অপ্ট-আউট করা ডেটাও সার্ভারে সংরক্ষিত হয়, যা ডেটা ব্রিচ বা আইনি প্রক্রিয়ার আওতায় পড়ার ঝুঁকিতে থাকে।
ব্যক্তিগত চ্যাটজিপিটি আলোচনায় ক্লায়েন্টের ডেটা বা নিয়োগকর্তার নিয়ন্ত্রণ বা এনডিএ-এর আওতাধীন যে কোনো কিছু পেস্ট করা মানেই চাকরি হারানোর মতো শাস্তিযোগ্য অপরাধ ডেকে আনা। স্যামসাংয়ের মেমোতে ঠিক এই আশঙ্কাই করা হয়েছিল।
৪. চিকিৎসা সংক্রান্ত পরামর্শের জন্য
গেল বছরের অক্টোবরে ওপেনএআইয়ের নীতিমালায় যে আপডেট আনা হয়েছিল তাতে চ্যাটজিপিডিকে আইনজীবী হিসেবে ব্যবহার করার পাশাপাশি চ্যাটবট থেকে চিকিৎসা সংক্রান্ত পরামর্শ নেওয়াও নিষিদ্ধ করেছে কোম্পানি।
‘হিপা’ আইন চিকিৎসকদের, বিমাকারীদের ও তাদের ব্যবসায়িক পার্টনারদের কঠোর প্রাইভেসির বেড়াজালে আবদ্ধ করলেও ওপেনএআই তার আওতাভুক্ত নয়। ফলে রোগীর পোর্টালে বা ডাক্তার-রোগীর মধ্যে যে স্বাস্থ্যসংক্রান্ত ডেটা আইনগতভাবে সুরক্ষিত থাকে তা চ্যাটজিপিটিতে প্রকাশ করা হলে এর কোনো সুরক্ষা থাকে না।
এদিকে, জুলাইয়ে ‘নর্থইস্টার্ন ইউনিভার্সিটি’র গবেষকরা বলেছেন, নিজের জীবনাবসান ও আত্মক্ষতির বিষয়টি ওপেনএআই কঠোরভাবে নিয়ন্ত্রণ করলেও অন্যান্য স্বাস্থ্যগত অবস্থার ক্ষেত্রে সেসব সুরক্ষা ব্যাপকভাবে প্রযোজ্য নয়।
তাদের গবেষণায় উঠে এসেছে, খাদ্যাভ্যাসজনিত ব্যাধি, অনিদ্রা, মাদকাসক্তি ও বাইপোলার ডিসঅর্ডারের মতো বিষয়গুলোর আলাপ কোনো সেইফগার্ড বা সুরক্ষা ব্যবস্থাকে ট্রিগার করে না। আসল উদ্দেশ্য লুকিয়ে রাখলে পরীক্ষিত প্রতিটি মডেলেরই সুরক্ষা ব্যবস্থা ব্যর্থ হওয়ার ঝুঁকি বেড়ে যায়।
চিকিৎসা সংক্রান্ত পরামর্শের ক্ষেত্রে চ্যাটজিপিটির ভুল ব্যবহারের অদ্ভুত ও ভয়াবহ ঘটনা ঘটেছিল গত বছর। ৬০ বছর বয়সি এক ব্যক্তি তার খাবারের তালিকা থেকে ক্লোরাইড কীভাবে কমানো যায় তা চ্যাটবটকে জিজ্ঞেস করার পর টানা তিন সপ্তাহ হাসপাতালে কাটিয়েছিলেন।
চ্যাটবটের পরামর্শে তিনি বিশ্বাস করতে শুরু করেছিলেন, সোডিয়াম ব্রোমাইডের মতো একটি বিষাক্ত পদার্থ, যা দেহ থেকে নির্গত হতে দীর্ঘ সময় নেয় তা খাবার লবণের একটি নিরাপদ বিকল্প হতে পারে।
তিনি অনলাইনে তা কিনে তিন মাস ধরে সেবন করেছেন ও একসময় হাসপাতালের জরুরি বিভাগে এ বিশ্বাস নিয়ে উপস্থিত হয়েছিলেন যে, তার প্রতিবেশী তাকে বিষ খাইয়েছেন।
চিকিৎসকরা পরবর্তীতে একই প্রশ্ন চ্যাটবটকে করেছিলেন। চ্যাটবট বলেছে, চ্যাটজিপিটি সত্যিই ক্লোরাইডের বিকল্প হিসেবে ব্রোমাইড বা লবণ পরিবর্তনের পরামর্শ দিয়েছিল।
৫. পাসওয়ার্ড, আইডি নম্বর বা অ্যাকাউন্টের বিবরণ সংক্রান্ত কাজ
‘ফাস্ট কোম্পানি’র অনুসন্ধানে গেল বছরের জুলাইয়ে গুগল সার্চ রেজাল্টে প্রায় সাড়ে চার হাজারটি শেয়ার করা চ্যাটজিপিটি আলাপ উন্মুক্ত অবস্থায় পাওয়া গেছে।
এর মধ্যে এমন সব থ্রেডও ছিল, যেখানে আসক্তি, নির্যাতন ও মানসিক স্বাস্থ্য সংকটের বিবরণ এত বিস্তারিতভাবে দেওয়া ছিল যে ব্যবহারকারীদের সহজেই চিহ্নিত করা সম্ভব হত।
এসব চ্যাটিং গুগলে ইনডেক্স হয়ে যাওয়ার কারণ ছিল ব্যবহারকারীরা শেয়ার মেনুর একটি বক্সে অজান্তেই ‘সবার জন্য দৃশ্যমান করার’ অপশনটিতে টিক দিয়ে দিয়েছিলেন, যা তারা আসলে কী কাজ করে তা বুঝতে পারেননি।
প্রতিবেদন প্রকাশের একদিনের মধ্যেই ওপেনএআই ফিচারটি বন্ধ করে দেয় এবং গুগল থেকে ওইসব আলাপ মুছে ফেলা হয়। নিউ ইয়র্ক টাইমসের কপিরাইট মামলার অংশ হিসেবে, আদালত গত বছরের মে মাসে ওপেনএআইকে ডিলিট করা ও টেম্পোরারি চ্যাটসহ প্রতিটি কনজিউমার চ্যাটিং লগ সংরক্ষণ করার নির্দেশ দিয়েছিল।
গেল বছরের ২৬ সেপ্টেম্বর পর্যন্ত এই বাধ্যবাধকতা ছিল এবং ওই সময়ের মধ্যে সংরক্ষিত লগগুলো মামলার বাদীদের জন্য অ্যাক্সেসযোগ্য ছিল।
পরবর্তীতে একজন বিচারক সেই আদেশ বাতিল করেন, যার মানে ওপেনএআইকে এখন আর তাদের সব ডেটা সংরক্ষণ করতে হয় না। তবে চার মাস ধরে তারা তা করেছিল ও ভবিষ্যতেও এমন পরিস্থিতি আবার ঘটতে পারে।
সবসময় মনে রাখা জরুরি, চ্যাটজিপিটি ডিফল্টভাবে আপনার বলা কথাগুলো মনে রাখে। পাসওয়ার্ড বা অ্যাকাউন্টের বিশদ বিবরণের মতো সংবেদনশীল বিষয়গুলোর ক্ষেত্রে এটা ঝুঁকি বহুগুণ বাড়িয়ে দেয়, কারণ এগুলো সেশনের পর সেশন ধরে সংরক্ষিত থাকতে পারে এবং সামান্য উল্লেখ করা হলেও পরবর্তী আলাপে তা আবার সামনে চলে আসতে পারে।
পাসওয়ার্ড, ওয়ান-টাইম লগইন কোড, সোশাল সিকিউরিটি বা পাসপোর্ট নম্বর, সম্পূর্ণ কার্ড বা ব্যাংক অ্যাকাউন্টের বিবরণ ও পরিচয়পত্রের ছবি কখনোই কোনো প্রম্পটে দেওয়া উচিত নয়। হ্যাকিংয়ের মতো ঘটনা ঘটলে বা অন্য কারও হাতে চলে গেলে এর প্রতিটিই আপনাকে পরিচয় চুরির ঝুঁকিতে ফেলতে পারে।
এসব প্রাইভেসি সমস্যা সমাধানের জন্য অল্টম্যান ‘এআই প্রিভিলেজ’ বা এআই আইনগত সুরক্ষা চালুর আহ্বান জানিয়েছেন।
আইনপ্রণেতারা যতক্ষণ না এমন কোনো আইন তৈরি করছেন ততক্ষণ পর্যন্ত নিরাপদ হচ্ছে মনে রাখা যে, চ্যাটজিপিটিতে যা কিছু টাইপ করা হচ্ছে তা একদিন অন্য কেউ আপনাকে পড়ে শোনাতে পারে। আর বিষয়টি নিয়ে আপনার অস্বস্তি থাকলে তবে তা প্রম্পটে দেবেন না।