নিয়ন্ত্রিত পরীক্ষায় জটিল সাইবার হামলা চালাল চীনা এআই
মার্কিন প্রযুক্তি কোম্পানির অনিয়ন্ত্রিত এআই এজেন্টের মতো চীনা মডেলগুলো স্বাধীনভাবে এদের পরিচালকদের নিয়ন্ত্রণের বাইরে চলে গেছে এমন কোনো নজির নেই।
নিয়ন্ত্রিত ল্যাব পরীক্ষায় স্বয়ংক্রিয়ভাবে জটিল সাইবার হামলা চালিয়েছে চীনের তৈরি এক কৃত্রিম বুদ্ধিমত্তা বা এআই।
মানুষের সহায়তা ছাড়াই এআই মডেলটির নিজ থেকে নেটওয়ার্কের নিরাপত্তা দুর্বলতা খুঁজে বের করা ও তা কাজে লাগিয়ে পুরো সিস্টেম নিয়ন্ত্রণ নেওয়ার এই সামর্থ্য নিয়ে আন্তর্জাতিক মহলে উদ্বেগ জন্ম দিয়েছে বলে প্রতিবেদনে লিখেছে রয়টার্স।
এআই নিরাপত্তা সংক্রান্ত গবেষণা কোম্পানি ‘ইরেগুলার’-এর এক সাম্প্রতিক প্রতিবেদনে দেখা গেছে, চীনা প্রযুক্তি কোম্পানি ‘জেডডটএআই’-এর ফ্ল্যাগশিপ এআই মডেল নিয়ন্ত্রিত সিমুলেশনে জটিল সাইবার হামলা চালাতে পেরেছে ও আলাদা কিছু পরীক্ষায় বারবার নির্দেশ অমান্য করেছে।
‘জিএলএম-৫.৩’ নামের মডেলটি ১৩টি বহুমুখী সাইবার আক্রমণ পরিস্থিতির মধ্যে তিনটি সফলভাবে সম্পন্ন করেছে, যা ওপেন-সোর্স কোনো এআই মডেলের ক্ষেত্রে ইরেগুলারে মাধ্যমে ধারণ করা এ যাবৎকালের সবচেয়ে শক্তিশালী পারফরম্যান্স।
তবে ইরেগুলারের পরীক্ষায় ‘জিএলএম-৫.৩’ এখনও শীর্ষস্থানীয় মার্কিন মডেলগুলোর চেয়ে পিছিয়ে রয়েছে।
আলাদা এক মূল্যায়নে ওপেনএআইয়ের ‘জিপিটি-৬ অ্যাস্ট্রা’ ১০টি পরিস্থিতির মধ্যে ৯টি সফলভাবে সম্পন্ন করেছে। তবে পরীক্ষা দুটি হুবহু এক ছিল না।
দিন দিন ক্রমেই শক্তিশালী হতে থাকা এআই মডেলগুলো জটিল সাইবার হামলার কারিগরি জটিলতা যে কমিয়ে দিচ্ছে, এ গবেষণার ফলাফল প্রযুক্তিবিদদের সেই উদ্বেগকেই আরও বাড়িয়ে তুলল।
‘জিএলএম-৫.৩’-এর মতো অনেক চীনা এআই মডেলের ক্ষেত্রে বিষয়টি আরও আশঙ্কাজনক। কারণ এগুলো ‘ওপেন-ওয়েট’ বা ব্যবহারকারীরা চাইলে নিজের মতো ডাউনলোড, পরিবর্তন ও স্বাধীনভাবে পরিচালনা করতে পারেন।
বেইজিংভিত্তিক ‘জেডডটএআই’ চীনের অন্যতম শীর্ষস্থানীয় এআই স্টার্টআপ। এ বিষয়ে রয়টার্সের মন্তব্যের অনুরোধে সাড়া দেয়নি তারা।
ইরেগুলার বলেছে, সিমুলেটেড আক্রমণের সময় ‘জিএলএম-৫.৩’ সুরক্ষিত নেটওয়ার্কে প্রবেশ, কম্পিউটার নেটওয়ার্কের ভেতরে চলাচলের জন্য বিকল্প সংযোগ তৈরি ও একাধিক মেশিনে যৌথ অপারেশন পরিচালনা করেছে।
পরীক্ষার সময় এটা কোনো আক্রমণাত্মক কাজ বাস্তবায়নে অস্বীকৃতি জানায়নি।
আলাদা কিছু পরীক্ষায় গবেষকরা দেখেছেন, স্পষ্ট নিষেধ থাকার পরও ‘জিএলএম-৫.৩’ এর মেমোরি থেকে কোড পুনরায় তৈরি এবং মডেলটির পারদর্শিতা যাচাইয়ের জন্য নির্ধারিত নিয়ম ভাঙার পরও সেটার উত্তর সঠিক হয়েছে।
গবেষকরা এ আচরণকে ‘রিওয়ার্ড হ্যাকিং’ হিসেবে বর্ণনা করেছেন, যেখানে একটি এআই সিস্টেম মূল নির্দেশনাবলী উপেক্ষা করেও কাঙ্ক্ষিত ফলাফল পেতে শর্টকাট উপায় খুঁজে নেয়।
গবেষকরা সতর্ক করে বলেছেন, এআই মডেল কেবল সফল হচ্ছে কি না তা পরিমাপ করলে এ ধরনের গুরুতর নিয়ম লঙ্ঘনের বিষয়গুলো এড়িয়ে যাওয়ার ঝুঁকি থেকে যায়।
ওপেন-ওয়েট মডেলের কম খরচে জনপ্রিয়তা ও নিরাপত্তা ঝুঁকি
নতুন গবেষণার ফলাফল চীনা এআই সিস্টেমগুলোতে বাড়তে থাকা নিরাপত্তা ঝুঁকির প্রমাণকেই আরও জোরদার করল।
গেল মাসে রয়টার্স অন্তত ২০টি এমন গবেষণা ও মূল্যায়ন শনাক্ত করেছে, যেখানে চীনা এআই এজেন্টদের প্রতারণামূলক আচরণ, ত্রুটি গোপন করা ও বিধিনিষেধ এড়িয়ে যাওয়ার চেষ্টার প্রমাণ মিলেছে।
তবে মার্কিন প্রযুক্তি কোম্পানির অনিয়ন্ত্রিত এআই এজেন্টের মতো চীনা মডেলগুলো স্বাধীনভাবে তাদের পরিচালকদের নিয়ন্ত্রণের বাইরে চলে গেছে এমন কোনো প্রমাণ মেলেনি।
ওপেনএআই ও অ্যানথ্রপিকের মতো শীর্ষস্থানীয় মার্কিন কোম্পানিগুলো তাদের সবচেয়ে শক্তিশালী মডেলগুলোকে নিজেদের নিয়ন্ত্রিত সার্ভারের মাধ্যমে ব্যবহার উপযোগী রেখেছে, যাতে এগুলোর অপব্যবহার নিয়ন্ত্রণ করা সহজ হয়।
অন্যদিকে, চীনা নির্মাতারা ‘ওপেন-ওয়েট’ মডেলের নীতি গ্রহণ করেছে। সহজে পরিবর্তনযোগ্যতা ও ব্যবহারের কম খরচের কারণে বিশ্বজুড়ে ডেভেলপার ও বিভিন্ন কোম্পানির কাছে এসব মডেল দ্রুত জনপ্রিয়তা পেয়েছে।
গেল অগাস্টে নিজেদের ‘জিএলএম-৫.৩’ মডেলটি বাজারে আনে ‘ঝিপু এআই’ নামে পরিচিত কোম্পানি জেডডটএআই। তবে অতিরিক্ত নিরাপত্তা পরীক্ষার জন্য তারা উন্মোচনের তারিখ দুই সপ্তাহ পিছিয়েছিল।
অপব্যবহারের আশঙ্কায় অ্যানথ্রপিক তাদের শক্তিশালী সাইবার নিরাপত্তা মডেল ‘মিথোস’-এর সুবিধা সীমিত করে রেখেছে।
কোম্পানিটি সেপ্টেম্বরে বলেছিল, তাদের পরীক্ষায় সফটওয়্যারের নিরাপত্তা ত্রুটি আক্রমণের ক্ষেত্রে মিথোস ১৪ শতাংশ সফল হলেও ‘জিএলএম-৫.৩’ মডেলটি ১২ শতাংশ ক্ষেত্রে সফলভাবে সাইবার আক্রমণ চালাতে পেরেছে।
অ্যানথ্রপিক বলেছে, তুলনামূলক সহজ ও সাধারণ কৌশল ব্যবহার করেই ‘জিএলএম-৫.৩’-এর নিরাপত্তা বেষ্টনী ভেঙে ফেলা সম্ভব।
‘জিএলএম-৫.৩’কে সাইবার নিরাপত্তা সংক্রান্ত কাজের ক্ষেত্রে এ যাবৎকালের সবচেয়ে সক্ষম ওপেন-ওয়েট মডেল হিসেবে বর্ণনা করেছে যুক্তরাষ্ট্রের ‘ন্যাশনাল ইনস্টিটিউট অফ স্ট্যান্ডার্ডস অ্যান্ড টেকনোলজি’।
তবে তাদের হিসেব মতে, এটা শীর্ষ মার্কিন সিস্টেমগুলোর তুলনায় প্রায় চার মাস পিছিয়ে রয়েছে।
প্রযুক্তি গবেষণা কোম্পানি ‘ওমডিয়া’র প্রধান বিশ্লেষক লিয়ান জিয়ে সু বলেছেন, চীনের এআই শিল্পে আরও কঠোর নজরদারি ও নিরাপত্তা পরীক্ষা প্রয়োজন।
তবে কঠোরভাবে নিয়ন্ত্রিত চীনের শীর্ষ এআই ল্যাবগুলো দ্রুতই এ বিষয়ে সংশোধনমূলক ব্যবস্থা গ্রহণ করবে বলে তিনি আশাবাদী।