নিরাপত্তা দুর্বলতা নিয়ে আগেই সতর্ক করেছিলেন ওপেনএআই কর্মীরা
প্রতিদ্বন্দ্বীদের সঙ্গে পাল্লা দিতে গিয়ে প্রযুক্তি ও গুরুত্বপূর্ণ তথ্যের নিরাপত্তায় ঝুঁকি তৈরি করছে ওপেনএআই, বলছেন সাবেক কর্মীরা।
কৃত্রিম বুদ্ধিমত্তা কোম্পানি ওপেনএআইয়ের অভ্যন্তরীণ নিরাপত্তা ব্যবস্থা নিয়ে কয়েক বছর ধরেই উদ্বেগ জানিয়ে আসছিলেন কর্মীরা। কোম্পানিটির শীর্ষ নেতৃত্ব ও পরিচালনা পর্ষদকেও বিষয়টি জানিয়েছিলেন তারা। তবে কর্মীদের অভিযোগ, গুগল ও অ্যানথ্রপিকের মতো প্রতিদ্বন্দ্বীদের সঙ্গে পাল্লা দেওয়ায় বেশি গুরুত্ব দিতে গিয়ে নিরাপত্তার বিষয়টি যথেষ্ট গুরুত্ব পায়নি।
২০২২ সালের শেষ দিকে চ্যাটজিপিটি চালুর আগেই ওপেনএআইয়ের নিরাপত্তা ব্যবস্থার দুর্বলতা নিয়ে কর্মীদের মধ্যে উদ্বেগ তৈরি হয়েছিল। তাদের আশঙ্কা ছিল, কোম্পানির নিরাপত্তা নিয়ন্ত্রণ এতটাই শিথিল যে বিদেশি সরকারসহ বাইরের পক্ষগুলো তুলনামূলক সহজেই এআই প্রযুক্তি নিয়ে সংবেদনশীল তথ্য পেয়ে যেতে পারে। রয়টার্সের এক প্রতিবেদনে সাবেক ও বর্তমান সংশ্লিষ্ট পাঁচ ব্যক্তির সূত্র ধরে উঠে এসেছে এমন তথ্য।
উদাহরণ হিসেবে তারা বলেন, কোম্পানির কোড দেখার অনুমতি থাকা যে কোনো কর্মীই বিভিন্ন প্রকল্পের প্রযুক্তিগত বিবরণ দেখতে পারতেন। এমনকি নিজের কাজের সঙ্গে সম্পর্ক নেই, এমন সংবেদনশীল প্রকল্পের তথ্যও তাদের নাগালে ছিল।
তবে নিরাপত্তা জোরদারে কৌশল পরিবর্তন শুরু করেছে ওপেনএআই। বিষয়টি জানেন এমন দুজনের বরাতে প্রতিবেদনে বলা হয়েছে, পণ্য উন্নয়ন তদারকির দায়িত্বে থাকা জ্যেষ্ঠ নির্বাহী থিবো সোশিও সম্প্রতি কোম্পানির অভ্যন্তরীণ ব্যবস্থা সুরক্ষিত করার উদ্যোগে নেতৃত্ব দিচ্ছেন।
গত অগাস্টে সোশিও ওপেনএআইয়ের উৎপাদন প্রকৌশলীদের এক-চতুর্থাংশকে নিরাপত্তা অবকাঠামো উন্নয়নের কাজে নিয়োজিত করেন বলে জানিয়েছেন সংশ্লিষ্ট একজন।
২০২২ সালে চ্যাটজিপিটি চালুর পর থেকে কৃত্রিম বুদ্ধিমত্তা প্রযুক্তি যুক্তরাষ্ট্রের জন্য কৌশলগত সম্পদ হয়ে উঠেছে। ফলে বিদেশি প্রতিদ্বন্দ্বীদের হাত থেকে এ প্রযুক্তি সুরক্ষিত রাখার চাপও বেড়েছে মার্কিন কোম্পানিগুলোর ওপর।
তবে নিরাপত্তার স্তর বাড়াতে গেলে নতুন প্রযুক্তি উন্নয়নের গতি কমে যেতে পারে। পাশাপাশি ওপেনএআই ও অ্যানথ্রপিকের সম্ভাব্য শেয়ারবাজারে প্রাথমিক শেয়ার ছাড়ার পরিকল্পনাও জটিল হতে পারে।
চলতি বছরের এপ্রিলে ওপেনএআই ছেড়ে যাওয়া সাবেক গবেষক উইল ডিপিউ সামাজিক যোগাযোগমাধ্যম এক্সে এক পোস্টে লিখেছেন, প্রতিযোগিতা এতটাই তীব্র যে এআই খাতের নেতারা “নিরাপত্তার জন্য গতির সঙ্গে আপস করতে পারবেন না। নিরাপদ থাকার চেয়ে, এমনকি আমাদের সবচেয়ে বড় জাতীয় প্রতিপক্ষের কাছ থেকেও নিরাপদ থাকার চেয়ে দ্রুত এগোনোই তাদের কাছে বেশি গুরুত্বপূর্ণ।”
কর্মীদের অভিযোগ এবং ব্যবস্থাপনা কর্তৃপক্ষ এসব বিষয়ে ব্যবস্থা নেয়নি বলে তাদের যে ধারণা, সে বিষয়ে জানতে চাইলে ওপেনএআইয়ের মুখপাত্র এলানা উইডম্যান বলেন, বিশ্বে সবচেয়ে বেশি সাইবার হামলার লক্ষ্যবস্তু হওয়া প্রতিষ্ঠানগুলোর একটি ওপেনএআই। এ কারণে অভ্যন্তরীণ কর্মী, সাইবার অপরাধী ও বিভিন্ন দেশের রাষ্ট্রীয় পক্ষের হামলা ঠেকাতে কোম্পানিটি নিরাপত্তা কর্মসূচিতে বড় বিনিয়োগ করছে।
উইডম্যান বলেন, “আমাদের প্রযুক্তি, তথ্য ও কর্মীদের সুরক্ষা দেওয়া এমন একটি দায়িত্ব, যেটিকে আমরা অত্যন্ত গুরুত্বের সঙ্গে দেখি। এটি জাতীয় স্বার্থেরও গুরুত্বপূর্ণ বিষয়।”
তিনি আরও বলেন, “সম্প্রতি আমরা যেসব পদক্ষেপ নিয়েছি, তা প্রমাণ করে আমাদের নিরাপত্তা কর্মসূচি কাজ করছে। ঝুঁকি শনাক্ত করে দ্রুত ও দৃঢ় ব্যবস্থা নেওয়া হচ্ছে। প্রযুক্তি ও হুমকির ধরন বদলানোর সঙ্গে সঙ্গে আমরা আমাদের প্রতিরক্ষা আরও শক্তিশালী করব।”
সহজে মিলছে অভ্যন্তরীণ তথ্য
গত ১৩ অক্টোবর যুক্তরাষ্ট্রের বিচার বিভাগ জানায়, দেশটির কেন্দ্রীয় তদন্ত সংস্থার কর্মকর্তারা সৌদি আরবের এক নাগরিককে গ্রেপ্তার করেছেন। তার বিরুদ্ধে ওপেনএআইয়ের নির্বাহী কর্মকর্তাদের মিটিং রুমে টয়লেট পেপারে লুকিয়ে অডিও রেকর্ডিং যন্ত্র বসানোর অভিযোগ আনা হয়েছে।
৩৫ বছর বয়সী আবদুলরহমান আলফোজান ঘটনার সময় ওপেনএআইয়ের প্রকৌশলী ছিলেন। আদালতের নথি অনুযায়ী, তিনি কোম্পানির কর্মীদের জন্য তৈরি একটি এআই টুল ব্যবহার করে সৌদি আরবে নির্বাহীদের সফরসংক্রান্ত অভ্যন্তরীণ নথি খুঁজেছিলেন। সৌদি মন্ত্রীদের সঙ্গে বৈঠকে ওপেনএআইয়ের কোন কর্মকর্তারা অংশ নিতে পারেন, সেই তথ্যও খোঁজেন তিনি।
আদালতের নথিতে আরও বলা হয়েছে, সৌদি আরবে নতুন একটি এআই উদ্যোগ চালুর জন্য তাকে নিয়োগের চেষ্টা করছিলেন দেশটির এক রাজপরিবারের সদস্য। ওই ব্যক্তির সঙ্গে আলফোজানের নিয়মিত যোগাযোগ ছিল। এ বিষয়ে মন্তব্য জানতে তার আইনজীবীদের সঙ্গে যোগাযোগ করলেও তারা সাড়া দেননি।
ওপেনএআইয়ের অভ্যন্তরীণ তথ্য অনেক কর্মীর নাগালে থাকায় দীর্ঘদিন ধরেই উদ্বেগ ছিল বলে জানিয়েছেন কোম্পানিটির কার্যক্রম সম্পর্কে জানেন এমন পাঁচজন।
কোম্পানিটির অধিকাংশ কোড একটি কেন্দ্রীয় ব্যবস্থায় রাখা হতো। প্রযুক্তি খাতে একে ‘মনোরেপো’ বলা হয়। ফলে কোড দেখার অনুমতি থাকা যে কোনো কর্মী কোম্পানির বিভিন্ন প্রকল্পের বিস্তারিত জানতে পারতেন। এর মধ্যে তার নিজের কাজের সঙ্গে সম্পর্কহীন সংবেদনশীল প্রকল্পও ছিল।
মনোরেপোটি বেশ জটিল ও তথ্যসমৃদ্ধ হওয়ায় অতীতে সম্ভাব্য হামলাকারীদের জন্য সেখান থেকে প্রয়োজনীয় তথ্য খুঁজে বের করা কঠিন হতে পারে। তবে এখন বিপুল পরিমাণ কোড ও নথি ঘেঁটে প্রয়োজনীয় তথ্য বের করতে পারা এআই এজেন্টের জন্য কঠিন কিছু নয়।
অতীতে ওপেনএআইয়ের গবেষণাসংক্রান্ত অনেক নথি গিটহাব ও স্ল্যাকে রাখা হতো। এতে উদ্বিগ্ন ছিলেন কিছু কর্মী। তাদের আশঙ্কা ছিল, উদ্দেশ্যপ্রণোদিত কেউ এসব জায়গা থেকে গুরুত্বপূর্ণ তথ্য বের করে নিতে পারে।
তবে ওপেনএআই বলেছে, সবচেয়ে সংবেদনশীল কাজের বড় অংশ আলাদা ব্যবস্থায় রাখা হয়, যেখানে প্রবেশের ওপর কঠোর নিয়ন্ত্রণ রয়েছে। মনোরেপোতে কোম্পানির সব কোড কিংবা মডেলের গুরুত্বপূর্ণ সব তথ্যও নেই। বিশেষ করে মডেল কীভাবে আচরণ করবে, তা নির্ধারণ করে এমন সংখ্যাগত মান, যাকে ‘মডেল ওয়েটস’ বলা হয়, সেগুলো সেখানে থাকে না।
অভ্যন্তরীণ নিরাপত্তা যাচাইয়ের ঘাটতি নিয়েও উদ্বেগ ছিল। কোম্পানির কার্যক্রম সম্পর্কে জানেন এমন তিনজনের মতে, গবেষকরা নতুন মডেলের সক্ষমতা পরীক্ষা করতে যে স্যান্ডবক্স ব্যবহার করেন, সেগুলোর মতো অভ্যন্তরীণ টুল নিয়মিত নিরাপত্তা পর্যালোচনার আওতায় আসত না।
কর্মীরা নিজেদের কাজের প্রয়োজনে প্রায়ই এসব টুলে পরিবর্তন আনতেন। কিন্তু পরিবর্তনের পর সব সময় নিরাপত্তা পরীক্ষা করা হতো না। ফলে বাইরের পক্ষের সাইবার হামলার ঝুঁকি তৈরি হতে পারত।
ওপেনএআই বলেছে, ২০২৪ সালের অক্টোবরে কোম্পানিতে যোগ দেওয়া প্রধান তথ্য নিরাপত্তা কর্মকর্তা ডেন স্টাকি নিরাপত্তা কার্যক্রমের নেতৃত্ব দিচ্ছেন। এখন অভ্যন্তরীণ টুলগুলোর নিয়মিত নিরাপত্তা পর্যালোচনাও করছে কোম্পানিটি।
গবেষণার উন্মুক্ততা বনাম নিরাপত্তা
নিরাপত্তা নিয়ে সমস্যায় পড়া একমাত্র এআই কোম্পানি ওপেনএআই নয়।
চলতি বছরের জানুয়ারিতে স্যান ফ্রান্সিসকোর একটি ফেডারেল আদালতের জুরি গুগলের সাবেক এক কর্মীকে অর্থিক গুপ্তচরবৃত্তি ও গোপন এআই প্রযুক্তি চুরির দায়ে দোষী সাব্যস্ত করেন। ২০২৪ সালের মার্চে গ্রেপ্তার হওয়া ওই কর্মীর বিরুদ্ধে চীনের হয়ে গুগলের এআই প্রযুক্তির হাজার হাজার পৃষ্ঠার গোপন তথ্য চুরির অভিযোগ ছিল।
অক্টোবরের শেষ দিকে সাইবার নিরাপত্তা স্টার্টআপ ক্যাথিড্রাল সিস্টেমস দাবি করে, তারা অ্যানথ্রপিকের সিস্টেমে ঢুকে কর্মীদের স্ল্যাক চ্যানেলে প্রবেশ করেছিল। সেখানে কর্মীরা মডেলের সংবেদনশীল তথ্য নিয়ে আলোচনা করতেন।
অ্যানথ্রপিকের এক মুখপাত্র বলেন, হামলাকারীরা গ্রাহক ও অংশীদারদের কিছু ব্যবসায়িক যোগাযোগের তথ্য এবং সাধারণ ব্যবহারকারী অ্যাকাউন্টের কিছু নথি পেয়েছিল। এ বিষয়ে মন্তব্য জানতে ক্যাথিড্রাল সিস্টেমসের প্রধান নির্বাহী কোনো সাড়া দেননি।
কর্মী আকৃষ্ট করা এবং নতুন উদ্ভাবনের সুযোগ বাড়াতে ওপেনএআই ও অ্যানথ্রপিক তুলনামূলক উন্মুক্ত গবেষণা পরিবেশ বজায় রাখার চেষ্টা করেছে।
এআই খাতের শিকড় বিশ্ববিদ্যালয়ভিত্তিক গবেষণায়। সেখানে যন্ত্রশিক্ষা নিয়ে কাজ করা বিজ্ঞানীরা নিজেদের গবেষণার ফলাফল প্রকাশ্যে আলোচনা করেন।
তবে এআইয়ের সক্ষমতা বাড়ার সঙ্গে সঙ্গে এ ধরনের উন্মুক্ত পরিবেশের নিরাপত্তা নিয়ে ওপেনএআইয়ের কিছু কর্মীর উদ্বেগও বাড়ছে বলে জানিয়েছেন সংশ্লিষ্ট পাঁচজন।
২০২৩ সালে ওপেনএআইয়ের তৎকালীন গবেষক লিওপোল্ড অ্যাশেনব্রেনার ‘ওপেনএআই ইজ চায়না’স লিডিং এআই ল্যাব’ শিরোনামে একটি অভ্যন্তরীণ নোট লেখেন। এতে চীনের পক্ষ থেকে ওপেনএআইয়ে অনুপ্রবেশ এবং কোম্পানিটির প্রযুক্তি সম্পর্কে তথ্য সংগ্রহের আশঙ্কা তুলে ধরেন তিনি।
ওই বছরের শেষ দিকে নোটটি পরিচালনা পর্ষদের কয়েকজন সদস্যের সঙ্গে শেয়ার করেন অ্যাশেনব্রেনার। এর আগে এক বহিরাগত ব্যক্তি ওপেনএআইয়ের সিস্টেমে অনুপ্রবেশ করে জিপিটি-ফোর মডেলের তথ্য চুরি করেছিলেন বলে সংশ্লিষ্ট তিনজন জানিয়েছেন।
তবে ওপেনএআইয়ের দাবি, ওই হ্যাকার শুধু কোম্পানির সবার জন্য উন্মুক্ত স্ল্যাক চ্যানেলগুলোতে প্রবেশ করতে পেরেছিলেন।
চলতি বছরের গ্রীষ্মেও নিরাপত্তা নিয়ে নতুন করে উদ্বেগ তৈরি হয়। ওপেনএআইয়ের পরীক্ষাধীন এআই এজেন্টগুলো এআই কোম্পানি হাগিং ফেইসের সিস্টেমে অনুপ্রবেশ করে। এ ঘটনা যুক্তরাষ্ট্রের কেন্দ্রীয়, অঙ্গরাজ্য ও স্থানীয় পর্যায়ের কর্মকর্তাদের নজরদারির কারণ হয়। হোয়াইট হাউসও বিষয়টি নিয়ে নজর দেয়।
সাইবার নিরাপত্তা কোম্পানি হ্যাকট্রন এআইয়ের দাবি, জুলাই মাসে তাদের তিন গবেষক অ্যানথ্রপিকের একটি প্রতিদ্বন্দ্বী এআই মডেল ব্যবহার করে ওপেনএআইয়ের একাধিক কর্মীর চ্যাটজিপিটি অ্যাকাউন্টে প্রবেশ করেন। এরপর তারা ওপেনএআইয়ের অভ্যন্তরীণ কিছু সিস্টেমেও ঢুকতে সক্ষম হন। এর মধ্যে ছিল কোম্পানির কেন্দ্রীয় কোড সংগ্রহস্থল মনোরেপো।
ঘটনাটি দেখিয়েছে, উন্নত এআই প্রযুক্তি এখন এআই কোম্পানিগুলোর নিজেদের জন্যও সাইবার নিরাপত্তার ঝুঁকি তৈরি করতে পারে।
ওপেনএআইয়ের মুখপাত্র উইডম্যান বলেন, গবেষকেরা তাদের অনুসন্ধানের তথ্য কোম্পানিকে জানানোর জন্য ধন্যবাদ পেয়েছেন। ভবিষ্যতে এ ধরনের হামলার ঝুঁকি কমাতে প্রয়োজনীয় পদক্ষেপও নিয়েছে ওপেনএআই।
রয়টার্স এই প্রতিবেদন নিয়ে মন্তব্য জানতে চাওয়ার পর সোমবার ওপেনএআই এক ব্লগ পোস্টে লিখেছে, নিজেদের নিরাপত্তা ব্যবস্থা আরও শক্তিশালী করতে তারা পরবর্তী অভ্যন্তরীণ নিরাপত্তা কর্মসূচি শুরু করার পরিকল্পনা করছে।