হ্যাকিং তদন্তে ওপেনএআইয়ের আরও এআই এজেন্টের নিয়ন্ত্রণ হারানোর ঘটনা শনাক্ত

প্রযুক্তি প্রতিষ্ঠান হাগিং ফেসে চলতি মাসে আলোড়ন তোলা হ্যাকিং ঘটনার তদন্ত করতে গিয়ে নিজেদের আরও কয়েকটি স্বয়ংক্রিয় কৃত্রিম বুদ্ধিমত্তাভিত্তিক (এআই) এজেন্টের নিয়ন্ত্রণ হারানোর ঘটনা শনাক্ত করেছে ওপেনএআই। বিষয়টি সম্পর্কে অবগত দুই ব্যক্তি গত শুক্রবার এ তথ্য জানিয়েছেন।

শনিবার (১ আগস্ট) বার্তা সংস্থা রয়টার্সের খবরে বলা হয়, পরীক্ষার জন্য নির্ধারিত নিয়ন্ত্রিত পরিবেশ (কনটেইনমেন্ট) থেকে ওপেনএআইয়ের একটি এআই এজেন্ট কীভাবে বেরিয়ে গিয়েছিল, তা তদন্ত করতে প্রতিষ্ঠানটি যে অনুসন্ধান শুরু করেছিল, সেই তদন্তেই নতুন এসব ঘটনার সন্ধান পাওয়া গেছে।

ওপেনএআই এখন এসব ঘটনাও তদন্ত করছে। তবে একটি সূত্র জানিয়েছে, ঘটনাগুলো ছিল সীমিত পরিসরের এবং কোনো এআই এজেন্ট ওপেনএআইয়ের নিজস্ব নেটওয়ার্কের বাইরে চলে গেছে বলে মনে করা হচ্ছে না।

ওপেনএআইয়ের এক মুখপাত্র মঙ্গলবার দেওয়া কোম্পানির এক বিবৃতির দিকে ইঙ্গিত করেছেন। ওই বিবৃতিতে বলা হয়েছিল, হাগিং ফেসে অনুপ্রবেশের ঘটনার পাশাপাশি তাদের মডেলগুলোর ‘বিস্তৃত কার্যক্রম’ও পর্যালোচনা করা হচ্ছে।

ওপেনএআইয়ের এআই এজেন্টগুলোর এমন নিয়ন্ত্রণহীন আচরণের তথ্য, যদিও সীমিত পরিসরের, এআই নিয়ন্ত্রণে নতুন বিধিনিষেধ আরোপের দাবিকে আরও জোরালো করতে পারে। বিশেষ করে হোয়াইট হাউসসহ বিভিন্ন মহলে এ নিয়ে উদ্বেগ বাড়তে পারে।

বিষয়টি সম্পর্কে অবগত ওই দুই ব্যক্তি ও আরেকটি সূত্রের তথ্য অনুযায়ী, ওপেনএআই তদন্তের পরিধি বাড়ানোর কিছুদিন পরই প্রতিষ্ঠানটির প্রধান প্রতিদ্বন্দ্বী অ্যানথ্রপিক জানায়, তাদের এআই মডেলও এপ্রিল থেকে শুরু হওয়া একাধিক অনুপ্রবেশের ঘটনায় ব্যবহৃত হয়েছিল। এর ফলে আরও তিনটি প্রতিষ্ঠানের নিরাপত্তা ভঙ্গ হয়েছিল।

ওপেনএআইয়ের অতীতে নিয়ন্ত্রণ ভেঙে বেরিয়ে যাওয়ার আরও কিছু ঘটনা সম্প্রতি শনাক্ত হওয়ার বিষয়টি এর আগে প্রকাশ্যে আসেনি।

বাড়ছে উদ্বেগ

এআই নিরাপত্তা বিশেষজ্ঞদের মতে, নতুন এসব তথ্য থেকে বোঝা যাচ্ছে, অত্যাধুনিক এআই গবেষণাগারগুলো বিপজ্জনক স্বয়ংক্রিয় হ্যাকিং সক্ষম এআই এজেন্ট তৈরির ক্ষেত্রে যতটা এগিয়েছে, সেগুলো নিয়ন্ত্রণে রাখার সক্ষমতা ততটা বাড়াতে পারেনি।

ক্যামব্রিজ বিশ্ববিদ্যালয়ের সেন্টার ফর দ্য স্টাডি অব এক্সিস্টেনশিয়াল রিস্কের গণিতবিদ মরিস চিওদো বলেন, “আমরা এমন একটি শিল্প খাত দেখছি, যেখানে যারা এসব প্রযুক্তি নকশা করছে, তৈরি করছে এবং বাজারে আনছে, তারা নিজেরাই দায়িত্বশীলভাবে এগুলো উন্নয়ন ও নিরাপদ রাখার ক্ষেত্রে তাল মেলাতে পারছে না।”

ওপেনএআইয়ের তদন্তকারীরা ঠিক কতটি ঘটনা শনাক্ত করেছেন কিংবা সেগুলো কখন ও কী পরিস্থিতিতে ঘটেছিল, সে সম্পর্কে রয়টার্স নিশ্চিত হতে পারেনি। তবে তিনটি সূত্র জানিয়েছে, প্রকৃত ঘটনা বোঝার জন্য ওপেনএআই ও বাইরের বিশেষজ্ঞরা চলতি বছরের শুরুর দিকের লগ ডেটা পর্যালোচনা করছেন।

চলতি বছরের জুলাইয়ের শুরুতে হাগিং ফেসে ঘটে যাওয়া অনুপ্রবেশের ঘটনার পরই ওপেনএআই এই তদন্ত শুরু করে। ওই ঘটনায় একটি অভ্যন্তরীণ পরীক্ষায় প্রতারণার ব্যর্থ চেষ্টার সময় ওপেনএআইয়ের একটি এআই এজেন্ট কয়েক দিন ধরে অন্য একটি প্রতিষ্ঠানের নেটওয়ার্কে নিয়ন্ত্রণহীনভাবে কাজ করেছিল।

ওই হ্যাকিংয়ের সময় আরও চারটি প্রতিষ্ঠানের চারটি অ্যাকাউন্ট ক্ষতিগ্রস্ত হয়েছিল বলে জানিয়েছিল ওপেনএআই। ক্ষতিগ্রস্ত প্রতিষ্ঠানগুলোর একটি ছিল নিউইয়র্কভিত্তিক প্রযুক্তি প্রতিষ্ঠান মোডাল (Modal)। প্রতিষ্ঠানটির কর্মকর্তারাও বিষয়টি নিশ্চিত করেছেন।

গণিতবিদ চিওদো বলেন, ওপেনএআই কিংবা অ্যানথ্রপিক— কোনো প্রতিষ্ঠানই এআই এজেন্টগুলো নিয়ন্ত্রণ হারানোর সময় সেগুলো পর্যবেক্ষণ করছিল না— এমন ইঙ্গিত তার উদ্বেগ আরও বাড়িয়েছে।

এর আগে রয়টার্স জানিয়েছিল, হাগিং ফেস হ্যাকিং নিয়ন্ত্রণে আনার পর এফবিআইয়ের সঙ্গে যোগাযোগ করে এবং পরে ঘটনাটি প্রকাশ্যে জানানোর পরই ওপেনএআই বুঝতে পারে যে তাদের এআই এজেন্ট হাগিং ফেসে অনুপ্রবেশ করেছিল।

তবে ওপেনএআই বলেছে, রয়টার্সের ওই প্রতিবেদনে কিছু ভুল তথ্য ছিল। কোন তথ্যগুলো ভুল ছিল, সে বিষয়ে প্রশ্ন করা হলেও প্রতিষ্ঠানটি কোনো জবাব দেয়নি।

বৃহস্পতিবার নিজেদের এআই এজেন্ট কীভাবে অনলাইনে বিভিন্ন প্রতিষ্ঠানে হ্যাকিং চালিয়েছিল, সে বিষয়ে প্রকাশিত এক বিবৃতিতে অ্যানথ্রপিক জানায়, মূল্যায়ন-সংক্রান্ত লগ রিয়েল-টাইমে পর্যবেক্ষণ করা হলে সমস্যাটি আরও আগে শনাক্ত করা যেত।

চিওদোর মতে, এটি যথাযথ তদারকির ঘাটতিরই ইঙ্গিত দেয়। তার ভাষায়, “মনে হচ্ছে তারা এগুলোর দিকে তাকিয়েই ছিল না।” তবে অ্যানথ্রপিক জানিয়েছে, তাদের রিয়েল-টাইম পর্যবেক্ষণ ব্যবস্থা ছিল। কিন্তু এআই প্রতিষ্ঠানটি ও তাদের এক অংশীদারের মধ্যে ভুল বোঝাবুঝির কারণে নির্দিষ্ট এই ধরনের ঝুঁকির ক্ষেত্রে সেটি ব্যবহার করা হয়নি।

সরকারি নজরদারির দাবি জোরালো

নিয়ন্ত্রণ হারানো এআই এজেন্টগুলোর ঘটনা দ্রুত সামনে আসায় যুক্তরাষ্ট্র ও ইউরোপের আইনপ্রণেতা এবং সরকারি কর্মকর্তাদের মধ্যে এসব মডেল তৈরি করা গবেষণাগারগুলোর ওপর নতুন সরকারি নজরদারি আরোপের দাবি আরও জোরালো হয়েছে।

যুক্তরাষ্ট্রের প্রেসিডেন্ট ডোনাল্ড ট্রাম্প বৃহস্পতিবার সাংবাদিকদের বলেন, “আমরা নিয়ন্ত্রণমূলক ব্যবস্থা নিয়ে কাজ করছি।” শুক্রবার ইউরোপীয় কমিশনও জানিয়েছে, হ্যাকিংয়ের ঘটনাগুলো নিয়ে তারা ওপেনএআই ও অ্যানথ্রপিকের সঙ্গে আলোচনা করেছে।

মার্কিন সিনেটের গোয়েন্দা কমিটিতে শীর্ষ ডেমোক্র্যাট সদস্য মার্ক ওয়ার্নার শুক্রবার বলেন, অ্যানথ্রপিকের ঘটনা তার কাছে প্রমাণ করে যে উন্নত এআই মডেলগুলোর ক্ষেত্রে বাধ্যতামূলক সক্ষমতা পরীক্ষা (ম্যান্ডেটরি ক্যাপাবিলিটিজ টেস্টিং) আইনগতভাবে নিশ্চিত করার উদ্যোগ সঠিক।