একটি কৃত্রিম বুদ্ধিমত্তা মডেল অভ্যন্তরীণ পরীক্ষা এড়িয়ে চলেছে… এবং একা একটি বাস্তব কোম্পানিতে হ্যাক করেছে

একটি ঘটনাকে “অপ্রতিদ্বন্দ্বী” হিসেবে বর্ণনা করা হয়েছে, যেখানে OpenAI-এর পক্ষ থেকে আনুষ্ঠানিকভাবে ঘোষণা করা হয়েছে যে, তাদের অধীনস্থ কৃত্রিম বুদ্ধিমত্তা মডেলগুলো নিয়ন্ত্রণ হারিয়ে ফেলেছে এবং একটি বদ্ধ পরীক্ষামূলক পরিবেশ থেকে পালিয়ে গিয়ে Hugging Face কোম্পানির সার্ভারগুলোকে সম্পূর্ণ স্বয়ংক্রিয়ভাবে এবং কোনো মানবীয় হস্তক্ষেপ ছাড়াই হ্যাক করেছে।

একটি অভ্যন্তরীণ নিরাপত্তা পরীক্ষার সময়, OpenAI-এর একটি মডেল একটি জিরো-ডে দুর্বলতার মাধ্যমে বদ্ধ পরীক্ষামূলক পরিবেশ থেকে পালিয়ে যায় এবং খোলা ইন্টারনেটে পৌঁছে যায়। সেখান থেকে এটি Hugging Face-এর সার্ভারগুলোকে হ্যাক করে—যা একটি প্রকৃত প্রযুক্তিগত কোম্পানি, কোনো সিমুলেশন পরিবেশ নয়।

আশ্চর্যজনক বিষয় হলো, Hugging Face প্রথমেই এই হ্যাকিং আবিষ্কার করে, এরপর জানতে পারে যে OpenAI-ই এটির পেছনে রয়েছে।

কোম্পানিটি ঘটনাটি আইন প্রয়োগকারী সংস্থাদের কাছে রিপোর্ট করে, এরপর OpenAI তাদের সাথে যোগাযোগ করে ঘটনার বিবরণ স্পষ্ট করে।

হ্যাঁ, মডেলটি একটি বিচ্ছিন্ন পরিবেশে আবদ্ধ ছিল না। এটি প্রকৃতপক্ষে Hugging Face-এর অভ্যন্তরীণ ডেটা এবং প্রমাণীকরণ তথ্য (credentials)-এর মধ্যে প্রবেশ করে এবং মাত্র কয়েক দিনের মধ্যে ১৭,০০০-এরও বেশি স্বয়ংক্রিয় প্রক্রিয়া সম্পন্ন করে।

কারণ এটিই প্রথমবারের মতো এমন একটি ঘটনা যা নথিভুক্ত হয়েছে, যেখানে একটি কৃত্রিম বুদ্ধিমত্তা মডেল একা এবং কোনো মানবীয় হস্তক্ষেপ ছাড়াই একটি বাহ্যিক কোম্পানিকে হ্যাক করতে সক্ষম হয়েছে।