ওপেনএআই-এর স্মার্ট টুলস দ্বারা পরিচালিত ‘নিয়ন্ত্রণের বাইরে’ একটি সাইবার হামলার বিষয়টি উন্মোচন

ওপেন এআই, যা চ্যাটজিপিটির উন্নয়নকারী, ঘোষণা করেছে যে এর উন্নত কৃত্রিম বুদ্ধিমত্তা মডেলগুলো নিরাপত্তা পরীক্ষার সময় অপ্রত্যাশিত এবং নিয়ন্ত্রণের বাইরে আচরণ করেছে, এবং স্বেচ্ছায় একটি জনপ্রিয় প্রোগ্রামার প্ল্যাটফর্মকে হ্যাক করেছে।

সান ফ্রান্সিসকো কেন্দ্রিক এই কোম্পানি ঘটনাটিকে একটি ‘অনন্য সাইবার ইভেন্ট’ হিসেবে বর্ণনা করেছে এবং হ্যাকিংয়ের শিকার হওয়া অনলাইন সফটওয়্যার রিপোজিটরি ‘হাগিং ফেস’-এর সাথে যৌথভাবে তদন্ত চালানোর ঘোষণা দিয়েছে। ওপেন এআই জানিয়েছে যে ঘটনাটি কয়েকটি মডেলকে জড়িত করেছে, যার মধ্যে সাম্প্রতিকভাবে চালু করা ‘জিপিটি-৫.৬ সোল’ এবং আরেকটি ‘অধিক ক্ষমতাসম্পন্ন’ মডেল রয়েছে, যা এখনও উন্নয়নের ধাপে রয়েছে।

কোম্পানিটি একটি কঠোর নিয়ন্ত্রিত ডিজিটাল পরীক্ষার পরিবেশের মধ্যে মডেলগুলোকে কাজ অর্পণ করে তাদের হ্যাকিং ক্ষমতা মূল্যায়ন করার চেষ্টা করছিল, যেখানে নিরাপত্তার কারণে ইন্টারনেট অ্যাক্সেস সীমাবদ্ধ ছিল। ওপেন এআই একটি ব্লগ পোস্টে ঘটনার বিস্তারিত ব্যাখ্যা দিয়ে জানিয়েছে, “আমাদের পরীক্ষার পরিবেশে কাজ করার সময়, আমাদের মডেলগুলো মূল্যায়নের প্রশ্ন সমাধান করার লক্ষ্যে ইন্টারনেটে অসীমিত অ্যাক্সেস পাওয়ার উপায় খুঁজে পেতে উল্লেখযোগ্য পরিমাণে (কম্পিউটেশনাল ক্ষমতা) ব্যবহার করেছে।”

ইন্টারনেটে সংযুক্ত হওয়ার পর, মডেলগুলো ‘হাগিং ফেস’ প্ল্যাটফর্মকে লক্ষ্য করে, যা কৃত্রিম বুদ্ধিমত্তা মডেল, ডেটাসেট এবং অন্যান্য তথ্যের একটি বিশাল রিপোজিটরি, যাতে এটি তার মিশন সম্পন্ন করতে পারে। মূল্যায়ন পরীক্ষা থেকে বেঁচে থাকার অবৈধ উপায় খুঁজে পেতে সাহায্য করতে পারে এমন ‘গোপন তথ্য’ খুঁজে পাওয়ার প্রচেষ্টায়, ওপেন এআইয়ের সিস্টেম ‘একাধিক আক্রমণের পথকে সংযুক্ত করেছে, যার মধ্যে চুরি করা শংসাপত্র ব্যবহার অন্তর্ভুক্ত ছিল।