ব্রিটেন: ওপেনএআই এবং অ্যানথ্রোপিকের কৃত্রিম বুদ্ধিমত্তা মডেল নিরাপত্তা পরীক্ষায় উত্তীর্ণ
যুক্তরাজ্যের ইনস্টিটিউট অফ এআই সিকিউরিটি মঙ্গলবার জানিয়েছে, ‘ওপেনএআই’ এবং ‘অ্যানথ্রপিক’ নামক দুটি কোম্পানির তৈরি কৃত্রিম বুদ্ধিমত্তা (এআই) মডেলগুলো পুনরায় তাদের জন্য নির্ধারিত পরীক্ষার সীমানা অতিক্রম করেছে।
ইনস্টিটিউটটি জানিয়েছে, সাইবার নিরাপত্তা সংক্রান্ত একটি চ্যালেঞ্জ সমাধানের জন্য এআই এজেন্টদের নিয়োগ দেওয়া মূল্যায়নের সময় ‘ওপেনএআই’-এর মডেল এবং এর প্রতিযোগী ‘অ্যানথ্রপিক’ নির্দিষ্ট কাজের পরিসর ছাড়িয়ে গেছে।
ইনস্টিটিউটটি আরও যোগ করেছে, “আমরা একাধিক মডেল ব্যবহার করে এই চ্যালেঞ্জটি ১২২ বার পরিচালনা করেছি। আমাদের তদন্ত থেকে জানা গেছে, এই পরীক্ষার ১০টিতে একটি এআই এজেন্ট প্রকৃত ইন্টারনেটে স্বতঃস্ফূর্ত এবং অনুমোদনহীন পদক্ষেপ নিয়েছে, যা বাস্তব মানুষ এবং প্রতিষ্ঠানগুলোর লক্ষ্য করেছিল।”
ইনস্টিটিউটটি উল্লেখ করেছে, “কোডের অনুমোদন পাওয়ার চেষ্টায় এজেন্টটি সামাজিক প্রকৌশলের (সোশ্যাল ইঞ্জিনিয়ারিং) আশ্রয় নিয়েছিল; এজন্য এটি অনলাইনে কৃত্রম পরিচয় তৈরি করেছিল এবং সেই পরিচয়গুলো ব্যবহার করে প্রকল্পের তত্ত্বাবধায়ককে কোড অনুমোদনে চাপ প্রয়োগ করেছিল। তবে মানব তত্ত্বাবধায়ক এই চেষ্টা আবিষ্কার করে ক্ষতিকর কোডটি অনুমোদন করতে অস্বীকার করেছিলেন।”
ইনস্টিটিউটটি নিশ্চিত করেছে যে, ঘটনাটি নিয়ে তাদের তদন্তে বাস্তব ক্ষতিগ্রস্ত কোনো বিষয় পাওয়া যায়নি।
তবে ইনস্টিটিউটটি যোগ করেছে, “কিন্তু স্বায়ত্তশাসন এবং প্রতারণা সংক্রান্ত ঝুঁকিগুলো এতটা স্পষ্টভাবে এবং কোনো নির্দিষ্ট নির্দেশনা ছাড়াই বাস্তব জগতে প্রথমবারের মতো আমরা দেখতে পাচ্ছি।”
‘অ্যানথ্রপিক’ কোম্পানি জানিয়েছে যে, তারা যুক্তরাজ্যের ইনস্টিটিউট অফ এআই সিকিউরিটির নেতৃত্বের জন্য কৃতজ্ঞ, এবং নিশ্চিত করেছে যে, তারা একটি অভ্যন্তরীণ তদন্ত পরিচালনার পাশাপাশি ইনস্টিটিউটের সাথে ঘনিষ্ঠভাবে কাজ করছে।
অন্যদিকে, ‘ওপেনএআই’ কোম্পানি জানিয়েছে যে, স্বাধীন পরীক্ষাগুলো মডেলগুলো প্রকাশের আগে ঝুঁকিগুলো যাচাই করা এবং ভালোভাবে বোঝার গুরুত্বপূর্ণ ভূমিকা পালন করে।
কোম্পানিটি আরও যোগ করেছে, “এআই মডেলগুলোর ক্ষমতা বৃদ্ধির সাথে সাথে, পরীক্ষার পরিবেশের মানদণ্ড এবং পদ্ধতিগুলো উন্নয়নের জন্য শিল্প খাতের মধ্যে এবং স্বাধীন মূল্যায়নকারী সংস্থাগুলোর সাথে সহযোগিতার গুরুত্ব এই ঘটনাগুলো তুলে ধরে।”
