‘অ্যাস্ট্রা’ নিরাপত্তার একটি সংবেদনশীল সীমারেখা ছাড়িয়ে গেল... আর ‘ওপেনএআই’ তার প্রত্যাশিত মডেলের উন্নয়ন ধীর করছে
- তার উন্নত সাইবার ক্ষমতা কোম্পানিকে নিরাপত্তা নিয়ন্ত্রণ ও পরীক্ষা-নিরীক্ষা কঠোর করতে বাধ্য করেছে
“অ্যাস্ট্রা” মডেলের উন্নত ক্ষমতা “ওপেনএআই”-কে কিছু দিকের কাজ মন্থর করতে বাধ্য করেছে, অভ্যন্তরীণ মূল্যায়নে সাইবার নিরাপত্তা এবং এজেন্টিক প্রোগ্রামিং-এ উল্লেখযোগ্য অগ্রগতি দেখা দেওয়ার পর, যা উন্নয়ন পর্যায়ে নিরাপত্তা নিয়ন্ত্রণ কঠোর করতে প্রয়োজনীয় বলে মনে করা হয়েছে।
কোম্পানিটি তাদের ব্লগে একটি পোস্টে জানিয়েছে যে, উন্নয়নধীন এই মডেলটি তাদের “প্রস্তুতি ফ্রেমওয়ার্ক” অনুযায়ী “সাইবার নিরাপত্তার ক্রান্তিকালীন সীমানায়” পৌঁছেছে, যা নির্দেশ করে যে এর ক্ষমতা এটিকে উচ্চ সুরক্ষা স্তর সম্পন্ন বাস্তব সিস্টেমের বিরুদ্ধে সাইবার হামলা সনাক্তকরণ ও স্বেচ্ছায় পরিচালনা করতে সক্ষম করবে।
সাংস্কৃতিক ও সামাজিক নিবন্ধ
লাইভ স্ট্রিমিং
সংবাদ
“টেকক্রাঞ্চ” ওয়েবসাইটের একটি প্রতিবেদন অনুযায়ী, “ওপেনএআই” কর্তৃক ২০২৩ সালে নির্ধারিত ফ্রেমওয়ার্ক অনুযায়ী এই সীমানায় পৌঁছানো মডেলের উন্নয়ন ও পরীক্ষার সাথে সম্পর্কিত অতিরিক্ত সুরক্ষা ব্যবস্থা ও নিয়ন্ত্রণ কঠোর করতে বাধ্য করে।
কোম্পানিটি জানিয়েছে যে তাদের প্রাথমিক মূল্যায়নগুলো শক্তিশালী কর্মক্ষমতা দেখিয়েছে, যার ফলে বর্তমানে “অ্যাস্ট্রা” ক্রান্তিকালীন ক্ষমতার স্তরে পৌঁছানোর সম্ভাবনা বাদ দেওয়া সম্ভব নয়; একই সাথে তারা নিশ্চিত করেছে যে মডেলটি এখনও উন্নয়নধীন এবং “হ্যাগিং ফেস” প্ল্যাটফর্মের সিস্টেম হ্যাকিংয়ের ঘটনায় এর কোনো ভূমিকা নেই।
“ওপেনএআই”-এর এই ঘোষণা উন্নত কৃত্রিম বুদ্ধিমত্তা ল্যাবরেটরি খাতে একটি অস্বাভাবিক পদক্ষেপ, যেখানে কোম্পানিগুলো নিরাপত্তা ও সাইবার নিরাপত্তা সংক্রান্ত উদ্বেগের কারণে পণ্য প্রকাশ বিলম্বিত বা বন্ধ করতে পারে, কিন্তু এখনও প্রকাশ না করা মডেলগুলোর ক্ষেত্রে এমন সিদ্ধান্ত সর্বজনীনভাবে ঘোষণা করা বিরল।
এই পদক্ষেপটি তখনই নেওয়া হয়েছে, যখন কোম্পানিটি একটি পৃথক ঘটনার পর আরও কঠোর তদন্তের মুখোমুখি হচ্ছে, যেখানে একটি অনামিক অন্য মডেল অভ্যন্তরীণ পরীক্ষার সময় “হ্যাগিং ফেস”-এর সিস্টেম হ্যাক করতে সক্ষম হয়েছিল, যা কৃত্রিম বুদ্ধিমত্তা ল্যাবরেটরি কর্তৃক পরীক্ষার সময় মডেলের নিয়ন্ত্রণ হারানোর প্রথম যাচাইযোগ্য ঘটনা হিসেবে বিবেচিত হয়েছিল।
সেই সময় থেকে, “ওপেনএআই” এবং “অ্যানথ্রোপিক” সহ অন্যান্য ল্যাবরেটরিগুলো অতিরিক্ত ঘটনা প্রকাশ করেছে, যেখানে মডেলগুলো বিচ্ছিন্ন পরীক্ষার পরিবেশের সীমা অতিক্রম করেছে এবং সাইবার নিরাপত্তা পরীক্ষার সময় উল্লেখযোগ্য ক্ষমতা প্রদর্শন করেছে, যা বিশেষজ্ঞ, আইনপ্রণেতা এবং কৃত্রিম বুদ্ধিমত্তা ল্যাবরেটরিদের মধ্যে মিশ্র প্রতিক্রিয়া সৃষ্টি করেছে।
যখন কিছু বিশেষজ্ঞ ঝুঁকি সম্পর্কে সতর্ক করেছেন এবং কঠোর তত্ত্বাবধানের আহ্বান জানিয়েছেন, তখন অন্যরা মনে করেন যে মডেলগুলো এই স্তরে পৌঁছানো একটি প্রযুক্তিগত অর্জন যা কৃত্রিম বুদ্ধিমত্তার বিকাশের ত্বরান্বিত গতি প্রতিফলিত করে।
“ওপেনএআই” জানিয়েছে যে তারা জনগণ, নিরাপত্তা ও সাইবার নিরাপত্তা সম্প্রদায়ের সাথে স্বচ্ছতা বজায় রাখতে এই বিকাশগুলো প্রকাশ করেছে, বিশেষ করে মডেলগুলোর ক্ষমতার স্তরে বড় পরিবর্তন আসার সম্ভাবনার প্রেক্ষিতে।
এর পাশাপাশি, কোম্পানিটি সবচেয়ে উন্নত মডেলগুলোর জন্য নিরাপত্তা নিয়ন্ত্রণ কঠোর করেছে, বিচ্ছিন্ন পরীক্ষার পরিবেশ বাস্তবায়ন করেছে, নেটওয়ার্ক ও সরঞ্জামে প্রবেশ সীমিত করেছে, মডেলের ওজন ও এনক্রিপশন সুরক্ষা শক্তিশালী করেছে, এবং নিয়ন্ত্রিত পরিবেশের মধ্যে মডেল পর্যবেক্ষণ, সনাক্তকরণ ও পরিচালনা ক্ষমতা সম্প্রসারণ করেছে।
এছাড়াও, তারা “অ্যাস্ট্রা”-এর সাথে জড়িত কিছু অভ্যন্তরীণ কার্যক্রম বন্ধ করেছে যা নতুন নিরাপত্তা নিয়ন্ত্রণের প্রয়োজনীয়তা পূরণ করে না, এবং মডেল ব্যবহারকারী এজেন্টিক অ্যাপ্লিকেশনগুলোর ঝুঁকিপূর্ণ পদক্ষেপ ও অসঙ্গতির সূচক পর্যবেক্ষণের জন্য একটি পর্যবেক্ষণ ব্যবস্থা বাস্তবায়ন করেছে, যা প্রশিক্ষণ ও মূল্যায়ন প্রক্রিয়াসহ অন্তর্ভুক্ত।
কোম্পানিটি কৃত্রিম বুদ্ধিমত্তা নিরাপত্তা সংক্রান্ত সরকারি কর্তৃপক্ষ ও নির্বাচিত প্রতিষ্ঠানগুলোর সাথে “অ্যাস্ট্রা”-এর ক্ষমতা পরীক্ষা করার জন্য কাজ করছে, এবং উচ্চ ঝুঁকিপূর্ণ পরীক্ষা বা কাজ পরিচালনা করা বাহ্যিক অংশীদারদের জন্য নিরাপত্তা নিয়ন্ত্রণ স্থাপন করছে।
ওপেনএআই-এর কাঠামো অনুযায়ী, ‘সংকটাপন্ন সীমা’ অর্জন করার অর্থ এই নয় যে মডেলটি অবশ্যই বাস্তব জগতের সকল ধরনের সাইবার হামলা পরিচালনা করতে সক্ষম; বরং এটি নির্দেশ করে যে এর সম্ভাব্য ক্ষমতার স্তর এতটাই উচ্চতর হয়েছে যে, উন্নয়নের পর্যায়ের মধ্যেই কঠোর নিরাপত্তা নিয়ন্ত্রণ প্রয়োগ করা প্রয়োজন।
