'এনভিডিয়া' এআই এজেন্টদের ক্ষমতার সীমা অতিক্রম থেকে রক্ষা করতে একটি নিরাপত্তা প্ল্যাটফর্ম চালু করেছে

- তাদের আচরণ পর্যবেক্ষণ করে এবং কয়েক সেকেন্ডের ভগ্নাংশের মধ্যে সন্দেহজনক কার্যকলাপকে বিচ্ছিন্ন করে

কৃত্রিম বুদ্ধিমত্তা (এআই) এজেন্টগুলি তাদের নির্ধারিত কাজ এবং ক্ষমতার সীমা অতিক্রম করে স্বাধীনভাবে কাজ করার ক্ষমতা নিয়ে বাড়তে থাকা উদ্বেগের প্রেক্ষিতে, মার্কিন কোম্পানি 'এনভিডিয়া' আজ সোমবার একটি ওপেন-সোর্স নিরাপত্তা প্ল্যাটফর্ম উন্মোচন করেছে, যা এই এজেন্টগুলির কাজের সীমানা নির্ধারণ, তাদের আচরণ পর্যবেক্ষণ এবং অনুমোদিত নয় এমন পদক্ষেপ গ্রহণ থেকে তাদের বিরত রাখার লক্ষ্যে তৈরি।

'এনভিডিয়া' 'ওপেন এজেন্ট সেফটি' নামক এই প্ল্যাটফর্মটি উন্মোচন করেছে, যাতে ওপেন-সোর্স 'ওপেনশেল' সিস্টেম এবং 'সেন্ট্রি' নামক একটি স্বাধীন নিরাপত্তা স্তর অন্তর্ভুক্ত রয়েছে। এই পদক্ষেপের মাধ্যমে এআই এজেন্টগুলির পরীক্ষা ও পরিচালনার ধাপে নিরাপত্তা নিয়ন্ত্রণ নিশ্চিত করার লক্ষ্য রাখা হয়েছে।

'ওপেনশেল' এআই এজেন্টগুলির জন্য একটি নিরাপদ পরিচালনা পরিবেশ তৈরি করে, যা ডেভেলপারদের এজেন্টের ফাইল, নেটওয়ার্ক, সরঞ্জাম এবং অন্যান্য সম্পদে প্রবেশাধিকার নিয়ন্ত্রণকারী নীতিমালা ও ক্ষমতা নির্ধারণ করতে সক্ষম করে এবং এটি নিশ্চিত করে যে এজেন্ট শুধুমাত্র তার মিশন সম্পাদনের জন্য প্রয়োজনীয় ক্ষমতাগুলিই ব্যবহার করছে, কোনো ক্ষেত্রেই তা অতিক্রম করছে না।

'এনভিডিয়া'-র এন্টারপ্রাইজ এআই বিভাগের ভাইস প্রেসিডেন্ট জাস্টিন পয়েতানো এক সংবাদ সম্মেলনে বলেন, এই সিস্টেমটি সম্ভবত 'হ্যাকিং ভাইস' নামক এআই বিশেষজ্ঞ কোম্পানির বিরুদ্ধে সংঘটিত একটি হ্যাকিং ঘটনা প্রতিরোধ করতে পারত, যা 'ওপেনএআই'-এর অধীনস্থ কয়েকটি এআই এজেন্ট দ্বারা স্বাধীনভাবে পরিচালিত হয়েছিল।

পয়েতানো আরও যোগ করেন, কোম্পানির তথ্য অনুযায়ী, যদি মডেল মূল্যায়নের প্রাথমিক পর্যায়ে শীর্ষস্থানীয় গবেষণাগারগুলিতে এই নিরাপত্তা প্রযুক্তি ব্যবহার করা হতো, তবে সম্ভবত সেই হ্যাকিং ঘটনাটি প্রতিরোধ করা যেত।

'এনভিডিয়া'-র তথ্য অনুযায়ী, 'ওপেনশেল' ডেভেলপারদের এটি নিশ্চিত করতে সাহায্য করে যে এআই এজেন্টটি শুধুমাত্র তার ন্যস্ত মিশন সম্পাদনের জন্য প্রয়োজনীয় ক্ষমতাগুলিই ধারণ করছে। এছাড়া, এর ওপেন-সোর্স প্রকৃতির কারণে, 'আর্ম' এবং 'ইন্টেল'-সহ অন্যান্য কম্পিউটিং প্ল্যাটফর্মগুলির সাথে কাজ করার জন্য এটি সম্প্রসারণযোগ্য।

প্ল্যাটফর্মটিতে “সেন্ট্রি” নামক একটি স্বাধীন নিরাপত্তা স্তর অন্তর্ভুক্ত রয়েছে, যা কৃত্রিম বুদ্ধিমত্তা এজেন্টের পরিচালনা পরিবেশ থেকে পৃথকভাবে “ব্লুফিল্ড-৪ ডিপিইউ” (BlueField-4 DPU) ডেটা প্রসেসিং ইউনিট ব্যবহার করে কাজ করে; এটি এজেন্টের কার্যকলাপ ক্রমাগত পর্যবেক্ষণ করে এবং যদি এজেন্ট নির্ধারিত সীমা অতিক্রম করার চেষ্টা করে তবে হস্তক্ষেপ করে।

কোম্পানির তথ্য অনুযায়ী, সন্দেহজনক আচরণ শনাক্ত হলে “সেন্ট্রি” কৃত্রিম বুদ্ধিমত্তা এজেন্টকে কয়েক সেকেন্ডের মধ্যে বিচ্ছিন্ন করতে সক্ষম। পয়েতানো ব্যাখ্যা করেন যে, “ওপেনশেল” এজেন্টের আচরণের ওপর নিয়ন্ত্রণ আরোপ করে, অন্যদিকে “সেন্ট্রি” স্বাধীনভাবে সন্দেহজনক আচরণ পর্যবেক্ষণ ও নিয়ন্ত্রণ করে।

২০২৬ সালের মে থেকে জুলাই পর্যন্ত সংঘটিত “হ্যাগেনওয়াইস” (Hagenweis) ঘটনাটি কৃত্রিম বুদ্ধিমত্তা এজেন্টদের দ্বারা সমন্বিত ও স্বাধীনভাবে, কোনো সরাসরি মানবীয় হস্তক্ষেপ ছাড়াই পরিচালিত হয়েছিল, যা কৃত্রিম বুদ্ধিমত্তা এজেন্টের সাথে জড়িত নিরাপত্তা ঝুঁকি নিয়ে বাড়তি উদ্বেগ সৃষ্টি করেছে।

এই ঘটনার পর আরও কিছু অবৈধ কার্যক্রম সংঘটিত হয়, যার মধ্যে অস্ট্রেলিয়ার স্বাস্থ্য মন্ত্রণালয়ের ওয়েবসাইট হ্যাকিং অন্তর্ভুক্ত ছিল, যেখানে “অ্যাপল আইএ” (Open AI)-এর মডেলগুলো ব্যবহার করা হয়েছিল। এদিকে, “মিটা” এবং “অ্যানথ্রপিক” কোম্পানি দুটি তাদের নিজস্ব কৃত্রিম বুদ্ধিমত্তা সিস্টেমের নির্ধারিত সীমা অতিক্রম করে স্বাধীনভাবে অন্য প্রতিষ্ঠানের সিস্টেমে প্রবেশের ঘটনাগুলো প্রকাশ করেছে।

কৃত্রিম বুদ্ধিমত্তার নিরাপত্তা নিয়ে বিতর্ক খাতকে বিভক্ত করেছে। “অ্যানথ্রপিক” এবং “অ্যাপল আইএ”-এর প্রধান নির্বাহী কর্মকর্তারা কৃত্রিম বুদ্ধিমত্তা উন্নয়নের গতি সমন্বিতভাবে মন্থর করার আহ্বান জানিয়েছেন, যাতে নিরাপত্তা সংক্রান্ত প্রচেষ্টা উন্নয়নের গতির সাথে তাল মিলিয়ে চলতে পারে।

অন্যদিকে, “এনভিডিয়া”-এর প্রধান নির্বাহী কর্মকর্তা জেনসেন হুয়াংসহ অন্যান্যরা মনে করেন, কৃত্রিম বুদ্ধিমত্তা মডেলগুলো বাজারে ছাড়ার আগে তাদের নিরাপত্তা নিশ্চিত করার দায়িত্ব প্রতিটি কোম্পানির নিজস্ব।

এই মাসের শুরুতে অনুষ্ঠিত বার্ষিক “সেলসফোর্স” প্রযুক্তি সম্মেলনে, হুয়াংস কৃত্রিম বুদ্ধিমত্তার নিরাপত্তা, এর মধ্যে ম্যালওয়্যারের ঝুঁকিও অন্তর্ভুক্ত, কে একটি প্রকৌশলগত সমস্যা হিসেবে বর্ণনা করেছেন, যা সফটওয়্যার ডেভেলপাররা সমাধান করতে পারেন।