এনভিডিয়া এআই এজেন্টদের তাদের সীমা অতিক্রম করলে তা নিয়ন্ত্রণের জন্য একটি প্ল্যাটফর্ম চালু করেছে

এনভিডিয়া একটি খোলা উৎসের নিরাপত্তা প্ল্যাটফর্ম চালু করেছে, যা কৃত্রিম বুদ্ধিমত্তা এজেন্টদের ওপর সরাসরি নিয়ন্ত্রণ আরোপ এবং তাদের ক্ষমতার সীমা লঙ্ঘনের চেষ্টা করলে দ্রুত তাদের বিচ্ছিন্ন বা কার্যত নিষ্ক্রিয় করার লক্ষ্যে তৈরি। এই পদক্ষেপটি নেওয়া হয়েছে সেই প্রেক্ষাপটে, যেখানে সংবেদনশীল কাজ সম্পাদনের জন্য এই ব্যবস্থাগুলো প্রায় স্বাধীনভাবে ব্যবহারের প্রবণতা বাড়ছে।

প্ল্যাটফর্মটির নাম ‘এনভিডিয়া ওপেন এজেন্ট সেফটি প্ল্যাটফর্ম’ এবং এটি মূলত ‘ওপেন শেল’ নামক একটি খোলা উৎসের সফটওয়্যার এবং ‘সেন্ট্রি’ নামক একটি রেফারেন্স সিস্টেম নিয়ে গঠিত। ‘ওপেন শেল’ এজেন্টের কার্যকলাপ পর্যবেক্ষণ করে এবং রানটাইমে নীতিমালা প্রয়োগ করে, অন্যদিকে ‘সেন্ট্রি’ হার্ডওয়্যার স্তরে স্বতন্ত্র পর্যবেক্ষণ ব্যবহার করে এবং নির্ধারিত সীমা অতিক্রম করলে কয়েক সেকেন্ডের ভগ্নাংশ সময়ের মধ্যে এজেন্টকে বিচ্ছিন্ন বা কার্যত নিষ্ক্রিয় করতে সক্ষম।

এনভিডিয়া জানিয়েছে যে, এই সিস্টেমের উন্নয়ন বা ব্যবহারে ১০০-এর বেশি প্রতিষ্ঠান অংশ নিচ্ছে, যার মধ্যে রয়েছে অ্যানথ্রোপিক, মাইক্রোসফট, সিলসফোর্স, জেপি মর্গান চেজ, হাগিং ফেস এবং স্পেস.এক্স.এআই। এছাড়াও, ‘ওপেন শেল’কে আর্ম এবং ইন্টেলের মতো অন্যান্য কোম্পানির কম্পিউটিং প্ল্যাটফর্মের সাথে সম্প্রসারণ করে ব্যবহার করা সম্ভব।

কোম্পানিটি মনে করে যে, এজেন্ট নিরাপত্তার জন্য সফটওয়্যার এবং হার্ডওয়্যার—উভয় স্তরেই নিয়ন্ত্রণ প্রয়োজন, শুধুমাত্র অ্যাপ্লিকেশনের ভেতরে প্রয়োগকৃত সীমাবদ্ধতার ওপর নির্ভর করা যথেষ্ট নয়।