গুগল ডিপ মাইন্ডের প্রধান কৃত্রিম বুদ্ধিমত্তার 'বড় নিরাপত্তা ঝুঁকি' নিয়ে সতর্ক করছেন

গুগলের মালিকানাধীন ‘ডিপ মাইন্ড’ কোম্পানির বোর্ডের চেয়ারম্যান ডেমিস হ্যাসাবিস সতর্ক করে বলেছেন, আগামী দুই বছরের মধ্যে কৃত্রিম বুদ্ধিমত্তা (এআই) সিস্টেম ‘বড় ধরনের’ নিরাপত্তা দুর্ঘটনা ঘটাতে পারে, যদি এর ক্ষমতা বিকশিত হতে থাকার সময় এর নিরাপত্তা নিশ্চিত করতে পর্যাপ্ত পদক্ষেপ না নেওয়া হয়। ডাবলিনে আয়োজিত একটি কৃত্রিম বুদ্ধিমত্তা সম্মেলনে তিনি কথা বলতে গিয়ে সাম্প্রতিক দুর্ঘটনাগুলোকে ‘সতর্কতামূলক প্রথম সতর্কবার্তা’ হিসেবে বর্ণনা করেছেন, যা এমন সিস্টেম থেকে এসেছে যা ‘এখনও এতটা শক্তিশালী নয়’। তিনি বলেছেন, ‘সুতরাং এই দুর্ঘটনাগুলো এখনও এতটা বড় নয়’, কিন্তু সতর্ক করে বলেছেন যে, ‘আগামী বছর বা দুই বছরের মধ্যে এগুলো বড় হয়ে উঠতে পারে, যদি আমরা পুরো খাতের স্তরে, অথবা প্রতিটি কোম্পানি ও সরকারের পৃথক স্তরে এই সিস্টেমগুলোর নিরাপত্তা নিশ্চিত করতে আরও বেশি প্রচেষ্টা না করি’। ‘ওপেনএআই’ এবং ‘অ্যানথ্রোপিক’ কর্তৃক উন্নীত মডেলগুলো পরীক্ষার ধাপে নিরাপত্তা দুর্ঘটনায় জড়িত হওয়ার পর কৃত্রিম বুদ্ধিমত্তার নিরাপত্তা নিয়ে উদ্বেগ বাড়তে থাকে, যা এই প্রযুক্তিকে নিয়ন্ত্রণের আহ্বানকে আরও তীব্র করেছে। হ্যাসাবিস বলেছেন যে, অন্যান্য কোম্পানি দ্বারা উন্নীত মডেলগুলো তাদের ক্ষমতা মূল্যায়নের জন্য ব্যবহৃত বদ্ধ পরিবেশ থেকে বেরিয়ে আসার পর, নতুন এআই মডেলগুলোকে প্রথমে নেটওয়ার্ক-বিচ্ছিন্ন ‘আইসোলেটেড এনভায়রনমেন্ট’ বা ‘স্যান্ডবক্স’-এ পরীক্ষা করা প্রয়োজন হতে পারে। ইউরোপীয় ইউনিয়নের প্রযুক্তি বিষয়ক কর্মকর্তা হেইনা ভেরকোনিন বলেছেন যে, এআই কোম্পানিগুলোকে তাদের সিস্টেমগুলোর নিয়ন্ত্রণ বজায় রাখতে নিশ্চিত করার জন্য আরও বেশি সময় বরাদ্দ করতে হবে। ভেরকোনিন বলেছেন, ‘কোম্পানিগুলোকে এই সিস্টেমগুলোর উপর নিয়ন্ত্রণ বজায় রাখতে সক্ষম হতে হবে’, এবং উল্লেখ করেছেন যে, ইউরোপীয় ইউনিয়ন কৃত্রিম বুদ্ধিমত্তা খাতে কাজ করা প্রতিটি বড় কোম্পানির কাছ থেকে তাদের প্রয়োগকৃত নিরাপত্তা ও নিরাপত্তা ব্যবস্থা সম্পর্কে তথ্য জানতে তথ্যের অনুরোধ পাঠিয়েছে।