ডিপ মাইন্ডের প্রধান সতর্ক করছেন: কৃত্রিম বুদ্ধিমত্তার কারণে দুই বছরের মধ্যে বড় নিরাপত্তা ঝুঁকি দেখা দিতে পারে
ডিপ মাইন্ডের প্রধান কৃত্রিম বুদ্ধিমত্তার ঝুঁকি নিয়ে সতর্ক করছেন, যখন ইউরোপ কঠোর নিয়ন্ত্রণের পক্ষে সমর্থন জানাচ্ছে
কিয়াসের অনুবাদ, উৎস: الجريدة — মূল উৎস
গুগলের মালিকানাধীন ‘ডিপ মাইন্ড’ কোম্পানির বোর্ডের চেয়ারম্যান দিমিস হাসাবিস বুধবার সতর্ক করে বলেছেন, কৃত্রিম বুদ্ধিমত্তা (এআই) সিস্টেম আগামী দুই বছরের মধ্যে ‘বড়’ নিরাপত্তা দুর্ঘটনা ঘটাতে পারে, যদি এর ক্ষমতা বৃদ্ধির সাথে সাথে এর নিরাপত্তা নিশ্চিত করতে পর্যাপ্ত পদক্ষেপ না নেওয়া হয়।
ডাবলিনে আয়োজিত একটি এআই সম্মেলনে তার ভাষণে হাসাবিস সাম্প্রতিক দুর্ঘটনাগুলোকে ‘সতর্কতামূলক প্রথম সতর্কবার্তা’ হিসেবে বর্ণনা করেছেন, যা এমন সিস্টেম থেকে আসছে যা এখনও ‘এতটা শক্তিশালী নয়’।
তিনি বলেছেন, “সুতরাং এই দুর্ঘটনাগুলো এখনও এতটা গুরুত্বপূর্ণ নয়।” তবে তিনি সতর্ক করে বলেছেন, “যদি আমরা সারা শিল্পখাত, প্রতিটি কোম্পানি এবং সরকারগুলো আলাদাভাবে এই সিস্টেমগুলোর নিরাপত্তা নিশ্চিত করতে আরও বেশি প্রচেষ্টা না করি, তবে আগামী বছর বা আগামী দুই বছরের মধ্যে এই দুর্ঘটনাগুলো গুরুতর হয়ে উঠতে পারে।”
‘ওপেনএআই’ এবং ‘অ্যানথ্রপিক’ কর্তৃক উন্নীত মডেলগুলো পরীক্ষার ধাপে নিরাপত্তা দুর্ঘটনায় জড়িত হওয়ার পর কৃত্রিম বুদ্ধিমত্তার নিরাপত্তা নিয়ে উদ্বেগ বাড়ছে, যা এই প্রযুক্তিকে নিয়ন্ত্রণের আহ্বানকে আরও তীব্র করেছে।
হাসাবিস বলেছেন যে, অন্য কোম্পানিগুলো দ্বারা উন্নীত কিছু মডেল তাদের ক্ষমতা মূল্যায়নের জন্য ব্যবহৃত বদ্ধ পরিবেশ থেকে বেরিয়ে আসতে সক্ষম হয়েছে, তাই নতুন এআই মডেলগুলো প্রথমে নেটওয়ার্ক-মুক্ত ‘আইসোলেশন এনভায়রনমেন্ট’ বা ‘স্যান্ডবক্স’-এ পরীক্ষা করা প্রয়োজন হতে পারে।
ইউরোপীয় ইউনিয়নের প্রযুক্তি বিষয়ক কর্মকর্তা হিনা ভেরকোনিন বলেছেন যে, এআই কোম্পানিগুলোকে তাদের সিস্টেমগুলোর নিয়ন্ত্রণ বজায় রাখতে নিশ্চিত করতে আরও বেশি সময় বরাদ্দ করে পরীক্ষা-নিরীক্ষা চালানোর প্রয়োজন।
ডাবলিন সম্মেলনে পৌঁছানোর সময় সাংবাদিকদের সাথে কথা বলতে গিয়ে ভেরকোনিন বলেছেন, “বিশ্বব্যাপী প্রতিযোগিতা অত্যন্ত তীব্র, এবং মনে হচ্ছে সকল কোম্পানিই তাদের মডেলগুলোকে কার্যকরভাবে পরীক্ষা করার জন্য পর্যাপ্ত সময় ও সম্পদ বরাদ্দ করছে না।”
তিনি আরও যোগ করেন, “কোম্পানিগুলোকে এই ব্যবস্থাগুলোর ওপর নিয়ন্ত্রণ রাখতে সক্ষম হতে হবে।” তিনি উল্লেখ করেন যে, ইউরোপীয় ইউনিয়ন কৃত্রিম বুদ্ধিমত্তা খাতে কাজরত প্রধান প্রতিটি কোম্পানির কাছে নিরাপত্তা ও নিরাপত্তা ব্যবস্থা সম্পর্কে তথ্য সংগ্রহের জন্য অনুরোধ পাঠিয়েছে। আগস্ট মাসে কৃত্রিম বুদ্ধিমত্তা আইনের আওতায় ইউরোপীয় কমিশন নতুন নিয়ন্ত্রণ ক্ষমতা লাভ করে, যা এই প্রযুক্তির ঝুঁকিপূর্ণ ব্যবহার সীমিত করার জন্য বিশ্বের সবচেয়ে বিস্তৃত নিয়ন্ত্রণ কাঠামো হিসেবে বিবেচিত হয়।
