কৃত্রিম বুদ্ধিমত্তা বিদ্রোহী হলে কোম্পানিগুলোর কি বন্ধ করার বোতাম আছে?
কৃত্রিম বুদ্ধিমত্তা (এআই) সিস্টেম যখন কেবল প্রশ্নের উত্তর দেওয়া থেকে সরে গিয়ে প্রায় স্বাধীনভাবে কাজ সম্পন্ন করা, কোড লেখা এবং ডিজিটাল সরঞ্জাম ব্যবহার করতে শুরু করেছে, তখন একটি আরও উদ্বেগজনক প্রশ্ন উঠে আসছে: যদি একটি উন্নত মডেল তার ওপর আরোপিত সীমাবদ্ধতা অতিক্রম করার চেষ্টা করে তবে কী ঘটবে?
‘গাইডলাইন এআই স্ট্যান্ডার্ডস’ নামক সংস্থাটি দ্বারা পরিচালিত একটি নতুন মূল্যায়নে বিশ্বের পাঁচটি শীর্ষস্থানীয় এআই কোম্পানি—ওপেনএআই, অ্যানথ্রোপিক, গুগল, মেটা এবং এক্সএআই—কে অন্তর্ভুক্ত করা হয়েছিল। মূল ফলাফল ছিল যে নিয়ন্ত্রণ ব্যবস্থা বিদ্যমান রয়েছে, তবে তা এখনও আংশিক এবং অসম্পূর্ণ।
রিপোর্টটি কোম্পানিগুলোকে ছয়টি ক্ষেত্রে মূল্যায়ন করেছে, যার মধ্যে রয়েছে মডেলগুলোর কার্যকলাপের রেকর্ড রাখা, সন্দেহজনক আচরণ পর্যবেক্ষণ করা, উচ্চ ঝুঁকিপূর্ণ কাজগুলো প্রতিরোধ করা, সতর্কতা বৃদ্ধি পেলে সিস্টেম বন্ধ করা, স্বাধীন পর্যালোচনা এবং মানব নিয়ন্ত্রণ অতিক্রম করার চেষ্টা করা কোনো মডেলকে নিয়ন্ত্রণে রাখার জন্য একটি পরিকল্পনা তৈরি করা।
এই ক্ষেত্রগুলোর কোনোটিতেই কোনো কোম্পানি ‘সম্পূর্ণ’ মূল্যায়ন পায়নি।
গবেষণাটি এটি নির্দেশ করে না যে কোনো এআই মডেল চলচ্চিত্রের মতো অর্থে ‘বিদ্রোহ’ করেছে। এখানে বোঝানো হচ্ছে এমন একটি পরিস্থিতির জন্য প্রস্তুত থাকা, যেখানে একটি উন্নত সিস্টেম তার আচরণ লুকানোর, তার ক্ষমতার সীমা অতিক্রম করার বা পরীক্ষা বা অভ্যন্তরীণ ব্যবহারের সময় অবাঞ্ছিত কাজ সম্পাদনের চেষ্টা করতে পারে।
সংস্থাটি জোর দিয়ে বলেছে যে তাদের মূল্যায়ন মূলত সর্বজনীনভাবে প্রাপ্য তথ্যের ওপর ভিত্তি করে করা হয়েছে; তাই কিছু কোম্পানির এমন অভ্যন্তরীণ ব্যবস্থা থাকতে পারে যা তারা প্রকাশ করেনি।
