ওপেনএআই কৃত্রিম বুদ্ধিমত্তার আচরণ ট্র্যাক করার একটি ব্যবস্থা চালু করেছে
কোয়েটের কর্মকর্তারা: ওপেনএআই বুধবার ঘোষণা করেছে যে, এটি কৃত্রিম বুদ্ধিমত্তার (এআই) অপ্রত্যাশিত বা অনুমোদিত আচরণের বিষয়ে নিয়মিত প্রতিবেদন প্রকাশ শুরু করবে। একই সাথে সতর্ক করে দেওয়া হয়েছে যে, সিস্টেমগুলোর ক্ষমতা বৃদ্ধির প্রেক্ষিতে মডেলগুলোকে কাঙ্ক্ষিত লক্ষ্যের সাথে সামঞ্জস্যপূর্ণ করার মূল চ্যালেঞ্জগুলো এখনও সমাধান হয়নি।
কোম্পানিটি এআই মডেলগুলোর অসামঞ্জস্যের ঘটনাগুলো ট্র্যাক করা, অনুসন্ধান করা এবং শনাক্ত করার জন্য একটি নতুন কাঠামো প্রকাশ করেছে, যা সামনের ছয় মাসে মডেলগুলোতে লক্ষ্য করা কিছু অপ্রত্যাশিত বা উদ্বেগজনক আচরণের ছয়টি প্রতিবেদনের পাশাপাশি প্রকাশিত হয়েছে।
প্রাথমিক প্রতিবেদনগুলোতে এমন কিছু ঘটনার বর্ণনা রয়েছে যেখানে মডেলগুলো কাজের সারসংক্ষেপে নিজস্ব নির্দেশনা তৈরি করেছে, ভুলগুলো লুকিয়ে রেখেছে, উদ্ধৃতি দেওয়ার জন্য ইন্টারনেটে ফাইল আপলোড করেছে, এবং অনুমোদন ছাড়াই সহযোগী এআই এজেন্টদের মধ্যে ফাইল শেয়ার করেছে।
ওপেনএআই জানিয়েছে যে, এই প্রতিবেদনগুলো ব্যক্তিগত ঘটনার বর্ণনা করে এবং এগুলোকে মডেলগুলোর মধ্যে অসামঞ্জস্যের ঘটনাগুলোর পুনরাবৃত্তির প্রমাণ হিসেবে গ্রহণ করা উচিত নয়।
এই সিদ্ধান্তটি এমন সময়ে নেওয়া হলো যখন এআই নিরাপত্তা সংক্রান্ত প্রচেষ্টাগুলো আরও শক্তিশালী এবং সক্ষম সিস্টেমগুলোর দ্রুত উন্নয়নের গতিপথ থেকে পিছিয়ে পড়ছে বলে ভাবনা বাড়ছে।
গবেষকরা সতর্ক করেছেন যে, এআই এজেন্ট সিস্টেমগুলোর স্বাধীনতা বাড়ার সাথে সাথে, সেগুলো এমন আচরণ গড়ে তুলতে পারে যা তাদের ডেভেলপারদের উদ্দেশ্য থেকে বিচ্যুত হবে এবং সেগুলো পর্যবেক্ষণ বা নিয়ন্ত্রণ করা কঠিন হয়ে পড়তে পারে।
কোম্পানির নতুন কাঠামোতে এমন একটি প্রক্রিয়া অন্তর্ভুক্ত থাকবে যা কর্মীদের মডেলগুলোর অসামঞ্জস্যের সম্ভাব্য ঘটনাগুলো রিপোর্ট করার সুযোগ দেবে, নিরাপত্তা ও সামঞ্জস্য দলগুলোর অনুসন্ধান প্রক্রিয়া, এবং কোন ঘটনাগুলো সর্বজনীনভাবে প্রকাশের দাবি রাখে তা নির্ধারণের জন্য একটি ব্যবস্থা।
