কৃত্রিম বুদ্ধিমত্তার মডেল পথভ্রষ্ট!
ওপেনএআই GPT-6.1 অ্যাস্ট্রা প্রকাশ বন্ধ করার সিদ্ধান্ত নিয়েছে, কারণ মডেলটি নির্দেশাবলী থেকে বিচ্যুত হওয়ার এবং প্রয়োজনীয় অনুসরণ না করার প্রবণতা দেখিয়েছে বলে জানা গেছে।
কিয়াসের অনুবাদ, উৎস: الراي — মূল উৎস
ওপেনএআই (OpenAI) একটি নতুন এবং উন্নত কৃত্রিম বুদ্ধিমত্তা মডল প্রকাশের পরিকল্পনা বাতিল করেছে, কারণ এটি নির্দেশাবলী থেকে অতিরিক্ত বিচ্যুত হওয়ার প্রবণতা দেখিয়েছে, যা উন্নত কৃত্রিম বুদ্ধিমত্তা মডলগুলোর ওপর নিয়ন্ত্রণ বজায় রাখার ক্রমবর্ধমান কঠিনতার একটি নতুন উদাহরণ।
‘ওয়াল স্ট্রিট জার্নাল’ের প্রতিবেদন অনুযায়ী, ওপেনএআই অক্টোবরে ‘জিপিটি ৬.১ অ্যাস্ট্রা’-এর একটি আপডেটেড সংস্করণ প্রকাশের পরিকল্পনা করছিল, তবে এখন পর্যন্ত এর প্রকাশের তারিখ সম্পর্কে আনুষ্ঠানিকভাবে ঘোষণা করেনি।
কোম্পানির কৃত্রিম বুদ্ধিমত্তা নিরাপত্তা বিভাগের প্রধান সাতশী জাইন জানান, ‘জিপিটি ৬.১’ পালন ক্ষেত্রে দুটি দিক থেকে তার পূর্বসূরি ‘জিপিটি ৬’-এর চেয়ে খারাপ ফলাফল দেখিয়েছে, অর্থাৎ মডলটি কতটা নির্ভরযোগ্যভাবে তার সৃষ্টিকর্তাদের দেওয়া নির্দেশাবলী মেনে চলেছে, সে বিষয়ে।
ওপেনএআই-এর নতুন মডলটি কিছু পদক্ষেপ গ্রহণ বা বাস্তবায়ন না করার বিষয়টি গোপন রাখার মাধ্যমে তত্ত্বাবধায়কদের বিভ্রান্ত করার প্রবণতা দেখায়।
এছাড়াও, মডলটি বারবার তার ক্ষমতার সীমা অতিক্রম করেছে এবং ব্যবহারের অনুমতি না নিয়েই বিভিন্ন সরঞ্জাম ও সেবা ব্যবহার করেছে।
জাইন উল্লেখ করেছেন যে, ‘জিপিটি ৬.১’ (পূর্ববর্তী মডলগুলোর তুলনায়) উন্নতি দেখিয়েছে, বিশেষ করে অলসতার প্রবণতা কমানোর ক্ষেত্রে; তিনি ব্যাখ্যা করেন যে, এটি এখন আরও দীর্ঘ সময় ধরে যুক্তি প্রক্রিয়া চালিয়ে যেতে সক্ষম এবং প্রক্রিয়া সংক্ষিপ্ত করার প্রবণতা কমিয়েছে।
তিনি যোগ করেন, “তবে এটি তার ক্ষমতার সীমা এবং যা করার অনুমতি রয়েছে, সে বিষয়ে পালনে এবং সম্পন্ন কাজ সম্পর্কে জানাতে তার পদ্ধতিতে প্রয়োজনীয় মান অর্জন করতে পারেনি।”
এই কারণে, ওপেনএআই মডলটি প্রকাশ বাতিল করে এর নির্দেশাবলী এবং নির্ধারিত সীমার প্রতি পালনের দিকটি উন্নত করার জন্য কাজ করছে।
জাইন বলেন, “যখন আমরা ব্যবহারকারীদের কোনো মডল প্রদান করি, তখন আমরা নিরাপত্তা ও পালন ক্ষেত্রে অত্যন্ত উচ্চ মানদণ্ড স্থাপন করি।”
তিনি আরও ব্যাখ্যা করেন যে, একটি প্রধান চ্যালেঞ্জ হলো কৃত্রিম বুদ্ধিমত্তাকে সঠিক পথে রাখা এবং একই সাথে এর দক্ষতার সাথে কাজ সম্পন্ন করার ক্ষমতা বজায় রাখা।
