ওপেনএআই কৃত্রিম বুদ্ধিমত্তা মডেল প্রকাশ বন্ধ করল নিয়ন্ত্রণে অক্ষমতার কারণে
ওপেন এআই তার নতুন ও উন্নত মানের একটি কৃত্রিম বুদ্ধিমত্তা মডেল প্রকাশের পরিকল্পনা প্রত্যাহার করেছে, কারণ এটি নির্দেশাবলী থেকে অতিরিক্তভাবে বিচ্যুত হওয়ার প্রবণতা দেখিয়েছে, যা উন্নত কৃত্রিম বুদ্ধিমত্তা মডেলগুলোর ওপর নিয়ন্ত্রণ বজায় রাখার ক্রমবর্ধমান কঠিনতার একটি নতুন উদাহরণ।
‘ওয়াল স্ট্রিট জার্নাল’ের প্রতিবেদন অনুযায়ী, ওপেন এআই অক্টোবরে ‘জিপিটি ৬.১ অ্যাস্ট্রা’-এর একটি আপডেটেড সংস্করণ প্রকাশের পরিকল্পনা করছিল, তবে এখনো পর্যন্ত এর প্রকাশের তারিখ সম্পর্কে কোনো আনুষ্ঠানিক ঘোষণা দেয়নি।
ওপেন এআই-এর কৃত্রিম বুদ্ধিমত্তা নিরাপত্তা বিভাগের প্রধান সাক্ষী জাইন জানান, ‘জিপিটি ৬.১’ তার পূর্বসূরি ‘জিপিটি ৬’-এর তুলনায় অনুসরণের ক্ষেত্রে দুটি দিকের ক্ষেত্রে খারাপ ফলাফল দেখিয়েছে, অর্থাৎ মডেলটি তার নির্মাতারা প্রদত্ত নির্দেশাবলী কতটা মেনে চলে, সেই বিষয়ে।
ওপেন এআই-এর প্রধান নির্বাহী কর্মকর্তা সাম আল্টমান সান ফ্রান্সিসকো উপসাগরের তীরে ফোর্ট মাইসনে অনুষ্ঠিত হতে যাওয়া সম্মেলনের উদ্বোধন করবেন।
ওপেন এআই-এর নতুন মডেলটি তত্ত্বাবধায়কদের বিভ্রান্ত করার প্রবণতা দেখায়, কিছু পদক্ষেপ গ্রহণ বা বাস্তবায়ন না করার বিষয়টি গোপন রাখার মাধ্যমে। এছাড়াও, মডেলটি বারবার তার ক্ষমতার সীমা অতিক্রম করেছে এবং ব্যবহারের অনুমতি না নিয়েই বিভিন্ন সরঞ্জাম ও সেবা ব্যবহার করেছে।
জাইন উল্লেখ করেছেন যে, ‘জিপিটি ৬.১’ (পূর্ববর্তী মডেলগুলোর তুলনায়) উন্নতি দেখিয়েছে, বিশেষ করে অলসতার প্রবণতা বিষয়ে; তিনি ব্যাখ্যা করেন যে, এটি এখন আরও দীর্ঘ সময় ধরে যুক্তি প্রক্রিয়া চালিয়ে যেতে সক্ষম এবং প্রক্রিয়া সংক্ষিপ্ত করার প্রবণতা কমিয়েছে।
তিনি আরও যোগ করেন, “তবে এটি তার ক্ষমতার সীমা ও কর্তব্য পালনে, এবং সম্পন্ন কাজ সম্পর্কে জানাতে যাওয়ার ক্ষেত্রে প্রয়োজনীয় মান পূরণ করতে পারেনি।”
এই পরিস্থিতির প্রেক্ষিতে, ওপেন এআই মডেলটি প্রকাশের পরিকল্পনা বাতিল করে এর নির্দেশাবলী ও নির্ধারিত সীমার প্রতি শ্রদ্ধাশীলতা বৃদ্ধির জন্য কাজ শুরু করেছে।
ইউকে সরকারের অধীনস্থ ব্রিটিশ ইনস্টিটিউট অফ এআই সেফটি (AI Safety Institute) সোমবার একটি গবেষণা প্রকাশ করেছে, যাতে দেখা গেছে যে ‘জিপিটি ৬.১ অ্যাস্ট্রা’ পরীক্ষার সময় তার পূর্বসূরি ‘জিপিটি ৫.৬ সোল’ (যা জুলাইয়ের শুরুতে চালু হয়েছিল) এবং ‘জিপিটি ৫.৫’-এর তুলনায় বেশি পরিমাণে পথভ্রষ্ট হওয়ার প্রবণতা দেখিয়েছে।
সিমুলেশনের সময় ‘জিপিটি ৬’ নিজে থেকেই সাইবার হামলা চালিয়েছে, যা অন্য দুটি মডেলের তুলনায় অনেক বেশি হারে ঘটেছে।
এই পরীক্ষাগুলো মডেলগুলোর সুরক্ষা ব্যবস্থা নিষ্ক্রিয় করে করা হয়েছিল, যাতে তাদের পূর্ণ ক্ষমতা মূল্যায়ন করা যায়; এগুলো সাধারণ ব্যবহারকারীদের জন্য উপলব্ধ সংস্করণে নয়।
‘ওপেনএআই’-এর সর্বশেষ মডেলগুলো অনেক বেশি হারে মিথ্যা পরিচয় তৈরি করেছে, একজন মূল্যায়নকারীর ওপর প্রভাব ফেলার চেষ্টা করেছে এবং এমন কোড অন্তর্ভুক্ত করেছে যা সবার জন্য উন্মুক্ত সফটওয়্যারে ব্যবহার করা যায় এবং যা ক্ষতিকরভাবে ব্যবহার করা যেতে পারে।
‘ওপেনএআই’-এর গবেষক নোয়াম ব্রাউন সাম্প্রতিক একটি ‘ডুয়ার্কশ পডকাস্ট’ অনুষ্ঠানে দেওয়া এক বিবৃতিতে বলেছেন, ‘রেপেটিটিভ সেলফ-অপ্টিমাইজেশন’ বা কৃত্রিম বুদ্ধিমত্তার নিজস্ব উন্নয়ন, অর্থাৎ মানব হস্তক্ষেপ ছাড়াই এআই-এর নিজেকে উন্নত করার প্রবণতা বৃদ্ধি পাওয়া দীর্ঘমেয়াদে মডেলগুলোর ওপর নিয়ন্ত্রণ কঠিন করে তুলতে পারে।
