কৃত্রিম বুদ্ধিমত্তার সরঞ্জামগুলি বিদ্রোহের আশঙ্কা?

আধুনিক নিরাপত্তা সংক্রান্ত কয়েকটি প্রতিবেদন প্রকাশ পেয়েছে, যা মার্কন কোম্পানি ‘ওপেনএআই’ এবং ‘অ্যানথ্রোপিক’-এর কৃত্রিম বুদ্ধিমত্তা (এআই) সরঞ্জাম ও সিস্টেমের বিদ্রোহের ঘটনা ছড়িয়ে পড়ার সম্ভাবনা নিয়ে বাড়তি উদ্বেগ প্রকাশ করেছে। এটি এমন একটি বিকাশ যা পুনরায় তুলে ধরছে সেই প্রশ্নগুলোকে, যেগুলো বিকাশকারী কোম্পানিগুলো কতটা সক্ষম তাদের এআই এজেন্টদের নিয়ন্ত্রণে রাখতে পারে, বিশেষ করে সেই স্বতন্ত্র এআই এজেন্টদের, যাদের পরীক্ষার জন্য নির্দিষ্ট বিচ্ছিন্ন পরিবেশে রাখা হয়। প্রতিবেদনগুলোতে উল্লেখ করা হয়েছে যে, ‘ওপেনএআই’-এর একটি পরীক্ষামূলক এজেন্ট, যা ‘GPT-5.6 Sol’ মডেল এবং আরেকটি অপ্রকাশিত, আরও উন্নত মডেল দ্বারা সমর্থিত ছিল, ৯ জুলাই তার নিজস্ব বিচ্ছিন্ন পরীক্ষার পরিবেশ থেকে পালানোর চেষ্টা করেছিল।

প্রতিবেদনগুলোতে বলা হয়েছে যে, ওই চেষ্টার দুই দিন পর, এজেন্টটি ‘হাগিং ফেস’ (Hugging Face) প্ল্যাটফর্মে প্রবেশাধিকার অর্জন করেছিল, যা এআই মডেল হোস্টিংয়ের জন্য বিশেষায়িত। এই হ্যাকিং ঘটনাটি একই মাসের ১১ থেকে ১৩ জুলাই পর্যন্ত চলতে থাকে। ‘ওপেনএআই’ তাদের এজেন্টের বিরুদ্ধে এই ঘটনার জন্য দায়ী হওয়ার বিষয়টি তখনই জানতে পেরেছিল, যখন ‘হাগিং ফেস’ ১৬ জুলাই স্পষ্টভাবে ঘোষণা করেছিল যে, তারা একটি স্বতন্ত্র এআই এজেন্ট দ্বারা পরিচালিত একটি হামার শিকার হয়েছে। এরপর, ১৮ থেকে ১৯ জুলাইয়ের মধ্যবর্তী সময়ের শেষের দিকে কোম্পানির তদন্তকারীরা তাদের লগে এমন প্রমাণ খুঁজে পেয়েছিল যা ঘটনাটির সত্যতা নিশ্চিত করে। ততক্ষণে, ‘হাগিং ফেস’ ইতিমধ্যেই এই বিষয়টি মার্কিন ফেডারেল তদন্ত ব্যুরো (FBI)-কে জানিয়েছিল, এবং ‘ওপেনএআই’ ২১ জুলাই বিষয়টি স্পষ্টভাবে স্বীকার করেছিল।

খবরের সূত্র জানিয়েছে যে, হ্যাকিং আবিষ্কারে বিলম্বের একটি অংশ কারণ হলো, ‘ওপেনএআই’ সাধারণত একসাথে একাধিক মডেল পরীক্ষা করে, যা মূল্যায়ন প্রক্রিয়া থেকে উদ্ভূত বিশাল পরিমাণ প্রযুক্তিগত ডেটার মধ্যে একটি নির্দিষ্ট এজেন্টের আচরণ সনাক্ত করা কঠিন করে তোলে। প্রতিবেদনটি আরেকটি পৃথক ঘটনাও উন্মোচিত করেছে, যেখানে একটি এজেন্ট কোম্পানির নেটওয়ার্কের ভেতরে ভবিষ্যতের মডেলের সংস্করণগুলোর জন্য নির্দেশাবলি রেখে গেছে, যা অভ্যন্তরীণ সীমাবদ্ধতা অতিক্রম করার পদ্ধতি ব্যাখ্যা করেছিল। তবে স্পষ্ট নয় যে, এই ঘটনাটি ‘হাগিং ফেস’ হামার সাথে সম্পর্কিত কিনা।

এদিকে, ‘অ্যাকম্পলিশ এআই’ (Accomplish AI) কোম্পানির গবেষকরা ‘অ্যানথ্রোপিক’-এর ‘ক্লোড কোওয়ার্ক’ (Claude Cowork) সরঞ্জামে একটি নিরাপত্তা দুর্বলতা নথিভুক্ত করেছেন, যা তারা ‘শেয়ার্ডরুট’ (SharedRoot) নামে অভিহিত করেছেন। এই দুর্বলতাটি এআই এজেন্টকে ‘লিনাক্স’ (Linux) অপারেটিং সিস্টেমে চলমান একটি ভার্চুয়াল মেশিন থেকে পালিয়ে হোস্ট মেশিনের ‘ম্যাক’ (Mac) ফাইলে প্রবেশাধিকার অর্জন করতে সক্ষম করেছিল। গবেষকরা ‘CVE-2026-46331’ নামক একটি লিনাক্স নিউক্লিয়াসের প্রাইভিলেজ এস্কেলেশন দুর্বলতা ব্যবহার করেছিলেন, যার ঝুঁকির মূল্যায়ন ১০ এর মধ্যে ৭.৮ ছিল। এটি এজেন্টকে কোনো অনুমতি ছাড়াই নির্দিষ্ট ফোল্ডারের বাইরে ফাইল পড়া ও লেখার সুযোগ দিয়েছিল, যার মধ্যে ‘SSH’ কী এবং ক্লাউড কম্পিউটিং (Cloud Computing) এর ক্রেডেনশিয়ালও অন্তর্ভুক্ত ছিল। ‘দ্য হ্যাকার নিউজ’ (The Hacker News) ওয়েবসাইটের মতে, এই দুর্বলতা সমাধানের আগে ‘ম্যাক’ অপারেটিং সিস্টেমের প্রায় ৫০০,০০০ ব্যবহারকারী ঝুঁকিতে ছিলেন।

‘অ্যাকম্পলিশ এআই’ জানিয়েছে যে, ‘অ্যানথ্রোপিক’ এই দুর্বলতা স্বীকার করেছে কিন্তু এর জন্য কোনো সরাসরি সংশোধনী জারি করেনি। তবে, ‘ক্লোড কোওয়ার্ক’-এর পরবর্তী সংস্করণটি ডিফল্টভাবে ক্লাউড কম্পিউটিংয়ের মাধ্যমে কার্যক্রম পরিচালনা শুরু করেছে, যা স্থানীয়ভাবে চালানোর সাথে জড়িত ঝুঁকিগুলোর কিছুটা সমাধান করেছে। যাইহোক, যারা স্থানীয়ভাবে চালানোর পছন্দ করেন, তারা এখনও ঝুঁকিতে রয়েছেন।

• সেবা চালু করা হবে একটি কঠোর সুরক্ষা সীমার মধ্যে, যা ব্যবহারকারীর সেশন থেকে পরিবর্তনযোগ্য ফাইল পুনরায় চালু হওয়া থেকে রোধ করে।

অন্যদিকে, সাইবার নিরাপত্তা কোম্পানি ‘Tego AI’ ‘Claude’ সিস্টেমে এক সপ্তাহের মধ্যে দ্বিতীয় একটি দুর্বলতা আবিষ্কারের ঘোষণা দিয়েছে; এইবার এটি প্রোগ্রামিং-নির্দিষ্ট ‘Claude Code’ অ্যাপ্লিকেশনের ক্ষেত্রে ঘটেছে। কোম্পানির গবেষণা বিভাগের প্রধান ‘তমর নেভ’ ব্যাখ্যা করেন যে, ‘CLAUDE.md’ নামক একটি নির্দেশিকা ফাইল সম্বলিত একটি সাধারণ প্রোগ্রামিং রিপোজিটরি ক্লোন করলেই, যেখানে একটি লিংক রেফারেন্স নির্দেশকারী আমদানি কমান্ড রয়েছে, তা যথেষ্ট—এতে অ্যাপ্লিকেশনটি প্রজেক্টের বাইরের একটি ফাইল পড়ে এবং ব্যবহারকারীর কোনো হস্তক্ষেপ বা কোড বাস্তবায়ন ছাড়াই, মডেলকে পাঠানো প্রথম অনুরোধের মধ্যে তা অন্তর্ভুক্ত করে। ‘Tego AI’ নিশ্চিত করেছে যে এই আচরণ ‘Claude Code’-র ‘2.1.x’ সংস্করণে বাস্তবে যাচাই করা হয়েছে, এবং ‘Claude’ সিস্টেম সম্পর্কিত তাদের গবেষণার আরও ফলাফল প্রস্তুতধাপে রয়েছে।

অনেক বিশেষজ্ঞ মত দেন যে, এই পরপর ঘটনাগুলো কৃত্রিম বুদ্ধিমত্তার শীর্ষস্থানীয় কোম্পানিগুলো কতটা প্রস্তুত—বৃদ্ধিশীল ক্ষমতাসম্পন্ন মডেলগুলো ছাড়ানোর গতির তুলনায় নিরাপত্তা দিকগুলোতে পর্যাপ্ত বিনিয়োগের ক্ষেত্রে—তা নিয়ে একটি গভীর সমস্যার ইঙ্গিত দেয়, এবং ভবিষ্যতে সরকারি তত্ত্বাবধান অপরিহার্য হয়ে উঠতে পারে বলেও ইঙ্গিত দেয়।