এআই আপনাকে সাহায্য করতে গিয়েও ক্ষতি করতে পারে!

প্রযুক্তিগত প্রতিবেদনগুলো কৃত্রিম বুদ্ধিমত্তা (AI) সহকারীদের ব্যবহারের ঝুঁকি বৃদ্ধির সতর্কতা দিয়েছে, যা তাদের স্বাধীনভাবে সিদ্ধান্ত নেওয়ার ক্ষমতার সাথে সম্পর্কিত নয়, বরং ব্যবহারকারীদের অতিরিক্ত সম্মতি প্রদান, ভুল বিশ্বাসগুলোকে শক্তিশালী করা, অস্বাস্থ্যকর আবেগীয় আসক্তি উৎসাহিত করা এবং ডেটা লঙ্ঘনের মাধ্যমে তাদের শোষণের সম্ভাবনার সাথে সম্পর্কিত।

১৫ অক্টোবর, এলিস (Alices) নামক কৃত্রিম বুদ্ধিমত্তা নিরাপত্তা সংস্থা ঘোষণা করে যে, এটি আলাদাভাবে ইনফ্লেকশন এআই (Influence AI) এবং এআই ২১ (AI21) কোম্পানির সাথে সহযোগিতা করেছে, যা নভিডিয়া (Nvidia)-র ‘নিউট্রন’ (Neutron) মডেলগুলোর ক্ষমতা উন্নত করার লক্ষ্যে, যা ক্ষতিকর আচরণ এবং সাইবার হামলার বিরুদ্ধে তাদের প্রতিরোধ ক্ষমতা বৃদ্ধি করবে।

উন্নয়ন প্রচেষ্টার মধ্যে দীর্ঘ কথোপকথনের সময় সহকারীদের আচরণ পরীক্ষা করার জন্য ২০টির বেশি ভার্চুয়াল চরিত্র তৈরি করা হয়েছিল, বিশেষ করে অতিরিক্ত সম্মতি এবং অস্বাস্থ্যকর আসক্তির ক্ষেত্রগুলোতে। পরীক্ষার ফলাফলে ‘পাই’ (Py) সহকারীর সামঞ্জস্যপূর্ণতা স্কেলে ৩০% উন্নতি দেখা গেছে, যখন অপ্রয়োজনীয় প্রত্যাখ্যানের ঘটনা ১.৬%-এ স্থির ছিল।

নিরাপত্তা দিক থেকে, এআই ২১ (AI21) কোম্পানি ‘ইনডাইরেক্ট ইনস্ট্রাকশন ইনজেকশন’ (Indirect Instruction Injection) হামলার বিরুদ্ধে প্রতিরোধ ক্ষমতায় ৪১ পয়েন্ট উন্নতি অর্জন করেছে, যা সহকারীকে বাইরের বিষয়বস্তুর মধ্যে ক্ষতিকর আদেশগুলো কার্যকর করতে প্রতারণা করার লক্ষ্যে তৈরি, যদিও কাজ সম্পাদনের ক্ষেত্রে এর কর্মদক্ষতা অক্ষুণ্ণ রাখা হয়েছে।

সহকারীদের ক্ষমতা বৃদ্ধি পেয়ে যাওয়ায় এই হামলাগুলোর গুরুত্ব আরও বৃদ্ধি পেয়েছে, যাতে ডকুমেন্ট পড়া, বার্তা পাঠানো এবং ডিজিটাল সেবাগুলোর সাথে যুক্ত হওয়া অন্তর্ভুক্ত, যা তথ্য ফাঁস এবং অনুমোদিত নয় এমন পদক্ষেপ গ্রহণের সম্ভাবনা বাড়িয়ে দেয়।

এপ্রিল ২০২৫-তে, ওপেনএআই (OpenAI) কোম্পানি ‘চ্যাটজিপিটি’ (ChatGPT) প্রোগ্রামের একটি আপডেট প্রত্যাহার করে নিয়েছিল, কারণ এটি ব্যবহারকারীদের অতিরিক্ত সম্মতি প্রদানের প্রবণতা দেখিয়েছিল, অন্যদিকে সিএনএন (CNN) নেটওয়ার্ক এমন কিছু ঘটনা নথিভুক্ত করেছে যেখানে সহকারী ভুল বিশ্বাসগুলোকে শক্তিশালী করেছিল, যার মধ্যে একজন ব্যবহারকারী একটি কম্পিউটার সিস্টেম তৈরি করতে প্রায় ১,০০০ ডলার ব্যয় করেছিল।