আপনার বুদ্ধিমান কর্মী আপনার কোম্পানির গোপনীয়তা ফাঁস করতে পারে... আপনার তথ্য কীভাবে সুরক্ষিত রাখবেন?

কোয়েতের কর্মকর্তারা, স্থান ও সংস্থাগুলোর নাম আন্তর্জাতিকভাবে স্বীকৃত বাংলা বানানে সংরক্ষণ করা হয়েছে।

ব্যবসা ত্বরান্বিত করা এবং দৈনন্দিন কাজগুলো স্বয়ংক্রিয় করার জন্য কোম্পানিগুলো কৃত্রিম বুদ্ধিমত্তা (এআই) এজেন্ট ব্যবহারে ব্যাপকভাবে এগিয়ে যাচ্ছে। তবে এই সিস্টেমগুলোকে ব্যাপক নির্বাহী ক্ষমতা প্রদান করা বৃদ্ধি পাওয়া নিরাপত্তা চিন্তার জন্ম দিচ্ছে, বিশেষ করে যখন এগুলো ইমেইল, নথি, ডেটাবেস এবং অভ্যন্তরীণ অ্যাপ্লিকেশনগুলোর অ্যাক্সেস পেতে পারে।

রুটিন মেশিন লার্নিং বা প্রথাগত সহায়কদের থেকে এআই এজেন্টগুলো আলাদা কারণ এগুলো ক্রমাগত মানব হস্তক্ষেপ ছাড়াই কাজ সম্পন্ন করতে সক্ষম। একটি এজেন্ট বিক্রয় রিপোর্ট তৈরি, ডেটা বিশ্লেষণ এবং অ্যাপ্লিকেশন প্রোগ্রামিং ইন্টারফেস (এপিআই) ও সফটওয়্যার কানেক্টরগুলোর মাধ্যমে ফলাফল স্বয়ংক্রিয়ভাবে পাঠাতে পারে।

ঝুঁকিগুলো তখনই স্পষ্ট হয়ে ওঠে যখন এজেন্টের ক্ষমতা তার নির্ধারিত কাজের প্রয়োজনীয়তা ছাড়িয়ে যায়, যা তাকে ফাইল পরিবর্তন, মুছে ফেলা বা গোপনীয় তথ্য শেয়ার করার সুযোগ দেয়। ওএসিডি (OECD) সংস্থাটি অতিরিক্ত ক্ষমতাসম্পন্ন এজেন্টকে বড় ভাষা মডেল (LLM) অ্যাপ্লিকেশনের সাথে যুক্ত ঝুঁকির মধ্যে শ্রেণীবদ্ধ করেছে, বিশেষ করে যখন এজেন্টকে একাধিক সিস্টেমের সাথে সংযুক্ত করা হয় বা তাকে ব্যাপক প্রশাসনিক ক্ষমতা প্রদান করা হয়।

সবচেয়ে উল্লেখযোগ্য হুমকি হলো ‘ইনস্ট্রাকশন ইনজেকশন’ (Prompt Injection), যেখানে ইমেইল, নথি বা ওয়েব পেজের মধ্যে ক্ষতিকর কমান্ড বসিয়ে দেওয়া হয়। এর উদ্দেশ্য হলো এজেন্টকে তার নির্ধারিত কাজের বাইরে নিয়ে যাওয়া এবং যদি তার ক্ষমতা অনুমতি দেয়, তবে তথ্য বাইরের পক্ষগুলোর কাছে ফাঁস করা। এজেন্টের আউটপুট পর্যালোচনা ছাড়াই অন্য এজেন্টে স্থানান্তরিত হলে ত্রুটিগুলো আরও বাড়তে পারে।

ঝুঁকি কমানোর জন্য বিশেষজ্ঞরা ন্যূনতম ক্ষমতার নীতি প্রয়োগ, পড়ার, পরিবর্তন করার, মুছে ফেলার এবং পাঠানোর ক্ষমতা আলাদা করা, এজেন্টগুলোর জন্য স্বতন্ত্র ডিজিটাল পরিচয় নির্ধারণ এবং সংবেদনশীল প্রক্রিয়াগুলোর জন্য মানবিক অনুমোদন বাধ্যতামূলক করার পরামর্শ দিয়েছেন।

সুরক্ষা ব্যবস্থায় কার্যকলাপের পর্যবেক্ষণ ও লগ সংরক্ষণ, বাহ্যিক যোগাযোগ সীমিত করা, নিয়মিত নিরাপত্তা পরীক্ষা, সংশ্লিষ্ট অ্যাপ্লিকেশনগুলোর পর্যালোচনা এবং অপব্যবহারের সন্দেহ হলে এজেন্টগুলিকে নিষ্ক্রিয় করার ব্যবস্থা অন্তর্ভুক্ত রয়েছে।

এছাড়াও, তথ্যের গোপনীয়তা ও সিস্টেমের নিরাপত্তা লঙ্ঘন না করে উৎপাদনশীলতার লাভ অর্জন নিশ্চিত করতে তদারকির দায়িত্ব নির্ধারণ এবং কর্মীদের প্রশিক্ষণের জন্য স্পষ্ট নীতিমালা প্রয়োজন।