آپ کا ذہین ملازم آپ کی کمپنی کے رازوں کو لوٹ سکتا ہے.. اپنے ڈیٹا کی حفاظت کیسے کریں؟

کمپنیاں مصنوعی ذہانت کے ایجنٹس کا استعمال بڑھا رہی ہیں تاکہ کاروبار کو تیز کیا جا سکے اور روزمرہ کے کاموں کو خودکار بنایا جا سکے، لیکن ان نظاموں کو وسیع انتظامی اختیارات دینے سے بڑھتی ہوئی سیکیورٹی کی تشویش پیدا ہو رہی ہے، خاص طور پر اس بات کی وجہ سے کہ یہ ای میل، دستاویزات، ڈیٹا بیسز اور اندرونی ایپلیکیشنز تک رسائی حاصل کر سکتے ہیں۔

ایجنٹس روایتی معاونین سے اس لحاظ سے مختلف ہیں کہ وہ مسلسل انسانی مداخلت کے بغیر اقدامات انجام دے سکتے ہیں؛ ایک ایجنٹ سیلز رپورٹس تیار کر سکتا ہے، ڈیٹا کا تجزیہ کر سکتا ہے، اور نتائج کو خودکار طور پر پروگرامنگ انٹرفیسز (APIs) اور کنیکٹرز کے ذریعے بھیج سکتا ہے۔

خطرات اس وقت ابھرتے ہیں جب ایجنٹ کے اختیارات اس کے کام کی ضروریات سے تجاوز کر جائیں، جس سے اسے فائلز میں ترمیم کرنے، انہیں حذف کرنے یا خفیہ معلومات شیئر کرنے کی اجازت مل جاتی ہے۔

آئی ایس او (ISO) تنظیم ایجنسی کے غیر ضروری یا زیادہ اختیارات کو بڑے زبان کے ماڈلز (LLMs) سے جڑی خطرات کی فہرست میں درج کرتی ہے، خاص طورجب ایجنٹ کو متعدد نظاموں سے جوڑا جاتا ہے یا اسے وسیع انتظامی اختیارات دیے جاتے ہیں۔

سب سے نمایاں دھمکیوں میں سے ایک 'انجیکشن آف انسٹرکشنز' (Instruction Injection) ہے، جہاں ای میلز، دستاویزات یا ویب پیجز کے اندر خرابہ احکامات درج کیے جاتے ہیں، جس کا مقصد ایجنٹ کو اس کے کام سے ہٹا کر بیرونی ذرائع کے ساتھ ڈیٹا لیک کرنے پر مجبور کرنا ہے، اگر اس کے اختیارات اس کی اجازت دیتے ہوں۔ اگر ایک ایجنٹ کے آؤٹ پٹ بغیر جائزے کے دوسرے ایجنٹ کو منتقل ہو جائیں تو غلطیاں مزید بڑھ سکتی ہیں۔

خطرات کو کم کرنے کے لیے، ماہرین کم سے کم اختیارات کے اصول کو لاگو کرنے، پڑھنے، ترمیم، حذف اور بھیجنے کے اختیارات کو الگ کرنے، ایجنٹس کے لیے آزادانہ ڈیجیٹل شناختیں مختص کرنے، اور حساس کارروائیوں کے لیے انسانی منظوری کو لازمی قرار دینے کی سفارش کرتے ہیں۔

حفاظتی اقدامات میں سرگرمیوں کی نگرانی اور لاگنگ، بیرونی رابطوں کو محدود کرنا، باقاعدہ سیکیورٹی ٹیسٹنگ، منسلک ایپلیکیشنز کا جائزہ لینا، اور غلط استعمال کی شک کی صورت میں ایجنٹس کو غیر فعال کرنے کے طریقہ کار فراہم کرنا شامل ہیں۔

اس کے علاوہ، نگرانی کی ذمہ داریوں کی وضاحت اور ملازمین کی تربیت کے لیے واضح پالیسیوں کی ضرورت ہوتی ہے، تاکہ پیداواری صلاحیت میں اضافہ یقینی بنایا جا سکے بغیر معلومات کی خفیہیت اور نظاموں کی سالمیت کو نقصان پہنچائے۔