"ظاهرش لطیف است... اما در اختیارات خطرناک است": کلیدهای زندگی خود را به هوش مصنوعی نسپارید

شرکت‌های فناوری در حال ارائه نمایندگان هوش مصنوعی با چهره‌های کارتونی جذاب و آشنا هستند، اما در پس این ظاهر ساده، خطراتی مرتبط با حجم اختیاراتی نهفته است که کاربران ممکن است به این ابزارها بدهند.

این نمایندگان جدید تنها به پاسخگویی به پرسش‌ها بسنده نمی‌کنند، بلکه می‌توانند وظایف واقعی را به نمایندگی از کاربر انجام دهند؛ مانند مدیریت ایمیل‌ها، پیام‌ها، اسناد و برنامه‌های مختلف. این بدان معناست که هرگونه اختیارات گسترده‌ای که به آن‌ها اعطا شود، می‌تواند دسترسی به داده‌های بسیار حساس را ممکن سازد.

گزارشی فنی که توسط وب‌سایت Engadget منتشر شد، به تجربیات کاربران پرداخته است که متوجه شدند نمایندگان هوش مصنوعی آن‌ها اطلاعاتی را به اشتراک گذاشته یا به داده‌هایی دسترسی یافته‌اند که انتظار دسترسی به آن‌ها را نداشتند؛ هرچند برخی از این موارد به موافقت‌هایی مربوط می‌شود که کاربران بدون توجه کامل به دامنه آن‌ها داده بودند.

مشکل اصلی در گزینه‌هایی مانند «اجازه همیشگی» نهفته است که می‌تواند از یک تسهیل ساده به یک تفویض اختیار گسترده و مستمر تبدیل شود.

به باور این گزارش، ظاهر دوستانه ممکن است حس احتیاط کاربر را کاهش دهد، در حالی که دقیقاً برعکس آن مورد نیاز است: بازبینی دقیق اختیارات، اعطای حداقل دسترسی ممکن و پرهیز از پیوند دادن داده‌های حساس مگر در صورت وجود ضرورت واضح.