آیا هوش مصنوعی تکلیف امانتداری دارد؟
باستفحال انتشار هوش مصنوعی، بحثها درباره بهترین روش برای تنظیمگری آن در حال افزایش است. سام آلتمن پیشنهاد ایجاد یک نهاد بینالمللی مشابه آژانس بینالمللی انرژی اتمی را مطرح میکند، دیمیس هاسابیس مدل نهادهای تنظیمگر مالی را ترجیح میدهد، و داریو آمودی معتقد است که نظارت باید شبیه مکانیسمهای گواهینامههای هوانوردی باشد.
همه این پیشنهادات از یک ایده مشترک سرچشمه میگیرند: نهادهای دولتی بیشتر و بوروکراسی بیشتر. اما گلین رینولدز، استاد حقوق، رویکردی کاملاً متفاوت ارائه میدهد: اجازه دهید حقوق عمومی و دادگاهها این کار را انجام دهند.
این ایده پس از خودکشی نوجوان آمریکایی سیویل سیترز در سال ۲۰۲۴ پس از یک رابطه مجازی با یک ربات گفتگو، فوریتر شده است. این پرونده پرسشهایی را درباره این موضوع ایجاد کرد که آیا خروجیهای هوش مصنوعی صرفاً «بیان» هستند که توسط آزادی بیان محافظت میشوند، یا اینکه مسئولیت قانونی دارند وقتی مستقیماً بر زندگی کاربران تأثیر میگذارند.
این پرونده با توافق از سوی گوگل به پایان رسید، که حساسیت ریسکهای قانونی را که شرکتهای هوش مصنوعی با آن مواجه هستند، نشان داد.
رینولدز معتقد است که راه حل در اعمال «تعهد امانی» (Fiduciary Duty) بر سیستمهای هوش مصنوعی است، یعنی تعهدی قانونی که آنها را ملزم میکند به نفع کاربر عمل کنند، نه به نفع شرکت توسعهدهنده.
این ایده با گسترش استفاده از هوش مصنوعی در ارائه مشاورههای عملی مهمتر میشود. مطالعات اخیر نشان دادهاند که بیش از نیمی از بزرگسالان در ایالات متحده و بریتانیا قبلاً از سیستمهای هوش مصنوعی مشاوره مالی گرفتهاند، و تحقیقات دانشگاه استنفورد نشان دادهاند که مدلهای زبانی تمایل دارند کاربران را بیشتر از حد معمول تعریف کنند و راضی نگه دارند، زیرا برای تقویت تعامل طراحی شدهاند، نه برای ارائه بهترین مشاوره ممکن.
نگرانی فقط به کیفیت مشاورهها محدود نمیشود، بلکه به منافع تجاری شرکتهای توسعهدهنده نیز گسترش مییابد. اتهاماتی وجود دارد که برخی شرکتها از دادههای مشتریان و مالکیت فکری آنها برای توسعه مدلهای خود استفاده میکنند، و حتی به مشتریان خود از طریق خدمات تخصصی مانند Claude Legal و Claude Security رقابت میکنند، که سوالاتی را درباره تضاد منافع ایجاد میکند.
رینولدز معتقد است که اعمال تعهد امانی ممکن است نیازی به قانونگذاری جدید نداشته باشد، زیرا میتواند تدریجاً از طریق احکام دادگاهها توسعه یابد، همانطور که با بسیاری از قواعد حقوق عمومی اتفاق افتاده است. اگر یک دادگاه ببیند که یک شرکت هوش مصنوعی مشاورههایی ارائه داده که منافع تجاری خود را بر منافع کاربر ترجیح داده است، ممکن است این را به عنوان نقض تعهد امانی در نظر بگیرد، که میتواند سوابقی ایجاد کند که کل صنعت را بازتعریف کند.
در واقع، این نبردهای قضایی آغاز شدهاند. اوپنایآی با دادخواستهایی مواجه شده که آن را به ارائه مشاوره حقوقی و پزشکی بدون مجوز متهم میکنند، که نشان میدهد قضات در حال برخورد با هوش مصنوعی به عنوان چیزی فراتر از یک موتور جستجو یا پلتفرم محتوا هستند.
من از گسترش دعاوی قضایی حمایت نمیکنم، اما معتقدم که شرکتهایی مانند اوپنایآی، انتروپیک، گوگل، ایکسایآی و متا، و حتی مدلهای چینی باز، ممکن است به زودی عملاً تحت تعهد امانی که توسط قضات تحمیل میشود قرار گیرند. اگر این شرکتها شروع به عمل بر اساس این اصل نکنند، ممکن است ارزشهای بازار عظیم آنها هدف موجی از دعاوی قانونی قرار گیرد، که ممکن است تأثیر آن از آنچه شرکتهای تنباکو در دهه ۱۹۹۰ با آن مواجه شدند، بیشتر باشد.
