«اسیلومار»: هوش مصنوعی

بیش از پنجاه سال پیش، به‌طور دقیق در زمستان سال ۱۹۷۵، حدود پانصد نفر از برجسته‌ترین دانشمندان زیست‌شناسی در شهر ساحلی «آسیلومار» در ایالت کالیفرنیا ایالات متحده آمریکا گرد هم آمدند تا تجربه‌ای را رقم بزنند که امروزه بیشتر شبیه به افسانه است تا واقعیت؛ آن‌ها دریافتند که در آستانه انقلابی ایستاده‌اند که مفاهیم پزشکی، کشاورزی و صنعت را برای همیشه دگرگون خواهد کرد. آن‌ها کشف کردند که می‌توانند ژن‌ها را همانند برش و چسباندن کاغذ، قطع و وصل کنند. شگفت‌انگیز آنکه آن‌ها داوطلبانه و پیش از آنکه کسی آن‌ها را مجبور کند، تحقیقات خود را متوقف کردند و بر سر اصولی توافق نمودند که مهندسی ژنتیک را برای نیم قرن هدایت کرد. بسیاری ممکن است ندانند که این صحنه با هوش مصنوعی نیز تکرار شد؛ در زمستان سال ۲۰۱۷، در همان شهر، مؤسسه «مستقبل زندگی» بیش از صد پژوهشگر و متفکر را گرد هم آورد و آن‌ها با بیست و سه اصل بیرون آمدند که هزاران نفر آن‌ها را امضا کردند؛ یکی از این اصول صراحتاً توسعه‌دهندگان را به همکاری و پرهیز از رقابت تشویق می‌کرد تا استانداردهای ایمنی قربانی نشوند. اما فاصله این دو گردهمایی بسیار است؛ نخستین گردهمایی قواعد الزام‌آوری تولید کرد که در آزمایشگاه‌ها اجرا شد، در حالی که دومین گردهمایی اصولی داوطلبانه برای الگوریتم‌ها بدون هیچ ابزار اجرایی به وجود آورد. تنها پس از نه سال، رقابتی که آن اصول از آن هشدار داده بودند، شعله‌ور شد و فراخوان‌ها پی در پی آمدند؛ آخرین مورد زمانی بود که جک کلارک، یکی از بنیان‌گذاران شرکت «انثروپیک»، در مقابل دوربین «بی‌بی‌سی» ایستاد و جمله‌ای کوتاه گفت: «صنعت هوش مصنوعی پدال گاز دارد، اما پدال ترمز ندارد.» جالب اینجاست که آقای کلارک از بیرون خودرو صحبت نمی‌کند، بلکه از صندلی راننده سخن می‌گوید؛ و وقتی خود راننده به شما می‌گوید که خودرو ترمز ندارد، حکم ایجاب می‌کند که گوش دهید، اما به چه بهایی؟ بی‌شک داستان به اینجا ختم نمی‌شود؛ تضادهایی وجود دارد که ما باید به آن‌ها توجه کنیم؛ کسی که امروز خواهان نصب ترمز است، همان کسی است که با حداکثر سرعت فرمان را در دست دارد، زیرا بزرگ‌ترین شرکت‌های هوش مصنوعی در حال آماده‌سازی برای ورود به بازارهای جهانی با ارزیابی نزدیک به یک تریلیون دلار هستند، در میانه‌ی یک رقابت دیوانه‌وار. تاریخ اقتصادی به ما می‌آموزد که شرکت‌های بزرگ نادرستاً زمانی به تنظیم مقررات صنعت خود درخواست می‌دهند که این تنظیمات به نفعشان باشد، بنابراین میدان را برای کسانی که اصلاً خواهان قواعد بودند، انحصاری نگه می‌دارند. ما دیدیم که چگونه پلتفرم‌های شبکه‌های اجتماعی، از طریق الگوریتم‌های خود و استفاده از داده‌های میلیون‌ها کاربر بدون آگاهی آن‌ها، افکار عمومی را شکل دادند؛ حتی موارد مستندی ثبت شده است از نوجوانانی که خودکشی کردند یا پس از گفتگوهای طولانی با ربات‌های هوش مصنوعی که برای مدیریت بحران‌های روانی برنامه‌ریزی نشده بودند، اقدام به خودکشی نمودند. این‌ها خطاهای گذرای فناوری‌های امیدوارکننده نیستند، بلکه الگویی تکرارشونده‌اند که به ما یادآوری می‌کنند وقتی الگوریتمی بدون حاکمیت رها شود، در زمین فساد می‌آفریند و خاموشی آن، دردناک‌تر از سروصدای ماشین‌هاست. ما این سطرها را در حالی می‌نویسیم که در حال تبادل دیدگاه و ایده با رهبران فکری و سیاست‌گذاران از سراسر جهان در چهارمین فوروم جهانی یونسکو درباره اخلاق هوش مصنوعی ۲۰۲۶ هستیم. در ریاض، خواهر بزرگ، رهبران جهان در حال ترسیم مرزهای «حاکمیت الگوریتمی» هستند و شاید در مقاله‌ای آینده، درس‌ها و تجربیات مشترک را خلاصه کنیم، و چه بسیارند آن‌ها. ای بزرگواران، ما با یک خودرو در جاده روبرو نیستیم، بلکه با یک مسابقه مواجهیم. و وقتی سرنشین صدرنشین کسی است که حدود سرعت را پیشنهاد می‌دهد، حق ما است که بپرسیم: آیا او می‌خواهد از جاده محافظت کند، یا می‌خواهد رانندگان را مرتب کند تا از سبقت اطمینان حاصل نماید؟ قواعد واقعی جاده تنها توسط رقابت‌کنندگان نوشته نمی‌شود، بلکه پیش از وقوع حادثه و نه پس از آن تدوین می‌گردد و همه در آن مشارکت دارند: دانشمندان، دولت‌ها، جامعه، رقبا، کوچک و بزرگ، و حتی عابرانی که انتخاب نکرده‌اند در کنار جاده باشند. تنها در آن زمان است که می‌توانیم بگوییم «آسیلومار» هوش مصنوعی را ساخته‌ایم. دکتر ضاری عادل الحویل