خطرناک‌ترین ویژگی هوش مصنوعی... این است که تو را متقاعد کند که حق با توست

شاید هوش مصنوعی در حال تغییر شیوه تصمیم‌گیری ما باشد، از طریق پرسشی بسیار ساده: آیا من اشتباه می‌کنم؟ این پرسش را پس از یک اختلاف نظر یا یک تصمیم حرفه‌ای می‌نویسیم. روایت خود را بیان می‌کنیم و پاسخ به سرعت، منظم و متقاعدکننده ارائه می‌شود. احساس می‌کنیم تصویر شفاف‌تر شده و موضع ما منطقی‌تر به نظر می‌رسد. در این نقطه، هوش مصنوعی نقش متفاوتی ایفا می‌کند؛ ممکن است از آن برای جستجوی حقیقت استفاده کنیم، در حالی که در اعماق وجودمان به دنبال پاسخی هستیم که ما را به تصمیم پیشینمان آرام کند. تصمیم خوب به اطلاعات نیاز دارد، اما به شک نیز نیازمند است. نیازمند کسی است که درباره جزئیات غایب بپرسد، احتمال مورد نظری را مطرح کند که به آن فکر نکرده‌ایم و به ما بگوید که روایت ما ممکن است ناقص باشد. گاهی بهترین خدمتی که دیگری به ما می‌کند، برهم زدن یقین ماست. و اینجا روانشناسی سایبری با اقتصاد رفتاری تلاقی می‌یابد. انسان تمایل به سوگیری تأییدی دارد؛ به دنبال اطلاعاتی می‌گردد که با افکارش همسو باشد و به آن‌ها وزن بیشتری می‌دهد وقتی که موضعش را تأیید می‌کنند. با هوش مصنوعی، فرآیند جستجوی تأیید سریع‌تر و راحت‌تر شده است. می‌توانید گفتگو را ادامه دهید تا به فرمول‌بندیی برسید که احساس کنید تصمیمتان از سوی منطقی منسجم پشتیبانی می‌شود. خطرناک‌ترین کاری که هوش مصنوعی می‌تواند با تصمیم شما انجام دهد، این است که به سوگیری شما زبانی عقلانی می‌بخشد. کارمندی را تصور کنید که پس از اختلاف با مدیرش به خانه بازمی‌گردد. آنچه رخ داده را از دیدگاه خود برای هوش مصنوعی تعریف می‌کند و سپس از او می‌خواهد موقعیت را ارزیابی کند. تحلیلی منظم و توصیه‌هایی برای پاسخ دریافت می‌کند. ممکن است مفید باشند، اما اگر جزئیاتی وجود داشته باشد که او ذکر نکرده است چه؟ اگر هیجان او نحوه روایتش را تغییر داده باشد چه؟ و اگر از گفتگو با یقین بیشتری نسبت به تصمیم استعفا خارج شود چه؟ مشکل اینجا هوش ماشین نیست، بلکه نحوه استفاده از آن است. هوش مصنوعی می‌تواند ابزار عالی برای آزمایش تصمیم باشد: چه استدلال‌هایی علیه من است؟ چه اطلاعاتی کم دارم؟ بدترین احتمال چیست؟ با ورود هوش مصنوعی به تصمیمات خرید، سرمایه‌گذاری، کار و روابط، هرچه اعتماد به پاسخ بیشتر شود، توانایی آن در تأثیرگذاری بر رفتار نیز افزایش می‌یابد. و گفتگو ممکن است از فضایی برای کاوش گزینه‌ها به یک اتاق پژواک شخصی تبدیل شود، جایی که انسان افکار خود را می‌شنود که با نظم و اعتماد بیشتری به او بازگشته‌اند. حتی در روابط، ماشین ممکن است به مشاور دائمی تبدیل شود. ما اختلاف را برای او تعریف می‌کنیم و او به ما کمک می‌کند احساساتمان را تفسیر کنیم و موضعمان را فرمول‌بندی نماییم. و با تکرار مراجعه به آن، ممکن است انسانی که با ما اختلاف نظر دارد، کمتر راحت به نظر برسد نسبت به ماشینی که می‌داند چگونه به ما پاسخ دهد. اینجا ارزش تفاوت‌های انسانی دوباره آشکار می‌شود. دوستی که می‌پرسد، شریکی که اعتراض می‌کند و همکاریش که در ارزیابی ما تردید دارد، به تصمیم چیزی ارزشمند اضافه می‌کنند: احتمال اینکه ما اشتباه کنیم. در عصر پاسخ‌های فوری، مهارت صبر کردن ممکن است ارزشمندتر از سرعت رسیدن به پاسخ شود. بنابراین، پیش از آنکه از هوش مصنوعی بپرسیم: آیا تصمیمم درست است؟ شاید شایسته باشد پرسشی دشوارتر بپرسیم: چه چیزی ممکن است باعث شود من اشتباه کنم؟ ماشین می‌تواند در اتخاذ تصمیم به ما کمک کند، اما کیفیت تصمیم از پرسشی آغاز می‌شود که انتخاب می‌کنیم از او بپرسیم.