الگوریتمها: وقتی حافظه دیجیتال به تهدیدی برای حریم خصوصی تبدیل میشود!
در سال ۲۰۱۱، سریال بریتانیایی «آینه سیاه» (Black Mirror) پخش خود را آغاز کرد که به خاطر ارائه داستانهای مستقلی که پیامدهای اجتماعی و روانی فناوری بر زندگی انسان را پیشبینی میکردند، شهرت یافت.
از میان مشهورترین قسمتهای آن، «تمام تاریخچه تو» (The Entire History of You) است که در دسامبر ۲۰۱۱ پخش شد و حول آیندهای میچرخد که در آن انسانها فناوریای دارند که امکان ضبط هر آنچه میبینند و میشنوند را فراهم میکند و سپس امکان پخش مجدد خاطراتشان به صورت صوتی و تصویری را در هر زمان که بخواهند، میدهد.
در آن جهان، انسان دیگر مجبور نیست به حافظه خود تکیه کند و لحظات شانس واقعی برای ناپدید شدن ندارند. میتوان به یک گفتگوی قدیمی بازگشت، یک موقعیت گذرا را دوباره تماشا کرد، یا در بیان چهره یا کلمهای که سالها پیش گفته شده، دقیقتر شد. با تبدیل شدن حافظه به یک سوابق دیجیتال دائمی، فناوری به تدریج از یک ابزار برای حفظ تجربه انسانی به ابزاری تبدیل میشود که میتواند روابط را بازتعریف کند، رفتارها را نظارت کند و آنچه انسان میتوانست فراموش کند یا از آن بگذرد را آشکار سازد.
امروز و پس از حدود ۱۵ سال، به نظر میرسد که این ایده دیگر کاملاً از واقعیت دور نیست، هرچند فناوری مسیری متفاوت از آنچه سریال تصور کرده بود طی کرده است. انسان امروز لزوماً دستگاهی را که هر آنچه را میبیند ضبط میکند، به تن خود ندارد، اما به طور فزایندهای با سیستمهای هوش مصنوعی تعامل دارد که میتوانند زمینهای از تعاملات او را حفظ کنند، اطلاعات قبلی درباره او را به خاطر بسپارند، جزئیات پراکنده از گفتگوهایش را به هم پیوند دهند و از آنها برای ساخت تجربهای شخصیتر استفاده کنند.
و از اینجا داستان جدید حریم خصوصی دیجیتال آغاز میشود، زیرا نسل جدید سیستمهای هوش مصنوعی نه تنها برای اینکه پاسخدهندههای توانمندتری باشند، بلکه برای اینکه کاربران را بهتر بشناسند، به خاطر بسپارند و درک کنند، با یکدیگر رقابت میکنند. هرچه این توانایی بیشتر شود، سوال از مرزهای دادههایی که سیستمها جمعآوری میکنند، به مرزهای دانشی که میتوانند درباره انسان بسازند، تغییر مییابد.
این مهمترین تحول است: در عصر اینترنت، نگرانی حول دادههایی بود که ما در پشت سر به جا میگذاریم. اما در عصر هوش مصنوعی، نگرانی میتواند حول تصویری باشد که ماشین میتواند از این دادهها بسازد.
یک اطلاعات واحد ممکن است چیز زیادی آشکار نکند، اما دهها گفتگوی انباشته شده میتوانند الگوها، علایق، ترجیحات و رفتارها را آشکار سازند. آنچه کاربر در زمینههای جداگانه میگوید، میتواند - وقتی توسط یک برنامه از سیستمهای هوش مصنوعی در یک زمینه واحد جمعآوری شود - به تصویری کاملتر از او تبدیل شود که او در اصل قصد آشکار کردن آن را داشته است.
و از این رو «حافظه مصنوعی» اهمیت خود را کسب میکند، زیرا مشکل این نیست که فناوری فقط میتواند آنچه گفتهایم را به خاطر بسپارد، بلکه این است که میتواند آنچه گفتهایم را به هم پیوند دهد، از آن استنتاج کند و شاید چیزهایی درباره ما بداند که ما به صراحت نگفتهایم.
با رقابت شرکتهای هوش مصنوعی برای توسعه دستیارانی که حافظه طولانیتر، زمینه گستردهتر و توانایی شخصیسازی بیشتری دارند، جبهه جدیدی در نبرد حریم خصوصی دیجیتال برجسته میشود: چه کسی مالک حافظهای است که درباره انسان ساخته میشود؟ و سیستم چه چیزی را حق دارد نگه دارد؟ و آیا حقوق حریم خصوصی به استنتاجاتی که الگوریتمها استخراج میکنند، نه فقط به دادههایی که کاربر خود ارائه داده است، نیز تعمیم مییابد؟
از این منظر، مسئله از دنیایی که «همه چیز را به خاطر میسپارد» همانطور که «آینه سیاه» تصور کرد، به دنیایی از هوش مصنوعی که کاربر را به خاطر میسپارد، منتقل میشود. ما با تحولی عمیقتر روبرو هستیم: از حافظه دیجیتالی که گذشته را حفظ میکند به حافظه مصنوعی که از گذشته انسان دانشی درباره او میسازد.
