اخلاقیات در پناه الگوریتمها

سازمانهای بینالمللی بر لزوم حفاظت از حقوق کودکان و حریم خصوصی آنها در فضای دیجیتال تأکید دارند
ترجمهٔ قیاس از الجريدة — منبع اصلی
آیا تا به حال اندیشیدهاید که چگونه میتوانیم کرامت و حقوق انسان را در دورانی حفظ کنیم که نور هوش مصنوعی از شکاف پنجرهها به داخل سرایت میکند، به ما پیشنهاد میدهد چه بخوانیم و با ردپای خود آنچه را میبینیم ترسیم مینماید؟
از دل این پرسش، اخلاق هوش مصنوعی متولد شد. یونسکو توصیهای در این زمینه تدوین کرده که بر احترام به حقوق انسان و حفظ کرامت او در قلب این عرصه تأکید دارد و ارزشهای انصاف، شفافیت، حریم خصوصی، نظارت انسانی و پاسخگویی را تأیید میکند.
حکمرانی هوش مصنوعی هنگامی که کودک یکی از ذینفعان آن باشد، حساستر و دقیقتر میشود، زیرا کودک فناوری را در حالی دریافت میکند که هنوز در حال کشف خود است و به تنهایی ممکن است برای او دشوار باشد که میان حقیقت و گمراهی، و میان احساسات انسانی صادق و پاسخهای مکانیکی که طوری طراحی شدهاند که دوستانه به نظر برسند، تمایز قائل شود.
در این مقاله، بر کودک تمرکز خواهیم کرد؛ چرا که نوامبر ماه گرامیداشت روز جهانی کودک است. کمیته حقوق کودک در نظر عمومی شماره ۲۵ خود تأکید میکند که حقوق کودکان به فضای دیجیتال نیز تعمیم مییابد و برخورد با آنها باید بر اساس اصول عدم تبعیض، منافع عالی کودک، حق او در زندگی، بقا و رشد، و احترام به نظراتش هدایت شود.
همچنین، «حریم خصوصی» از مهمترین حقوق است. هنگامی که کودک از یک برنامه آموزشی استفاده میکند یا با یک دستیار هوشمند گفتوگو مینماید، ممکن است جزئیاتی درباره خانواده، نگرانیها و احساسات خود فاش کند و تصویر و صدای خود را به عنوان ردپایی به جا بگذارد، بدون آنکه بداند این اطلاعات به کجا میروند و چگونه مورد استفاده قرار خواهند گرفت. در اینجا، حفاظت باید در ساختار خدمات هنگام طراحی آنها نهادینه شود و اهداف استفاده از آنها شفافسازی گردد، نه صرفاً با یک کلیک برای پذیرش شرایط. این اصل بر اساس دستورالعملهای یونیسف درباره هوش مصنوعی و کودکان، به همراه ایمنی، انصاف و پاسخگویی، مورد تأکید قرار میگیرد.
پرسش اخلاقی به عرصه آموزش نیز تعمیم مییابد. هوش مصنوعی ممکن است دست کودکی را بگیرد تا درسی را به شکلی متناسب با نیازهایش درک کند، یا درهای مشارکت را به روی کودکان دارای معلولیت بگشاید، اما ارزش آموزشی آن با آنچه به توانایی کودک برای درک و تفکر میافزاید سنجیده میشود. کودک به کسی نیاز ندارد که تکالیف مدرسهاش را انجام دهد، بلکه به کسی نیاز دارد که به او بیاموزد چگونه سوال بپرسد و از طریق جستجو و کاوش به دنبال پاسخ آن برود. دستورالعملهای یونیسف هشدار میدهند که کمک بیش از حد و خودکارسازی میتواند به حذف تجربیات ضروری منجر شود که کودکان برای رشد تواناییهای شناختی، اجتماعی و عاطفی مستقل خود به آنها نیاز دارند.
من معتقدم که اخلاق هوش مصنوعی با حفاظتی آغاز میشود که از آموزش به کودکان برای احترام به تصاویر دیگران و حریم شخصیشان شروع میشود، و با فراهم کردن راههای آسان برای گزارش هرگونه سوءاستفاده و آسیب، همراه با تقویت مسئولیتپذیری؛ به طوری که در روز کودک همچنان فضایی برای بازی، تحرک، دوستی و گفتوگو باقی بماند.