Mga Algoritmo: Kapangahas ng Digital na Memorya sa Privacy!

Noong 2011, nagsimula ang pagpapakita ng Britishong serye na "Black Mirror," na kilala sa pagpapakita ng mga malayang kwento na nagtatasa ng mga impluwensyang panlipunan at sikolohikal ng teknolohiya sa buhay ng tao.

Sa mga pinakasikat na kabanata nito ay ang "The Entire History of You," na ipinalabas noong Disyembre 2011, at tumatalakay sa isang hinaharap kung saan mayroong teknolohiya ang mga tao na nagbibigay-daan sa kanilang pag-record ng lahat ng kanilang nakikita at naririnig, at pag-replay ng kanilang mga alaala sa audio at video anumang oras na gusto nila.

Sa ganitong mundo, hindi na kailangang umasa ang tao sa kanyang sariling memorya, at walang tunay na pagkakataon para sa mga sandali na mawala. Maaari kang bumalik sa isang lumang usapan, muling manood ng isang maikling pangyayari, o suriin ang ekspresyon ng mukha o salitang sinabi noong mga nakaraang taon. Habang ang memorya ay nagiging permanenteng digital na rekord, unti-unting nagbabago ang teknolohiya mula sa isang kasangkapan para sa pag-iingat ng karanasang pantao patungo sa isang instrumento na maaaring muling hubugin ang mga relasyon, magsaliksik sa ugali, at ilantad ang mga bagay na maaaring kalimutan o lampasan ng tao.

Ngayon, at humigit-kumulang 15 taon pagkatapos, tila hindi na sobrang layo ng ideyang ito sa realidad, bagama't sumunod ang teknolohiya sa isang iba't ibang landas kaysa sa imahinasyon ng serye. Ang tao ngayon ay hindi kailangang magdala ng isang device na nagre-record ng lahat ng kanyang nakikita, ngunit lumalawak ang kanyang pakikipag-ugnayan sa mga sistema ng artificial intelligence (AI) na kayang mag-imbak ng konteksto ng kanyang mga interaksyon, tandaan ang mga nakaraang impormasyon tungkol sa kanya, iugnay ang mga hiwalay na detalye mula sa kanyang mga usapan, at gamitin ang mga ito upang lumikha ng mas personal na karanasan.

Dito nagsisimula ang bagong kwento ng digital na privacy, dahil hindi lamang nagtatalo ang bagong henerasyon ng mga sistema ng AI upang maging mas kakayahan sa pagbibigay ng sagot, kundi upang maging mas kakayahan sa pagkilala, pagtandaan, at pag-unawa sa gumagamit. Habang lumalaki ang kakayahang ito, lumilipat ang tanong mula sa hangganan ng mga datos na kinokolekta ng mga sistema patungo sa hangganan ng kaalaman na kayang buuin nito tungkol sa tao.

Ito ang pinakamahalagang pagbabago: Sa panahon ng Internet, ang alalahanin ay nakatuon sa mga datos na iniwan natin. Ngunit sa panahon ng AI, maaaring maging alalahanin ang imahe na kayang buuin ng makina mula sa mga datos na iyon.

Isang solong impormasyon ay maaaring hindi magpakita ng marami, ngunit mga daan-daang nakapiling usapan ay maaaring magpakita ng mga pattern, interes, kagustuhan, at ugali. Ang sinasabi ng gumagamit sa hiwalay na mga konteksto ay maaaring magbago—kapag pinagsama ng isang aplikasyon ng AI sa isang solong konteksto—sa isang mas kumpletong imahe ng kanya kaysa sa kung ano ang kanyang ibig sabihing ilantad sa simula.

Dahil dito, kinukuha ng "artificial na memorya" ang kahalagahan, dahil ang problema ay hindi lamang na kayang tandaan ng teknolohiya ang sinabi natin, kundi kayang iugnay nito ang sinabi natin, magbigay ng konklusyon mula rito, at maaaring malaman ang mga bagay tungkol sa atin na hindi natin sinabi nang direkta.

Habang nagtatalakay ang mga kumpanya ng AI upang mag-develop ng mga assistant na may mas mahabang memorya, mas malawak na konteksto, at mas malaking kakayahan sa pagpapasadya, lumalabas ang isang bagong front sa digmaan para sa digital na privacy: Sino ang may-ari ng memorya na binubuo tungkol sa tao? Ano ang karapatan ng sistema na panatilihin? At umaabot ba ang mga karapatan sa privacy sa mga konklusyon na hinuhubog ng mga algorithm, hindi lamang sa mga datos na ibinigay ng gumagamit mismo?

Sa ganitong kahulugan, lumilipat ang isyu mula sa isang mundo ng "pagtandaan ng lahat" gaya ng inilarawan ng "Black Mirror," patungo sa isang mundo ng AI na nagtatahan ng gumagamit. Higit pa rito, mayroon tayong harapang isang mas malalim na pagbabago: mula sa digital na memorya na nag-iingat ng nakaraan patungo sa artificial na memorya na bumubuo ng kaalaman tungkol sa tao mula sa kanyang nakaraan.