Pomočnik muse, ki ga je Meta predstavila prejšnji mesec in ni na voljo v EU, je zbral že več milijonov prenosov in se povzpel na prvo mesto Applove trgovine z aplikacijami. Uporabnikom omogoča avtomatizacijo opravil, vendar za delovanje potrebuje dostop do obsežnih količin podatkov, med drugim bančnih računov, gesel, stikov, sporočil in fotografij. Kritiki opozarjajo, da lahko tako obdeluje tudi podatke njihovih prijateljev, sorodnikov in drugih ljudi, ki za to niso dali privolitve.
»Ti sistemi se oglašujejo kot avtonomni pomočniki, duhovi iz svetilke ali služabniki, ki brez težav opravijo, kar potrebujete, še preden jih prosite,« je za The Verge povedala Meredith Whittaker, predsednica fundacije Signal, ki razvija istoimensko šifrirano aplikacijo za sporočanje. Po njenih besedah se njihovo delovanje ne nanaša samo na uporabnika, ki si je muse namestil, temveč tudi na vse, s katerimi komunicira. Pomočnik iz uporabnikove elektronske korespondence, sporočil, stikov in fotografij sklepa tudi o življenju ljudi, ki so z uporabnikom v stiku.
Privolitev, ki je uporabniki ne razumejo
V Meti poudarjajo, da muse podatke zbira na podlagi javno dostopnih informacij in vsebin, ki jih uporabnik izbere za deljenje. »Vsak pomočnik, ki naj bi bil uporaben in ljudem dejansko pomagal doseči cilje, potrebuje kontekst o njih in ljudeh, s katerimi komunicirajo,« je pojasnil Metin predstavnik Daniel Roberts. Dodal je, da so uporabnikom na voljo nastavitve, s katerimi lahko določijo, katere podatke želijo deliti.
Toda nekateri uporabniki so že poročali o nepričakovanem dostopu do zasebnih informacij. V enem primeru naj bi muse obdelal milijone besedilnih sporočil, za katera je uporabnik menil, da mu niso dostopna. Meta je očitke zavrnila in pojasnila, da lahko pomočnik do sporočil dostopa samo ob ustrezno nastavljenih dovoljenjih. V drugem primeru je pomočnik razkril domači naslov tehnološkega recenzenta, zaradi česar je neznanec prišel do njegovega stanovanja. Recenzent je dovoljenje za dostop do teh podatkov sicer odobril, vendar se tega ni zavedal.
»Najpomembnejše sporočilo je, da ljudje ne razumejo, kakšne podatke predajajo,« je za The Verge opozorila Eva Galperin, direktorica za kibernetsko varnost pri organizaciji Electronic Frontier Foundation. Po njenih besedah je uporabniški vmesnik zasnovan tako, da ljudi spodbuja k deljenju čim več informacij, pogosto več, kot se zavedajo. Takšne prakse je označila za manipulativne oblikovalske vzorce, znane kot dark patterns oziroma temne vzorce, ki uporabnike napeljejo k odločitvam, ki jih sicer ne bi sprejeli.
Profili prijateljev
Raziskovalci so v navodilih za delovanje muse odkrili postopek, ki vsako uro sestavlja in posodablja profile ljudi iz uporabnikovega življenja. Po poročanju revije Wired pomočnik ocenjuje bližino posameznih odnosov, njihovo podlago in način komunikacije ter na podlagi teh podatkov oblikuje prilagojena priporočila. Whittakerjeva je zato zavrnila Metino trditev, da pomočnik shranjuje samo tisto, kar uporabnik prostovoljno deli. »Zamisel, da se ljudje v tem primeru odločajo na podlagi vseh pomembnih informacij, je smešna,« je dejala.
Neil Richards, profesor prava zasebnosti na univerzi Washington v St. Louisu, meni, da odgovornosti za delovanje zapletenih sistemov ni pošteno prelagati na potrošnike. »Ne zdi se mi pravično, da bi morali potrošniki nadzorovati zelo zapleteno orodje z umetno inteligenco,« je povedal za The Verge. Opozoril je, da so uporabniki pogosto preobremenjeni in da ne razumejo tehnologije, ki jo uporabljajo.
Tveganje presega posamezne aplikacije. Tudi ljudje, ki se izogibajo umetnointeligenčnim pomočnikom, lahko izgubijo nadzor nad svojimi podatki, če jih z njimi delijo njihovi sogovorniki. Galperin je opozorila, da težava ni nova, vendar se je njen obseg povečal, ker lahko sodobni sistemi analizirajo ogromne količine podatkov v kratkem času.
Obvodi šifriranja
Whittakerjeva opozarja še na posledice za šifrirano komunikacijo. Če aplikacija po dešifriranju sporočila na uporabnikovi napravi vsebino posreduje zunanji storitvi, lahko ta pridobi dostop do podatkov, ne da bi bilo šifriranje samo zlomljeno. »Namen šifriranja je nazadnje izničen, ko vsiljive aplikacije, kot je muse, v zameno za priročnost zahtevajo obsežen dostop do podatkov,« je pojasnila.
Meta trdi, da so podatki muse shranjeni v namenskem virtualnem okolju, ki naj bi omejevalo dostop drugih sistemov. Toda pri The Verge opozarjajo, da je Meta ne zakriva dejstva, da do teh podatkov lahko dostopajo.
Strokovnjaki zato pozivajo k strožji regulaciji in tehničnim varovalkam, predvsem pa k temu, da odgovornost za varovanje zasebnosti prevzamejo podjetja. »Zakonodaja mora breme prenesti s človeka, ki je kliknil na poziv za privolitev, na podjetja, ki so te sisteme razvila,« je poudarila Whittakerjeva. Richards pa meni, da bi bilo treba za tovrstne pomočnike uvesti strogo odgovornost za škodo. Po njegovih besedah ni razloga, da bi celotno prebivalstvo izpostavljali nepremišljenemu eksperimentu, ki prinaša tveganja za zasebnost, duševno zdravje, kibernetsko varnost in finance.
Celotna zgodba z dostopanjem do podatkov uporabnikov, ki muse ne uporabljajo, močno spominja na škandal iz leta 2018, ko je podjetje Cambridge Analytica prek facebooka brez privolitve zbiralo podatke 87 milijonov uporabnikov. V zbiranje podatkov so privolili nekateri uporabniki, Cambridge Analytica pa je nato prek njihovih računov zbiralo podatke vseh njihovih facebook prijateljev.
