V zadnjem času se vse več posameznikov po zdravstvene nasvete zateka k pametnim spletnim klepetalnikom, ki so na videz prijazni, hitri in neverjetno razgledani. Predstavljajte si povsem realistično situacijo: posameznik v priljubljeni klepetalnik vnese, da ga mučita občasen močan glavobol in blag izpuščaj. Algoritem namesto običajne viroze suvereno zapiše, da gre za izjemno redko in nevarno avtoimuno bolezen, ter za nameček prepričljivo navede še strokovne znanstvene študije, ki to potrjujejo. Posameznik v hudi paniki odhiti naravnost na urgenco, kjer pa zdravniki po številnih preiskavah ugotovijo, da je popolnoma zdrav in da je umetna inteligenca preprosto »halucinirala«. Kljub temu da so takšna orodja priročna, se le redki zavedajo, kako močno nas lahko zavedejo in kakšna tveganja prinašajo za našo zasebnost.
Kako delujejo »umetni zdravniki«?
O tem, kako ti priljubljeni sistemi dejansko delujejo v ozadju in zakaj sploh prihaja do takšnih nevarnih napak, smo se pogovarjali z doc. dr. Vido Groznik s Fakultete za računalništvo in informatiko (FRI). Kot pojasnjuje, so veliki jezikovni modeli zgrajeni na ogromni količini tekstovnih podatkov. Ti viri segajo vse od različnih medijskih objav, spletnih forumov in znanstvenih člankov pa do knjig in učbenikov. Na podlagi teh obsežnih besedil se je algoritem zgolj naučil, katere besede si pogosto in smiselno sledijo. Ko uporabnik orodju postavi vprašanje o bolezni ali mu opiše svoje simptome, sistem v resnici ne pogleda v nobeno medicinsko bazo podatkov ali strokovno literaturo, da bi podal odgovor. Temveč preprosto začne generirati tisto besedilo, ki najbolj verjetno sledi vnesenemu vprašanju, in sicer izključno glede na vzorce, ki jih je videl v besedilih med svojim učenjem. Če je algoritem med analiziranjem podatkov pogosto naletel na zaporedje simptomov »boleče grlo« in »vročina« v neposredni povezavi z angino, bo najverjetneje podal ravno takšen odgovor.
Iz tega izhaja ključno spoznanje, da ti modeli medicine v resnici sploh ne »razumejo«, čeprav izjemno dobro obvladajo terminologijo in znajo o njej zelo dobro pisati. Zato popolnoma napačen odgovor zaradi rabe strokovnega jezika ne bo zvenel prav nič manj prepričljivo kot tisti, ki je pravilen, kar številne uporabnike hitro zavede.
Največja past uporabe teh orodij so tako imenovane halucinacije, ki pa niso zgolj naključna napaka, temveč so neločljiva posledica samega načina delovanja sistema. Orodje ne ve, kaj je resnica in kaj ne, temveč ve le to, kako naj si določeni deli besedila sintaktično in semantično sledijo. Kadar algoritem o določeni temi nima ustreznih podatkov, se mu v ozadju ne vključi nobeno opozorilo, da nečesa ne ve. Ker zanj zmeraj obstaja tista najbolj verjetna naslednja beseda, bo algoritem vedno izpisal neki odgovor.
Popolnoma enaka težava se pojavi pri navajanju virov in citatov; model se je naučil zgolj strukture citata, kot so avtor, naslov, revija, letnica in številka DOI, ne pa dejanskega seznama obstoječe medicinske literature. Posledično nima absolutno nobenih težav s sestavljanjem referenc, ki bodo po svoji strukturi videti povsem verodostojno in strokovno, čeprav v resničnem svetu sploh ne obstajajo.
Pasti za našo zasebnost
Ljudje gredo v iskanju hitrih odgovorov pogosto tako daleč, da v modele vpisujejo izjemno intimne podrobnosti o svojem zdravju. Pri tem se, kot opozarja mag. Eva Kalan Logar, namestnica informacijske pooblaščenke, pogosto ne zavedajo, da v zameno za na prvi pogled »brezplačno« uporabo osnovnih različic teh klepetalnikov velikokrat dejansko delijo svoje osebne podatke. Vida Groznik dodaja, da ti veliki jezikovni modeli ne tečejo lokalno na napravah uporabnikov, ampak na oddaljenih strežnikih ponudnika storitve. Vsi podatki, ki jih uporabnik vnese v sistem, se prenesejo in shranijo na teh strežnikih, ki so lahko locirani znotraj Evropske unije ali pa celo zunaj nje, odvisno izključno od ponudnika storitve. To je tudi razlog, zakaj lahko uporabniki v ločenih »dnevnikih« klepetov vidijo svoje pretekle pogovore.
V pogojih uporabe je določeno, za kaj se smejo ti vneseni podatki uporabljati in kdo vse jih lahko pregleduje. Velikokrat lahko do teh intimnih vnosov dostopajo zaposleni pri ponudniku in zunanji presojevalci sistemov, ki preverjajo kakovost in varnost delovanja sistema. Poleg tega je pri brezplačnih različicah pogosto že privzeto vključena nastavitev, ki omogoča uporabo naših pogovorov za namene nadaljnje izboljšave in učenja modelov.
Nekateri uporabniki gredo celo korak dlje in v sistem nalagajo fotografije svojih laboratorijskih izvidov v upanju na hitro strokovno razlago. Zdravstveni podatki pa se uvrščajo med občutljive podatke, ki so po zakonodaji posebej zaščiteni, njihova obdelava pa je praviloma prepovedana, z izjemo izrecne privolitve posameznika ali obdelave podatkov, ki jih oseba sama objavi. Pri uradu informacijskega pooblaščenca opozarjajo, da osebni podatki niso zgolj ime, priimek, naslov ali EMŠO, temveč vse informacije v zvezi z določenim ali določljivim posameznikom. Če želi uporabnik svoj zdravstveni izvid pred nalaganjem v sistem anonimizirati, ni dovolj, da iz dokumenta izbriše le najbolj očitne osebne podatke, saj posameznik ne sme biti več določljiv. To je še posebej kritično pri umetni inteligenci, saj so ta orodja izjemno dobra v povezovanju najrazličnejših podatkov, kar pomeni, da lahko na podlagi drobcev pridejo do novih sklepov in informacij ter povzročijo tveganje tako imenovane reidentifikacije uporabnika.
Tveganja so tako izjemno raznolika. Čeprav je malo verjetno, da bi naša intimna zdravstvena skrivnost pricurljala neposredno v odgovor drugemu uporabniku orodja, so nevarnosti po besedah dr. Vide Groznik povsem drugje. Zgodi se lahko vdor v zbirko shranjenih pogovorov na strežnikih ali pa vdor v uporabnikovo lastno napravo, ki je povezana z orodjem. Do izpostavljenosti lahko pride ob človeškem pregledovanju vnosov ali pa ob sodnih zahtevah, kjer morajo ponudniki na zahtevo sodišča predati vse podatke in shranjene pogovore o določenem uporabniku. Veliko tveganje predstavljajo tudi različne aplikacije tretjih oseb, ki običajno delujejo le kot vmesnik za pošiljanje podatkov v model, a lahko kljub temu same obdržijo kopijo prenesenih podatkov.
Z vidika pravice do zasebnosti opozarja namestnica informacijske pooblaščenke predvsem na izgubo nadzora nad lastnimi osebnimi podatki, ki so lahko uporabljeni za nepredvidene namene ali posredovani drugim. Če se zdravstveni podatki nanašajo na uporabnika iz Slovenije oziroma EU, sicer veljajo stroga pravila splošne uredbe o varstvu podatkov, in to celo v primeru, če imajo upravljalci sedež v ZDA ali na Kitajskem. Ti upravljalci morajo uporabnikom med drugim omogočati uresničevanje njihovih pravic, prav tako pa morajo v jedrnati, pregledni in lahko dostopni obliki ter v jasnem jeziku pojasniti, katere podatke obdelujejo, s kakšnim namenom ter kako dolgo bodo ti podatki shranjeni. Kljub tej zakonodaji pa urad opozarja, da podatkov, ki so bili enkrat vneseni v globalni sistem umetne inteligence, uporabnik v praksi najverjetneje ne bo mogel več v celoti nadzorovati in si zanje zagotoviti popolnega izbrisa oziroma uveljavljati »pravice do pozabe«. Njihovo glavno priporočilo in zlato pravilo za državljane je zato jasno: ne vnašajte svojih osebnih podatkov ali podatkov drugih oseb, in če določenega podatka ne bi zaupali svojemu sosedu, ga raje ne zaupajte niti umetni inteligenci (UI).
Strokovna nasproti komercialni UI
Kljub vsem naštetim pastem pa velja poudariti, da zdravstvo umetno inteligenco že izjemno uspešno in varno uporablja. Kot pojasnjuje Vida Groznik, je razlika med strokovnimi orodji UI in komercialnimi klepetalniki ogromna. Profesionalna namenska orodja so izdelana izključno za uporabo v medicini, kar pomeni, da so zgrajena specifično na medicinskih podatkih in predhodno večkrat preizkušena pod strogimi regulativnimi pogoji. V nasprotju s splošnimi klepetalniki imajo takšna orodja ozko specifično nalogo, kot so na primer segmentacija tumorja na posnetkih CT, odkrivanje anomalij v posnetkih EKG ali pa ocena tveganja nastanka sepse. Ta profesionalna orodja imajo jasno zabeležene metrike kakovosti ter omejitve delovanja, ob vsaki vgradnji nove verzije modela pa mora sistem ponovno skozi izjemno strogo klinično presojo.
Vida Groznik ne verjame, da bomo na svojih telefonih kmalu dobili zanesljivega in uradno certificiranega »specializiranega UI osebnega zdravnika«. Največja težava pri tem pa je seveda odgovornost: kdo bo tisti, ki bo pravno odgovarjal, če orodje poda napačno informacijo in to v skrajni sili privede celo do smrti uporabnika, ker ta zaradi napačnih nasvetov algoritma ni pravočasno poiskal nujne zdravniške pomoči?
Potrebujemo sistemski pristop
Nevarnosti niso zgolj individualne narave in ne zadevajo le posameznika, temveč vplivajo na celoten nacionalni zdravstveni sistem. V Zdravniški zbornici Slovenije (ZZS) poudarjajo, da je uporaba teh orodij za preverjanje simptomov postala neizpodbitna realnost, zato razprava o tem ne sme več ostati zgolj na ravni posameznih mnenj in pogledov. Zbornica od zdravstvene politike pričakuje in zahteva, da opredeli pristojni organ za spremljanje razvoja tehnologije, pripravo jasnih priporočil, ustrezno obveščanje prebivalstva in hitro odzivanje na morebitne škodljive posledice.
Čeprav je država leta 2025 že sprejela Nacionalno strategijo zdravstvene pismenosti 2025–2035, v kateri med rešitvami dejansko omenja pogovorne robote (chatbote), pri ZZS opozarjajo, da trenutni strateški dokument ne obravnava ustrezno izjemne hitrosti razvoja generativne umetne inteligence in njenega velikega vpliva na ključne odločitve pacientov. Ministrstvo za zdravje in Nacionalni inštitut za javno zdravje morata tako nujno presoditi, ali obstoječi okvir sploh še ustreza hitremu dejanskemu razvoju, in predvsem takoj pristopiti k povsem konkretnim dejavnostim. Ena izmed ključnih rešitev je vzpostavitev učinkovitih programov digitalne in zdravstvene pismenosti.
