Na tiktoku in drugih družbenih omrežjih se bliskovito širijo zlonamerni videoposnetki, kjer strokovnjaki nenadoma svetujejo nakup dvomljivih prehranskih dopolnil. Ni res! Globoka prevara (deepfake), ustvarjena z napredno umetno inteligenco (UI), je ugrabila glas in podobo resničnih zdravnikov, da bi širila zdravstvene dezinformacije in polnila žepe nenačelnemu podjetju.
Razkritja Full Facta
Preiskava, ki jo je izvedla organizacija za preverjanje dejstev Full Fact, je razkrila stotine takšnih ponarejenih videoposnetkov. V njih so bili zlorabljeni resnični posnetki vplivnežev in zdravstvenih strokovnjakov. Kakšen je bil namen? Preusmeritev uporabnikov na spletno stran ameriškega podjetja Wellness Nest za prehranska dopolnila.
Vse odkrite globoke prevare delujejo po istem principu: ohranjena sta avtentična podoba in del zvoka, a orodja UI so predelala besedilo. Nenadoma »zdravniki« spodbujajo ženske v menopavzi k nakupu izdelkov, kot so probiotiki in himalajski šilajit. To je klasičen primer digitalne dezinformacije, ki neposredno vpliva na zdravje potrošnikov.
Zgodilo se je tudi že v Sloveniji
Morda mislite, da se to dogaja le v tujini. Tudi to ne drži! Podobna globoka prevara se je januarja lani že razširila tudi po slovenskem spletu. Tedaj so nepridipravi zlorabili posnetek slovenske predsednice Nataše Pirc Musar.
Nepridipravi so spremenili njene besede, medtem ko sta podoba in glas ostala njena. K sreči so imele takratne tehnologije UI še težave s kompleksnostjo slovenščine, zato prevara ni bila pretirano učinkovita. Vendar pa strokovnjaki svarijo: ne smemo se slepiti. Tehnologija UI se razvija z bliskovito hitrostjo in takšna nevarnost je pri nas realna in neizbežna.
Pozivi k večji odgovornosti platform
Razkritja so sprožila ostre pozive največjim velikanom družbenih omrežij. Zahteva je jasna: potrebujemo več previdnosti pri gostovanju vsebin, ustvarjenih z umetno inteligenco, in hitrejše odstranjevanje spornih posnetkov, ki izkrivljajo nazore uglednih oseb.
Kot je dejal Leo Benedictus, preverjevalec dejstev, ki je vodil raziskavo Full Facta: »To je vsekakor zlovešča in skrb vzbujajoča nova taktika.«
Tiskovni predstavnik platforme je priznal, da je »škodljiva in zavajajoča vsebina, ustvarjena z umetno inteligenco, izziv za celotno industrijo«, ter zatrdil, da vlagajo sredstva v nove načine za odkrivanje in odstranjevanje spornih vsebin.
Kako se lahko zaščitimo?
Full Fact je potrdil, da so se prevare, povezane z Wellness Nest, pojavile tudi na platformah X, facebook in youtube. To kaže, da gre za sistematičen napad na zaupanje uporabnikov.
Kaj lahko storite? Bodite izjemno kritični do vsakega nasveta o zdravju, ki ga vidite na družbenih omrežjih. Vedno preverite vir in se zavedajte, da je za video, ustvarjen z UI, včasih praktično nemogoče reči, da gre za ponaredek.
