Izredno prepričljive manipulacije fotografij oziroma videoposnetkov, ki jih omogoča vse zmogljivejša umetna inteligenca z zmožnostjo globokega učenja, postaja vse večja skrb za svetovne medije in družbena omrežja, kot je facebook. Tako imenovani deepfake videi, ki združujejo več vsebin in lahko pristne posnetke spremenijo tako, da na njih vidimo druge ljudi in slišimo druge besede, kot so bile izgovorjene v izvirniku, so že tako prepričljivi, da se ob nekaterih nepričakovanih izjavah svetovnih voditeljev ali drugih medijskih osebnosti novinarji že danes upravičeno sprašujemo, ali gledamo ponaredek ali pristno vsebino. Kakovost ponarejenih vsebin sicer še ni brezhibna, a zahteva dodatno pozornost. Hkrati grozi nevarnost, da je primerek ponarejenega posnetka izpadel posebno prepričljiv. Skrbi zaradi ponarejenih vsebin se bodo z začetkom glavnega dela ameriške predsedniške kampanje še povečale, saj so že prejšnjo zaznamovale tovarne lažnih novic. Te bodo s pomočjo deepfake zmogljivosti imele v rokah še nevarnejše orodje za zavajanje javnosti, kot je zgolj objavljanje zavajajočih člankov s fotografijami, vzetih iz konteksta.
Facebook in Reuters s tečajem za medije
Resnost težave je že pred časom opazil ustanovitelj največjega družbenega omrežja Mark Zuckerberg. V želji, da se njegov facebook ne bo vnovič znašel na vročem stolu zaradi širjenja zavajajočih objav, je že lanskega septembra zagnal deset milijonov dolarjev vreden projekt za financiranje raziskav s področja odkrivanja ponarejenih vsebin. Skupaj z Reutersom pa je pripravil brezplačni spletni izobraževalni program (https://www.reuters.com/manipulatedmedia), ki naj bi medijem lajšal prepoznavanje deepfake vsebin. Za nameček so pri facebooku pred kratkim prepovedali nekatere oblike objav, ki uporabljajo deepfake tehnologijo. Med prepovedanimi vsebinami najdemo deepfake manipulacije videoposnetkov golote, pri katerih avtorji zamenjajo obraz z obrazom druge osebe. To je bila že od samega začetka ena najbolj zavržnih oblik uporabe tehnologije. V facebookovem primeru te vsebine odpadejo že zaradi golote, tudi brez manipulacij. Sledijo vsebine, ko je avtor spremenil vsebino izgovorjenih besed tako, da bi povprečnega uporabnika zavedel v prepričanje, da gre za pristno vsebino. Enako velja, ko se manipulacija nanaša na sliko oziroma videno v vsebinah. Ne bodo pa ukrepali v primeru deepfake vsebin, ki so bile jasno narejene z namenom satire, ali vsebin, kjer so bile izpuščene zgolj nekatere besede oziroma je bil obrnjen njihov vrstni red. Domnevno v primerih, ko spremembe ne vplivajo na razumevanje sporočila oziroma ne zavajajo.
Če bodo v postopku preverjanja pristnosti vsebin naleteli na ponaredke, bodo odstranili samo najhujše kršitve splošnih pravil objavljanja, ki se nanašajo na goloto, nasilje, podpihovanje sovraštva… Ostalim oblikam deepfake vsebin nameravajo močno omejiti doseg in jih označiti kot lažne. Za ta ukrep so se odločili, ker bi odstranjene posnetke uporabniki sicer lahko videli drugje po spletu, kjer ne bi videli tudi opozorila o lažnosti.
Ukrepi se slišijo dobro, a problem je njihova izvedba v praksi. Programi za ustvarjanje deepfake vsebin postajajo vse enostavnejši za uporabo. Nekaj podobnega je pred časom že obnorelo uporabnike mobilnikov. Se še spomnite aplikacije faceapp, ki je omogočala spremembo starosti ali spola osebe na fotografiji? Princip je zelo podoben. Ko bodo tako enostavne tudi aplikacije za sinhroniziranje mimike govora z zvočnimi posnetki, ki bodo prav tako posnemali glas drugih ljudi, bo razločevanje med namernim zavajanjem in satiro postalo izredno zahtevno in količinsko obsežno delo. Pri tem kaže opomniti, da si facebook že zdaj včasih privošči hude spodrsljaje pri odkrivanju in odstranjevanju spornih vsebin.
