Da razvoj umetne inteligence nima zgolj pozitivnih učinkov, ni skrivnost. Zgolj eden od primerov zlonamerne uporabe sodobnih tehnologij so programi deepfake (globoki ponaredek). Ti zmorejo s pomočjo posebnih algoritmov združiti elemente fotografij ali videoposnetkov in ustvariti zelo prepričljive ponaredke. Vse skupaj se je začelo leta 2017 z ustvarjanjem ponarejene pornografije, v kateri so čez obraze pornozvezdnic prilepili obraze znanih žensk. Tehnologija pa je politične elite razburila predvsem zaradi njene zmožnosti za politično manipulacijo oziroma diskreditacijo političnih nasprotnikov. Stvar je še toliko bolj kočljiva, saj aplikacije deepfake niso zgolj orodje za lepljenje enega obraza na drugo telo, temveč zmorejo isto storiti na videoposnetkih, v katerih se (če je zadeva narejena kvalitetno) prilepljen obraz premika, kot bi šlo za pravo stvar. Vključno z naravnim obračanjem obraza v vse smeri.
Nekatere spletne platforme so že pred časom zagrozile, da bodo odstranile vse takšne ponaredke in blokirale uporabnike, ki so jih objavili. Raziskovalci pa so medtem razvili tudi že prve algoritme za prepoznavanje takšnih izdelkov. Najboljši za zdaj ponaredek prepoznajo v 97 odstotkih, kar je veliko, a pri tako občutljivih vsebinah znajo že trije odstotki objavljenih vsebin še vedno močno vplivati na življenja predvsem žensk.
Politikom morda zadostuje zmožnost, da s pomočjo algoritma pokažejo, da so bili tarče lažnih novic. Številnim tarčam izsiljevanja in žrtvam objav maščevalne pornografije, ki se viralno širi po spletu, pa bo le v slabo uteho, da lahko dokažejo, da je vsebina lažna. Še zlasti če se bodo platforme, kjer so bile vsebine objavljene, počasi odzivale na zahtevke po umiku vsebin. Pornografska spletna stran pornhub je denimo obljubila, da bo blokirala ponarejene posnetke, a so se pojavili očitki, da se ji obljube v praksi ne uspeva držati v celoti.
Dodatna težava pri razkrinkanju ponarejenih posnetkov je tudi neprestano napredovanje tehnologije za globoke ponaredke. Razvijalci algoritmov za prepoznavanje ponaredkov zato opozarjajo, da obstoječi algoritmi ponaredkov že kmalu morda ne bodo več prepoznali.
