Več kot deset nekdanjih in sedanjih zaposlenih je za BBC razkrilo, da so v boju za pozornost sprejemali tveganja na področjih, ki vključujejo nasilje, spolno izsiljevanje in terorizem.
Tekma s Tiktokom na račun varnosti
Inženir v Meti (lastnici facebooka in instagrama) je za BBC opisal, da mu je vodstvo naročilo, naj dopusti več mejno škodljivih vsebin, kot so mizoginija in teorije zarote, da bi lažje tekmovali s Tiktokom. »Dali so nam vedeti, da je to povezano s padcem vrednosti delnic,« je dejal.
Boj za prevlado se je še zaostril leta 2020 z uvedbo funkcije instagram reels. Matt Motyl, nekdanji višji raziskovalec v Meti, trdi, da so storitev uvedli brez ustreznih varoval. Notranja raziskava je pokazala, da so komentarji pod videoposnetki vsebovali bistveno več zlorab, sovražnega govora in spodbujanja k nasilju kot preostali deli instagrama.
Medtem ko je podjetje dodatno zaposlilo 700 ljudi, so varnostnim ekipam zavrnili zaposlitev dveh strokovnjakov za zaščito otrok in desetih strokovnjakov za integriteto volitev. Brandon Silverman, nekdanji uslužbenec, je Marka Zuckerberga opisal kot zelo paranoičnega glede konkurence, zaradi česar noben znesek za boj proti tekmecem ni bil previsok.
Politika pred zaščito otrok
Žvižgač iz Tiktoka, pod psevdonimom Nick, je BBC omogočil vpogled v interne sisteme za sledenje pritožbam. Dokazi kažejo, da je Tiktok nepomembnim primerom, ki so vključevali politike, dajal prednost pred prijavami o zlorabah otrok. Tako je bila na primer pritožba politika, ki so ga zasmehovali in ga primerjali s piščancem, obravnavana prednostno, prijava 16-letnice iz Iraka, ki je bila žrtev izsiljevanja z golimi fotografijami, pa je bila označena z nizko stopnjo nujnosti.
Nick trdi, da podjetje bolj skrbi za dobre odnose z oblastmi, s čimer se želi izogniti regulacijam ali prepovedim, kot pa za varnost mladih. Njegov nasvet staršem je neposreden: »Izbrišite tiktok. Otroke držite stran od te aplikacije, dokler je le mogoče.«
Algoritem kot črna skrinjica
Ruofan Ding, ki je do leta 2024 delal pri Tiktoku, pravi, da so algoritmi črna skrinjica, nad katero inženirji nimajo popolnega nadzora. "Za nas je vsa vsebina le identifikacijska številka," pravi Ding in dodaja, da je med nenehnim izboljševanjem algoritma opazil vse več problematičnih vsebin.
Posledice takšne prakse je občutil Calum, danes 19-letnik, ki ga je algoritem pri 14 letih radikaliziral. Aplikacija mu je prikazovala vsebine, polne sovraštva in mizoginije. »Ti videoposnetki so me razjezili,« je povedal za BBC. Strokovnjaki za protiterorizem v Veliki Britaniji potrjujejo, da so opazili povečanje antisemitskih in skrajno desnih objav, saj so ljudje postali manj občutljivi za nasilje v resničnem svetu.
Meta je obtožbe za BBC zavrnila: »Vsak namig, da namerno spodbujamo škodljive vsebine zaradi finančne koristi, je napačen.« Dodali so, da so v varnost vložili znatna sredstva.
Tiktok je trditve označil za izmišljene in zanikal, da bi politične vsebine postavljali pred varnost mladih. Poudarili so, da vlagajo v tehnologijo, ki preprečuje ogled škodljivih vsebin, in da računi za najstnike vsebujejo več kot 50 varnostnih funkcij.