Tožba proti podjetju xAI je bila vložena v ponedeljek na zveznem sodišču v Kaliforniji. Kot poroča BBC, so jo vložile tri najstnice, katerih fotografije in videoposnetke je uporabnik klepetalnika grok brez njihovega vedenja spremenil, da so bile na njih gole ali pa prikazane v eksplicitni seksualni obliki.
Grok je klepetalnik, ki ga je razvilo podjetje xAI in gostuje na platformi X. Podjetje xAI se na BBC-jevo prošnjo za komentar ni odzvalo.
Sporna funkcija
Pravni postopek je del posledic lanskoletne uvedbe novih grokovih funkcij, ki so jih na platformi X poimenovali pekoči način (spicy mode). Odvetniki mladenk trdijo, da je bila zmožnost groka za spreminjanje slik in videoposnetkov ustvarjena izključno z namenom povečanja uporabe klepetalnika in omrežja X.
V tožbi so, kot poroča BBC, zapisali, da sta podjetje xAI in njegov ustanovitelj Elon Musk videla v novih funkcijah groka poslovno priložnost. Prav tako sta po njihovem mnenju vedela, da lahko grok ustvari takšne ponaredke, tudi z uporabo slik in videoposnetkov otrok, a sta ga kljub temu javno izdala.
Tožnice, od katerih sta dve mlajši od 18 let, zahtevajo odškodnino in takojšnjo prepoved ustvarjanja tovrstnih vsebin. Zaradi zaščite zasebnosti so njihova imena ostala prikrita javnosti.
Uničena življenja in izguba dostojanstva
Ena od tožnic je za sporne vsebine izvedela prek anonimnega sporočila na instagramu. Sporočilo jo je usmerilo do slik in posnetkov, vključno z njeno fotografijo iz srednješolskega letopisa, ki so bili predelani v eksplicitne pornografske vsebine, poroča BBC.
Material se je širil na strežniku platforme discord, kjer so preiskovalci našli podobne vsebine še za vsaj 18 drugih mladoletnih deklet. Tudi preostali dve tožnici sta na spletu našli svoje lažne eksplicitne posnetke, za katere je bilo ugotovljeno, da so bili ustvarjeni z orodjem grok.
Milijoni spornih slik
Lansko leto je xAI izdal funkcijo grok imagine, ki je uporabnikom omogočala ustvarjanje lažnih podob bolj spolne narave. Orodje je celo omogočalo slačenje resničnih oseb – od zvezdnic, kot je Taylor Swift, do povprečnih uporabnikov.
Po podatkih organizacije Center for Countering Digital Hate je grok v manj kot dveh tednih ustvaril milijone fotografij s seksualno vsebino, med katerimi jih je več kot 20.000 prikazovalo otroke. Musk je sprva zmanjševal pomen teh obtožb in januarja trdil, da mu ni znana nobena gola slika mladoletnih oseb, ki bi jo ustvaril grok. Krivdo je prevalil na uporabnike, češ da grok ne ustvarja vsebin samodejno, temveč le na zahtevo.
Preiskave in aretacija
Zaradi nadaljevanja spletnih zlorab so preiskave uvedli britanski regulator Ofcom, evropska komisija in zvezna država Kalifornija. Sredi januarja je vodstvo omrežja X napovedalo uvedbo tehnoloških ukrepov za preprečevanje slačenja oseb na fotografijah.
Storilca, ki je stal za omenjenim strežnikom na discordu, so medtem aretirali. Policijska preiskava je razkrila, da je posedoval na stotine z umetno inteligenco ustvarjenih ali spremenjenih slik spolnih zlorab mladoletnikov, s katerimi se je trgovalo na platformah telegram in mega.