V zadnjem tednu je podjetje xAI, ki je lastnik groka in omrežja X, omejilo generiranje slik pomanjkljivo oblečenih resničnih oseb z grokom le na plačljive naročnike paketa X premium. Zdaj so omejitev razširili na vse uporabnike.
»Uvedli smo tehnološke ukrepe, s katerimi uporabniškemu računu za grok preprečujemo urejanje slik resničnih oseb v razkritih oblačilih, kot so kopalke. Ta omejitev velja za vse uporabnike, vključno s plačljivimi naročniki,« je zapisala ekipa za varnost pri platformi X.
Pri X so v sredo ponovno poudarili, da ukrepajo proti nezakonitim vsebinam, vključno s posnetki spolnih zlorab otrok (CSAM), tako da jih odstranijo, trajno suspendirajo račune in po potrebi sodelujejo z lokalnimi oblastmi. »Vsakogar, ki bo groka uporabljal za ustvarjanje nezakonitih vsebin ali jih spodbujal, bodo doletele enake posledice, kot če bi nezakonito vsebino naložil sam,« so sporočili.
Problem niso le povsem gole fotografije
Elon Musk je v objavi na X sicer zapisal, da »ni seznanjen z nobenimi golimi slikami mladoletnikov, ki bi jih ustvaril grok. Dobesedno z ničimer.« Dodal je, da bo grok zavrnil ustvarjanje česar koli nezakonitega, saj je njegovo glavno načelo spoštovanje zakonov katere koli države ali zvezne države.
Raziskovalci medtem priznavajo, da so bile popolnoma gole slike sicer redke, niso bile pa redke slike mladoletnikov, ki jih je grok narisal pomanjkljivo oblečene (v kopalkah ali spodnjem perilu) in v spolno izzivalnih položajih. Ustvarjalci takšnih neprostovoljnih intimnih slik so v ZDA lahko kazensko odgovorni zaradi razširjanja otroške pornografije, grozijo pa jim tudi globe in zaporna kazen po zakonu o odstranitvi sporne vsebine (Take it Down Act), ki ga je lani podpisal predsednik Donald Trump. Kalifornijski generalni tožilec Rob Bonta je že napovedal preiskavo o »širjenju neprostovoljnega spolno eksplicitnega gradiva, ustvarjenega z grokom«.
Zaradi fotografij je grok še vedno prepovedan v Indoneziji in Maleziji. Britanski regulator Ofcom pa je v ponedeljek tudi napovedal uvedbo uradne preiskave platforme X.
