Varnostni protokol, ki je po novem vgrajen v nekatere najbolj priljubljene modele umetne inteligence, tako tudi v chatGPT, je v Združenih državah Amerike preprečil umor. Sistem podjetja OpenAI je prepoznal in prijavil podrobne načrte, ki jih je storilec opisal v pogovoru. Zaradi pravočasnega posredovanja je bil 25-letni finančni analitik Darren Shida Zhou aretiran in obsojen.
Zhou, nekdanji zaposleni pri ugledni investicijski banki Goldman Sachs, je chatGPT posredoval vrsto vznemirjajočih sporočil. V njih je natančno popisal svojo namero, da ugrabi, spolno zlorabi in umori svojo 21-letno nekdanjo partnerico.
Po navedbah iz sodnih dokumentov je žrtev iz mesta Lake Worth Beach na Floridi razmerje z Zhoujem končala po telefonu, saj se je bala njegove nepredvidljive reakcije. To je sprožilo val zalezovanja. Obtoženi je umetni inteligenci zaupal lokacije, ki jih je žrtev obiskovala, med drugim tudi njen lokalni fitnes center, kjer jo je nameraval prestreči. Sistemu je celo razkril razmišljanja o uporabi orožja in grozil, da bo po umoru sodil tudi sebi.
V nasprotju s preteklimi kritikami na račun tehnoloških podjetij, češ da premalo ukrepajo ob spornih vsebinah, so se varnostni filtri podjetja OpenAI tokrat nemudoma odzvali. Sistem je vsebino prepoznal kot neposredno grožnjo življenju. Po interni analizi je zaposleni pri OpenAI zadevo predal FBI, ta pa je prepise komunikacije posredoval lokalnim preiskovalcem v okrožju Palm Beach, ki so takoj ukrepali in osumljenca pridržali.
Zhou je na sodišču priznal krivdo za zalezovanje, pošiljanje pisnih groženj s smrtjo in zlorabo komunikacijskih naprav za izvajanje kaznivega dejanja. Priznal je tudi, da je žrtev po razhodu nenehno nadlegoval prek različnih telefonskih številk in družbenih omrežij.
Sodnik mu je izrekel osemletno pogojno zaporno kazen in stroge omejitve. Med drugim mu je izrečena popolna prepoved stikov z žrtvijo ter prepoved posedovanja strelnega orožja, prvi dve leti pa bo moral nositi elektronsko nadzorno napravo.
Njegova obramba je dogodke na sodišču pripisala hudi psihološki krizi, v kateri naj bi se znašel obtoženi. Banka Goldman Sachs pa je potrdila, da so z njim takoj po razkritju dogodkov prekinili delovno razmerje.
