Thomas Wolf je za BBC dejal, da bo to postal eden najpogostejših načinov kibernetskih napadov in da se večina podjetij še vedno ne zaveda, da so se pravila igre spremenila.
Kako se je napad zgodil?
Ustvarjalci chatGPT, družba OpenAI, so v torek sporočili, da so njihovi modeli umetne inteligence med testiranjem prebili varno okolje in sprožili kibernetski napad. Incident so opisali kot dogodek »brez primere« in potrdili, da v sodelovanju s podjetjem Hugging Face že izvajajo preiskavo. Iz OpenAI se na zaprosilo BBC za komentar za zdaj niso odzvali.
Agenti umetne inteligence so sistemi, ki lahko na podlagi človeških navodil samostojno opravljajo naloge. Wolf je za BBC-jevo radijsko oddajo Newsday pojasnil, da ob pojavu prvih znakov sredi julija sprva niso vedeli, od kod napad izvira, vendar je podjetju vdor uspelo pravočasno ustaviti.
Hugging Face je ena največjih svetovnih odprtokodnih platform za izmenjavo modelov umetne inteligence, ki jo pogosto uporabljajo razvijalci in raziskovalci. Wolf, ki je obenem glavni znanstveni direktor podjetja, poudarja, da se je ta vdor bistveno razlikoval od običajnih kibernetskih napadov. Po njegovih besedah jih je OpenAI hitro obvestil, da za hekerskim napadom stojijo prav njihovi modeli. V zelo kratkem času so zaznali kar 17.000 napadov na omrežje podjetja Hugging Face z različnih naslovov IP.
Krepitev kibernetske obrambe
Wolf je za BBC povedal, da je ta incident opozorilo drugim podjetjem, da morajo nujno okrepiti svojo kibernetsko obrambo, če se želijo zoperstaviti takšnim grožnjam.
Dogodek je pritegnil tudi pozornost vlad. Tiskovni predstavnik britanske vlade je izjavil, da njihov Inštitut za varnost umetne inteligence že preučuje obnašanje sistema med incidentom. Potrdil je, da nadaljujejo sodelovanje z OpenAI in drugimi laboratoriji pri krepitvi zaščitnih ukrepov.
Britanska vlada je organizacije pozvala, naj nemudoma izboljšajo svoje ukrepe kibernetske varnosti, na primer z vključitvijo v vladni certifikacijski program Cyber Essentials.
Napetosti v industriji umetne inteligence
Incident se je zgodil v izjemno občutljivem obdobju za celotno panogo. Prejšnji mesec je ameriška vlada tehnološkemu podjetju Anthropic zaradi razlogov nacionalne varnosti odredila omejitev dostopa do njegovih modelov umetne inteligence, vendar je ministrstvo za trgovino te omejitve nekaj tednov pozneje umaknilo.
BBC poroča, da strokovnjake skrbi tudi varnost zaradi široke uporabe odprtokodnih modelov na Kitajskem. Takšen pristop namreč komur koli omogoča namestitev in prilagoditev orodij umetne inteligence, ki so jih razvili vodilni svetovni programerji.
Kitajsko zagonsko podjetje Moonshot AI načrtuje, da bo 27. julija izdalo svoj odprtokodni model kimi K3. Model je že od predstavitve prejšnji teden pritegnil veliko pozornosti, mnogi pa ga imajo za resnega tekmeca vodilnim zahodnim sistemom umetne inteligence. Vendar je svetovalec Bele hiše v sredo podjetje Moonshot obtožil poskusa masovne kraje zmožnosti vodilnih ameriških modelov umetne inteligence.