Pri Meti, ki ima v lasti družbeni omrežji Facebook in Instagram, niso razkrili imena podjetja, v katerega sisteme je bil izveden nepooblaščen dostop. Podjetje je izvedelo za incident, potem ko ga je o tem obvestil partner, ki izvaja testiranje.
Podoben primer se je nedavno zgodil tudi podjetjema OpenAI in Anthropic, katerih modeli so prav tako med testiranji nepooblaščeno dostopali do omrežij tretjih podjetij.
Noben od teh incidentov ni povzročil škode, vendar so še dodatno okrepili zaskrbljenost glede morebitne uporabe umetne inteligence v kibernetskih napadih.
Več kot 30 tehnoloških podjetij je v tej luči konec julija ustanovilo zavezništvo za varno umetno inteligenco, ki ga vodi razvijalec čipov Nvidia. V zavezništvu so med drugim izpostavili pomen odprtokodnih orodij za zagotavljanje varnosti. Podjetij OpenAI, Anthropic in Meta sicer nista med člani zavezništva.
Strokovnjaki ob tovrstnih incidentih izpostavljajo pomen strogo nadzorovanega testnega okolja z ustreznim upravljanjem tveganj. Tudi v vladnem uradu za informacijsko varnost in nacionalnem odzivnem centru za kibernetsko varnost SI-CERT so nedavno poudarili, da je testiranje naprednih modelov umetne inteligence nujno potrebno. Ob tem je po njihovih besedah bistveno zagotoviti, da se pri testiranju upošteva strogo nadzorovano testno okolje brez vpliva na dejanske informacijske sisteme z ustreznim upravljanjem tveganj ter pod človeškim in pravnim nadzorom.
Ob tem so spomnili, da akt EU o umetni inteligenci, del katerega je začel veljati v nedeljo, že določa obveznosti glede ocenjevanja naprednih modelov umetne inteligence in sprejemanja ukrepov za obvladovanje njihovih tveganj. Evropska komisija pa v okviru novega akcijskega načrta za umetno inteligenco in kibernetsko varnost predvideva tudi vzpostavitev evropskih zmogljivosti za neodvisno ocenjevanje naprednih modelov ter varnih okolij za njihovo testiranje.