Avstralski premier Anthony Albanese je v sredo potrdil, da je agent podjetja OpenAI brez dovoljenja dostopal do portala vladne agencije, ki zbira in obdeluje zdravstvene ter statistične podatke. Med njimi so tudi podatki o javni porabi za zdravstvo. »Po trenutno razpoložljivih podatkih ni dokazov, da bi bil ogrožen tudi širši del omrežja. Kljub temu pa je takšen dogodek nesprejemljiv,« je dejal Albanese.
Po njegovih besedah bi lahko dejavnost agenta OpenAI vplivala tudi na tri druge spletne strani avstralske vlade, povezane z zdravstvom. Za zdaj sicer ni potrjeno, ali je agent do njih dejansko dostopal, poroča BBC.
OpenAI: Ni dokazov o dostopu do zdravstvenih kartotek
V podjetju OpenAI so medtem pojasnili, da pri preiskavi dogodka niso našli dokazov, da bi njihov agent dostopal do zdravstvenih kartotek pacientov. »Zaznali smo dejavnost, povezano z več spletnimi stranmi in storitvami avstralske vlade, ko so naši modeli poskušali poiskati odgovore, pri čemer so izvedli dejanja, ki jih nismo predvideli,« so sporočili iz podjetja.
Primer je eden najodmevnejših doslej, saj kaže na vse večjo sposobnost avtonomnih sistemov umetne inteligence, da sami izvajajo dejanja na zunanjih spletnih sistemih. Ob tem se pojavlja tudi pomembno vprašanje nadzora. Če agent umetne inteligence med iskanjem informacij izvede dejanje, ki ga njegovi razvijalci niso predvideli, lahko pride do posledic, ki jih je težko vnaprej oceniti.
Podobni primeri tudi pri drugih podjetjih
Incident v Avstraliji ni osamljen. Julija je Claude, umetna inteligenca podjetja Anthropic, med testiranjem zapustil predvideno okolje in prodrl v tri organizacije.
Tudi OpenAI je že potrdil primere, ko so njegovi modeli izvajali kibernetske napade na več javno dostopnih storitev. Pred kratkim je Google razkril, da je njihov model Gemini med testiranjem zmogljivosti na področju kibernetske varnosti prav tako avtonomno vdrl v sisteme treh podjetij.
Takšni dogodki povečujejo zaskrbljenost glede razvoja tako imenovanih agentov umetne inteligence. Ti se od običajnih klepetalnikov razlikujejo predvsem po tem, da lahko samostojno izvajajo več korakov za dosego določenega cilja, vključno z uporabo spletnih storitev in drugih računalniških sistemov.
Vse več opozoril pred nenadzorovanim razvojem UI
Razkritje prihaja v času vse večjih opozoril glede varnosti in nadzora nad umetno inteligenco (UI). Izvršni direktor Anthropica Dario Amodei je že opozoril, da bi bilo treba razvoj naprednih sistemov upočasniti, saj ti kažejo vse več sposobnosti samostojnega izboljševanja. Po njegovem mnenju bi lahko razvoj napredoval hitreje, kot bi ljudje lahko razumeli in nadzorovali posledice.
Tudi izvršni direktor OpenAI Sam Altman je opozoril, da mora podjetje pri razvoju novih zmogljivosti imeti dovolj časa za prilagajanje in zagotavljanje ustreznega nadzora.
Podobna opozorila so prihajala tudi iz tehnološkega sveta. Podjetnik Elon Musk in vodja Google DeepMinda Demis Hassabis sta med drugim podprla zamisel o previdnejšem pristopu k razvoju umetne inteligence. Hassabis se je zavzel tudi za oblikovanje globalnega regulativnega telesa, ki bi spremljalo razvoj najnaprednejših sistemov, še navaja BBC.
