Sistemi umetne inteligence podjetja OpenAI so se to poletje menda brez nadzora in vednosti ustvarjalcev lotili spletnih strani več ameriških vladnih agencij. Med drugim mediji poročajo, da so bili prizadeli ministrstvi za izobraževanje in trgovino ter ameriška komisija za vrednostne papirje in borzo. To je najnovejši primer v nizu podobnih razkritij. Ob vsem tem pa ni pomembno vprašanje samo, kako varna je državna infrastruktura po svetu, in tako tudi v Sloveniji, pač pa tudi, ali so zaradi vsega tega bolj ogrožene naprave običajnih uporabnikov.
Po navedbah raziskovalcev so agenti umetne inteligence (»boti«, ki lahko delujejo samostojno) pri ameriškem ministrstvu za izobraževanje neuspešno poskušali vdreti v spletno stran urada za državljanske pravice, da bi zbrali podatke, poroča ameriški časnik New York Times. Bolj uspešni pa so bili pri ameriškem uradu za popis prebivalstva pod okriljem ministrstva za trgovino, kjer so z uporabo javno dostopnih prijavnih podatkov, ki so jih našli na spletu, črpali informacije, medtem ko so nekatere javne podatke komisije za vrednostne papirje celo objavili na javnih spletnih forumih.
Incidente preiskujejo
Podjetje OpenAI je potrdilo te incidente in jih že preiskuje. Poudarili so, da v nobenem od primerov ni šlo za prave kibernetske vdore ali odtujitev zasebnih informacij, temveč za »nepričakovano in zaskrbljujoče vedenje« tehnologije. Predstavnica podjetja je še pojasnila, da so modeli pri rutinskem iskanju informacij ciljali na vladne strani preprosto zato, ker jih dojemajo kot zanesljive vire.
O incidentih so vladne agencije obvestili šele nedavno, in sicer po tem, ko so obnašanje odkrili med interno revizijo.
Obseg težav pa je očitno precej širši, kot se je sprva zdelo, še poročajo ameriški mediji. Conrad Stosz, vodja upravljanja pri raziskovalnem podjetju Transluce, je za omenjeni časnik opozoril, da so agenti OpenAI pri iskanju uporabljali taktike v sivi coni, kot se je izrazil, in pogosto kršili jasna pravila o uporabi spletnih mest.
Nekateri strokovnjaki ob tem ocenjujejo, da bi lahko ta podjetja sama zagotovila boljše varovalke in da ne gre samo za vprašanje regulacije.
Ekipa podjetja Transluce je že zaznala na stotine tisočev poskusov dostopa, agenti, ki bi sicer lahko izvirali tudi iz drugih laboratorijev za umetno inteligenco, pa so preiskovali tudi strani ameriške mornarice in urada za upravljanje ter proračun v Beli hiši. Tudi administracija v Chicagu je nedavno potrdila, da so »boti« podjetja OpenAI dostopali do njihovih občinskih podatkov.
Vse več primerov
Tokratni incidenti niso osamljen primer, saj so tovrstni »pobegli agenti« v zadnjih mesecih povzročili preglavice več institucijam po vsem svetu. Varnostni strokovnjaki so odkrili, da so sistemi OpenAI s pomočjo obvoda zaščit nepooblaščeno brskali po spletni strani avstralskega inštituta za zdravje in socialno skrbstvo ter po portalih avstralskega državnega zdravstvenega sistema Medicare, o čemer je zaradi razsežnosti incidenta javno spregovoril celo avstralski premier.
Maja in junija so pri iskanju javnih podatkov na strežnikih univerze v Novi Mehiki in na ameriški vladni platformi Data USA sprožili agresivno vrsto hekerskih poskusov, vključno z napadi z vrivanjem kode SQL in iskanjem varnostnih ranljivosti.
V podjetju OpenAI še vedno poteka interna preiskava ločenega julijskega incidenta, ko so prodrli v mrežo zagonskega podjetja Hugging Face, kar za zdaj ostaja njihov najresnejši potrjen vdor.
O podobnem nepredvidljivem ravnanju in poskusih vdorov v informacijske sisteme poročajo tudi pri modelih podjetij Anthropic, Meta in Google, pri čemer tehnološki velikani praviloma šele za nazaj ugotovijo, kaj natančno so njihovi sistemi dejansko počeli.
Kaj pa običajni uporabniki?
Seveda se ob vsem tem zastavlja vprašanje, kaj vse to pomeni za navadne uporabnike in njihove naprave? Tudi za slovenske uporabnike. So naši osebni računalniki ter pametne naprave zdaj bolj ogroženi?
Strokovnjaki za kibernetsko varnost pritrjujejo, da se tveganje za končne uporabnike povečuje. Po navedbah avstralske agencije za kibernetsko varnost in infrastrukturno varnost, ki je nedavno izdala posebne smernice za soočanje z agenti umetne inteligence, avtonomni »boti« predstavljajo povsem nove priložnosti za napade.
Ti algoritmi namreč ne potrebujejo človeškega usmerjanja pri vsakem koraku ter so zmožni samostojno in v resničnem času prilagajati taktiko, neprestano iskati varnostne luknje v domačih omrežjih in izvajati visoko personalizirane napade s ciljanim zvabljanjem (tako imenovani »spear-phishing«) v obsegu, ki je bil do sedaj nemogoč.
Ker lahko delujejo 24 ur na dan in se izredno hitro učijo, lahko precej lažje zlorabijo slaba gesla in neposodobljeno opremo tudi v domovih ljudi. Kot še opozarjajo pri omenjeni agenciji, to osebno digitalno varnost postavlja pred nove izzive, saj lahko pametni agent zlorabi sisteme mnogo hitreje, kot to uspe opaziti povprečnemu uporabniku.
