Po pisanju Politica je v evropski tehnološki industriji vse glasnejše nasprotovanje po njihovem mnenju pretiranemu strahu pred umetno inteligenco (UI), ki se je v zadnjih tednih pod taktirko šefa Anthropica Daria Amodeija in šefa OpenAI Sama Altmana začel širiti v javnem diskurzu. James Wise, partner sklada Balderton Capital in predsednik britanskega državnega sklada za suvereno umetno inteligenco, je dejal, da je razprava zašla v smer opozoril, da prihaja »Terminator«, česar sam ne pričakuje.
Strahovi pred naprednimi modeli so se okrepili po več incidentih, med drugim po poletnem vdoru avtonomnih agentov OpenAI v platformo Hugging Face. Nekdanji Anthropicov zaposleni Jacob Coxon je v začetku septembra opozoril, da bi lahko umetna inteligenca kmalu »vdrla v kar koli« in povzročila smrt ljudi. O varnosti umetne inteligence so medtem razpravljali tudi voditelji držav. Na zasedanju generalne skupščine ZN in posebnem srečanju skupine G7, pa tudi pred četrtkovim srečanjem ameriškega predsednika Donalda Trumpa in kitajskega voditelja Xi Jinpinga, je bilo vprašanje nadzora nad umetno inteligenco med pomembnejšimi temami. Predstavniki 22 držav so v ponedeljek sprejeli deklaracijo, v kateri so poudarili, da mora umetna inteligenca ostati pod človeškim vodstvom in nadzorom.
Težava je lahko precej bolj vsakdanja
Kibernetskovarnostni strokovnjaki medtem opozarjajo, da lahko takšna razprava, ki se vrti okoli hipotetične stopnje razvoja umetne inteligence, odvrne pozornost od konkretnih varnostnih pomanjkljivosti, ki so resnični vzrok za omenjene incidente. Alexandru Voica iz britanskega podjetja Synthesia meni, da bi bilo treba več energije nameniti uveljavljanju obstoječih pravil in standardov v praksi ter manj teoretičnim tveganjem in poročilom iz ameriškega kroga zagovornikov najbolj črnih scenarijev. Kibernetskovarnostni raziskovalec Marcus Hutchins, ki je leta 2017 pomagal ustaviti izsiljevalski napad WannaCry, opozarja, da takšni scenariji pogosto ne upoštevajo sposobnosti in ravnanja dejanskih človeških hekerjev.
Kot primer navajajo opozorilo izvršnega direktorja Anthropica Daria Amodeija, da bi lahko agent umetne inteligence prevzel internet. Strokovnjaki za kibernetsko varnost so takšno trditev javno problematizirali. Podobno po njihovem velja za incident na Hugging Face, ki ga je v govoru o stanju Evropske unije omenila tudi predsednica evropske komisije Ursula von der Leyen. Po oceni kritikov dogodek ni toliko pokazal na model, ki bi se osvobodil nadzora, temveč na pomanjkljivo tehnično izolacijo oziroma neustrezno uporabo tako imenovanega peskovnika oziroma varnega okolja za preizkušanje programske opreme, preden se ji prižge zelena luč za dejanski zagon.
OpenAI je vedel, česa je model sposoben
Hutchins pravi, da je OpenAI vedel, da je bil model zelo učinkovit pri izkoriščanju programskih ranljivosti, vendar ga je kljub temu v preizkusu z zmanjšanimi varovalkami usmeril prav v takšno ravnanje. Po njegovih besedah podjetje agentov ni ustrezno ločilo od odprtega interneta in med seboj ter sistemov ni dovolj natančno spremljalo, da bi lahko pravočasno posredovalo.
Pozive, naj se uvede ukrepe za upočasnitev razvoja UI, bi v tej luči morali razumeti zlasti kot pozive, naj jim politiki preprečijo, da bi se z umetno inteligenco igrali tako neodgovorno, kot to počnejo trenutno. Takšna odgovornost pa se ne začne s prepovedjo konkurence, temveč z uvedbo resnih ukrepov za neodgovorno ravnanje industrije. Zaradi izliva strupene kemikalije v reko ne prepovemo kemikalije, temveč kaznujemo odgovorne za izliv. Tudi sicer številni strokovnjaki že dolgo opozarjajo, da bi se takšni incidenti, kot je bil vdor v Hugging Face, hitro končali, če bi odgovorni v podjetjih prevzeli kazensko odgovornost za škodo, ki jo povzročijo njihovi izdelki, ko poskušajo izpolniti njihova izrecna navodila.
Pomembno je namreč poudariti, da umetna inteligenca v računalniške sisteme ni vdrla na lastno pest. Razvijalci so ji dali nalogo, ta pa jo je poskušala rešiti z vsemi orodji, ki so ji jih dali na voljo. Ob tem si je pomagala z rojem, ki je obsegal med 700 in 1200 agentov. OpenAI ni razkril, koliko računske moči so agenti porabili za vdor, najverjetneje pa je govor o izredno visokih številkah, ki močno presegajo stroške, ki jih imajo hekerji, ko vdirajo v sisteme.