David Dalrymple, programski direktor in strokovnjak za varnost umetne inteligence pri agenciji Aria, opozarja, da se človeštvu morda ne bo uspelo pravočasno pripraviti na tveganja, ki jih prinašajo najnaprednejši sistemi. V pogovoru za The Guardian je poudaril, da bi nas morala naraščajoča moč tehnologije resno skrbeti.
»Skrbeti bi nas morali sistemi, ki lahko opravljajo vse človeške funkcije, a bolje od nas,« pravi Dalrymple. »Če ne bomo ohranili prevlade na ključnih področjih, bomo izgubili nadzor nad svojo civilizacijo, družbo in planetom.«
To ni več znanstvena fantastika
Dalrymple opozarja na velik razkorak v razumevanju moči prihajajočih prebojev med javnim sektorjem in tehnološkimi podjetji. Po njegovih besedah ni več znanstvena fantastika pričakovati, da bodo stroji v prihodnjih petih letih prehiteli ljudi pri večini nalog, ki ustvarjajo gospodarsko vrednost.
Znanost o varnosti UI po njegovem mnenju ne bo napredovala dovolj hitro, da bi zagotovila zanesljivost sistemov, zato je edina preostala možnost poskus nadzora in ublažitve negativnih posledic. Dalrymple trenutno razvija sisteme za zaščito kritične infrastrukture, kot so energetski sistemi, saj meni, da človeštvo v ta prehod vstopa kot mesečnik.
Rapidno izboljševanje zmogljivosti
Britanski inštitut za varnost UI (AISI) potrjuje te napovedi in dodaja, da se zmogljivost naprednih modelov na nekaterih področjih podvoji vsakih osem mesecev.
Napredni modeli UI zdaj v povprečju v 50 odstotkih primerov uspešno opravijo naloge na ravni osebe, ki dela kot pripravnik (še lani je bil ta delež 10-odstoten), prav tako lahko UI-sistemi že avtonomno izvedejo opravila, za katera bi človeški strokovnjak potreboval več kot uro časa.
Testi so pokazali, da sta dva najnaprednejša modela v več kot 60 odstotkih primerov sposobna samoreplikacije (širjenja lastnih kopij na druge naprave), kar predstavlja resno varnostno tveganje, čeprav inštitut poudarja, da je uspeh v realnih pogojih za zdaj malo verjeten.
Samostojno izboljševanje do konca leta 2026
Dalrymple verjame, da bo UI do konca leta 2026 sposobna avtomatizirati celodnevno raziskovalno in razvojno delo. To bo privedlo do še večjega pospeška, saj se bo tehnologija lahko samostojno izboljševala v matematiki in računalništvu, ki sta ključni področji za razvoj umetne inteligence, še piše Guardian.
