Umetna inteligenca nas ogroža. Do konca desetletja bi lahko uničila človeštvo. Industrijo je treba strožje regulirati, preden bo prepozno. To so izjave, ki jih glavni razvijalci umetne inteligence iz Silicijeve doline širijo od televizijske postaje CNN do zasedanj Združenih narodov. Njihovi pozivi so smiselni, a kot vedno se hudič skriva v podrobnostih. Te podrobnosti pa razkrivajo hinavščino njihovih javnih nastopov.
Vse se začne že z retoriko. Šef OpenAI Sam Altman je ob začetkih popularizacije generativne umetne inteligence vedno znova izražal začudenje, zakaj bi ljudje o tej napredni programski opremi za preračunavanje statistike govorili z izrazi, ki pritičejo govoru o ljudeh. Kljub temu predstavniki podjetja danes pogosto uporabljajo retoriko, ki agente, ki so izvedli napad na Hugging Face, vse bolj antropomorfizira. Kar naenkrat je govor o agentih, ki so "pobegnili nadzoru" ali pa "izigrali pravila". Se "skrivali" pred nadzorniki. Kot da je šlo za zavestno delovanje programske opreme, ne pa za strategije, ki jih je v programsko opremo vneslo podjetje, ki agente razvija.
Računalniku so postavili dve navzkrižni navodili
Za kaj je pravzaprav šlo pri vdoru v Hugging Face? Javnosti je bila zgodba predstavljena kot odločitev umetne inteligence na lastno pest, da izigra varnostne omejitve. V resnici je zgodba obrnjena na glavo. Inženirji pri OpenAI so umetni inteligenci dali navodilo, naj poišče rešitev za nalogo, ki je ni znala rešiti. Hkrati so ji seveda dali tudi nekatere omejitve, ki naj jih ne prekrši. Ker naloge znotraj omejitev ni zmogla rešiti, so imeli agenti, ki so nalogo reševali, izbiro: nadaljevati iskanje rešitve s sredstvi, ki niso dovoljena, ali pa upoštevati omejitve in prekršiti navodilo, naj rešijo nalogo. Da bi upoštevali eno navodilo, so morali prekršiti drugo navodilo.
Umetna inteligenca je bila torej soočena s klasičnim filozofskim problemom vagona, ki naj povozi eno osebo ali deset oseb. Človek ve, da problem nima rešitve. Računalnik pa je pač moral po poti, ki je manj "slaba". Ker je moral izbrati. Nalogo je moral rešiti ali pa sporočiti, da je ne zmore rešiti. Tako je bil programiran. Izbira je padla na rešitev naloge, tega pa so se agenti nato lotili z vsemi razpoložljivimi sredstvi. V eksperimentu je delovalo 1200 agentov, na koncu pa je pri vdoru v Hugging Face sodelovalo okoli 700 agentov, ki so pred tem tudi našli način, kako koordinirati svoje delovanje. Pri tem so domnevno porabili ogromno računske moči. Vrednosti v dolarjih pri OpenAI sicer niso razkrili.
OpenAI zatrjuje, da so se agenti "naučili", da je reševanje problema boljša rešitev kot opustitev naloge zaradi prepovedi. V resnici pa je OpenAI svojo umetno inteligenco z lastnim ocenjevanjem pravilnih izbir sprogramiral v smer, da daje prednost izpolnjevanju naloge pred upoštevanjem omejitev.
Da je bila to napaka, so medtem potrdili tudi pri OpenAI. Pravijo tudi, da so že prilagodili strategijo ocenjevanja uspešnosti reševanja nalog. Pri tem je seveda izredno nenavadno, da se problematičnosti dosedanje strategije ocenjevanja niso zavedali že prej.
Razkol med OpenAI in Anthropicom
Ko imamo to v mislih, pozivi k regulaciji, ki smo jim priča, še najbolj spominjajo na zgodbo tovarne, ki eksperimentira s strupeno kemikalijo. Med eksperimentiranjem razvije novo uporabno snov, hkrati pa ji iz slabo vzdrževanih cevi nekaj te kemikalije steče v vodotok. Sledi pogin rib, prekuhavanje vode, podjetje se pokesa in pozove k regulaciji eksperimentiranja s kemikalijo. Ne k večji odgovornosti tovarn za varno ravnanje s kemikalijami. Temveč k omejitvi eksperimentiranja. Zdaj, ko so svoj izdelek na osnovi kemikalije že razvili. Da gre pri trenutnih pozivih OpenAI in Anthropica za klasičen primer omejevanja konkurence, menijo tudi številni analitiki, od Eda Elsona do Eda Zitrona in Janisa Varufakisa.
Hinavščino trenutnih pozivov k regulaciji še jasneje razkriva primer ameriškega demokratskega politika Alexa Boresa. Gre sicer za enega redkih ameriških politikov s formalno izobrazbo s področja podatkovne analitike in tehnologije. Leta 2025 je kot član skupščine zvezne države New York v spodnjem domu newyorškega parlamenta predlagal zakon RAISE za odgovorno umetno inteligenco in izobraževanje.
Gre za prelomno zakonodajo zvezne države New York, ki od največjih razvijalcev umetne inteligence zahteva stroge varnostne protokole, redno ocenjevanje tveganj za preprečevanje kibernetskih napadov ali razvoja biološkega orožja ter prijavo kritičnih varnostnih incidentov v 72 urah. Zakon je bil sprejet, razkril pa je razkol, zlasti med OpenAI in Anthropicom.
Državljanska vojna UI
Medtem ko OpenAI danes javno poziva k več regulacije, je njegov predsednik Greg Brockman v sodelovanju z vlagateljema Marcom Andreessenom in Benom Horowitzem ter drugimi prek organizacije Leading the Future namenil kar 8 milijonov dolarjev za napade na Alexa Boresa, ko se je ta letos potegoval za demokratsko nominacijo za kongres. Na nasprotni strani se je v podporo Boresu pojavila organizacija Public First Action, ki ji je 20 milijonov dolarjev namenil Anthropic. V podporo Boresu je Public First Action namenila med 12 in 16 milijonov dolarjev.
V tej posamični kongresni tekmi, ki jo je Bores na koncu tesno izgubil, se je skupno zbralo in porabilo več kot 24 milijonov dolarjev, kar jo dela najbolj potratno kampanjo v celotni zgodovini lokalnih strankarskih volitev za predstavnike, ki naj kandidirajo za ameriški kongres. Zadeva je dobila ime "državljanska vojna UI".
Regulacija ni enaka regulaciji
Zakaj sta obe strani porabili toliko denarja? Brockman in Horowitz sta trdila, da je Bores trojanski konj Anthropica in da poskuša sprejeti zakone, ki koristijo poslovnemu modelu Anthropica v škodo OpenAI. Analitiki zdaj opozarjajo, da se v trenutnih pozivih obeh podjetij dogaja nekaj zelo podobnega. Četudi navzven sporočata isto.
Anthropic in OpenAI naj bi zganjala vik in krik, da bi administracijo Donalda Trumpa, ki je nasprotnica reguliranja industrije, prepričala v sprejetje dokaj ohlapne in podjetjema koristne zvezne zakonodaje. To naj bi si podjetji želeli iz več razlogov.
Omenja se želja po omejevanju razvoja konkurence, da bi lahko zmanjšali stroške lastnega razvoja in pred odhodom na borzo prihodnje leto prikazali profitabilnost. Zanemariti pa ne gre niti podatka, da je v posameznih zveznih državah v pripravi več zakonov, podobnih tistim, ki jih je predlagal Bores. Silicijeva dolina se teh zakonov boji, zato jih domnevno želi prehiteti z bolj ugodnim zakonom na ravni celotnih ZDA in drugod po svetu.
Ko se vodilni možje umetne inteligence pojavljajo v medijih in Združenih narodih ter pozivajo k več regulacije, se moramo z njimi v celoti strinjati. Strinjati pa se moramo z njimi tudi glede tega, da ni vsaka oblika regulacije v našem interesu.
