Raziskovalec umetne inteligence Jacob Coxon je v sredo sporočil, da zapušča Anthropic, pred tem pa je delal tudi pri OpenAI. Obe podjetji je obtožil, da ne razvijata umetne inteligence dovolj odgovorno in da s svojim ravnanjem »tvegata naša življenja«. Njegova objava na omrežju X je hitro postala viralna in spodbudila več njegovih nekdanjih in sedanjih kolegov, da so javno izrazili podobne pomisleke.
Anna Wang, ki se pri Anthropicu ukvarja z varnostjo umetne inteligence in je pred tem delala pri Googlovem DeepMindu, je potrdila, da si številni zaposleni želijo upočasnitve razvoja, dokler ne bo pripravljen načrt za obvladovanje tveganj.
Še bolj neposreden je bil Samuel Marks, ki pri Anthropicu dela na področju varnostnih raziskav. Pravi, da razvijalci umetne inteligence verjamejo, da bi njihova tehnologija lahko povzročila izumrtje človeštva oziroma druge izjemno hude posledice, kar bi se lahko zgodilo že v nekaj letih. Ocenil je, da so bolj izkušeni in višje uvrščeni zaposleni praviloma bolj zaskrbljeni.
Evan Hubinger, ki se v podjetju ukvarja z usklajevanjem umetne inteligence s človeškimi cilji, je Coxonovo opozorilo označil za upravičeno. Zapisal je, da v industriji iskreno verjamejo, da bi umetna inteligenca lahko ubila vse ljudi, sam pa ocenjuje, da je verjetnost takšnega izida v prihodnjem desetletju več kot desetodstotna.
Naj resna opozorila jemljemo resno ali neresno?
Gre torej za več kot zgolj opozorila nezadovoljnih zaposlenih, ki želijo očrniti podjetje. Gre za javno komunikacijo vodilnih ljudi pri Anthropicu. Četudi vsebine njihovih izjav ne bi jemali resno, bi morali še kako resno vzeti samo komunikacijo. To stališče si deli vedno več analitikov, ki se ukvarjajo s področjem umetne inteligence.
»Vedno znova se pojavljajo nove napovedi, kako nam bo škodila UI, mi pa naj jim preprosto verjamemo na lepe oči. Ker smo nevedni, oni pa vedo, kaj je najbolje? Hkrati pa bi bilo strašno neodgovorno, če tega svarila ne bi vzeli resno. Zato ga moramo vzeti resno. Nimamo izbire,« je v svoji oddaji Prof G Markets spomnil finančni analitik Ed Elson. »To pa pomeni, da temeljito preiščemo, kaj govorijo. To pomeni, da je treba izvesti zvezno preiskavo njihovih navedb. Pripeljati je treba te raziskovalce v Washington, kjer naj pričajo pred kongresom. To pomeni, da OpenAI in Anthropic dobita pozive na zaslišanje in predajo dokumentacije, ki potrjuje njihove navedbe. Šlo je za korporativno komuniciranje, ki je relevantno za vlagatelje in družbo. Zato je to treba pojasniti. Če ugotovimo, da so bile njihove trditve neresnične ali da so pretiravali, je morda čas za ovadbe. Ker veste kaj, zdaj potencialno govorimo o borznih prevarah oziroma o hudem zavajanju javnosti. Te napovedi lahko jemljemo resno ali pa ne. Ne moremo jih jemati resno in neresno hkrati.«
Elson potencialno borzno prevaro seveda omenja, saj se Anthropic in OpenAI pripravljata na odhod na borzo, s poveličevanjem zmogljivosti njune tehnologije pa bi si lahko umetno dvigovala zanimanje vlagateljev.
Zelo kritičen je bil tudi Musk. Na omrežju X je zapisal, da se mu zdi dogajanje okoli Coxonovega odhoda »nastavljeno«. Pozneje je podprl teorijo, da gre za tako imenovano psihološko operacijo oziroma usklajeno kampanjo, katere cilj naj bi bil vplivati na javno mnenje o umetni inteligenci.
Regulacija ali zaviranje konkurence?
Musk se je sicer z objavo odzval na oceno Parkerja Thayerja, raziskovalca konservativnega inštituta Capital Research. Ta je brez navedbe dokazov ugibal, da bi Coxonova objava lahko bila začetek zelo dobro financirane operacije za pridobivanje podpore demokratom in strožjemu reguliranju umetne inteligence.
Kritike regulacije sicer niso neutemeljene. Ključno je namreč, za kakšno obliko regulacije gre. Tehnološka podjetja, kot je Meta, so s pomočjo regulacij v preteklosti že poskušala zapreti vrata za seboj in onemogočiti konkurentom, da bi jih dohiteli. Podobne skrbi se porajajo na področju umetne inteligence.
Zlasti se pojavljajo skrbi, da bi velika trojica Anthropic, OpenAI in Google poskušala postopoma prepričati zakonodajalce o prepovedi odprtokodnih modelov umetne inteligence oziroma modelov z odprtimi utežmi. To bi bil hud udarec za tekmovanje evropskih modelov v ZDA. Vplivalo bi tudi na kitajske, ki pa bi imeli še vedno zelo veliko podporo na domačem trgu.
Obstajajo tudi že argumenti za prepoved teh modelov. Najpogostejši je varnost. Ker odprtokodni modeli posameznikom dovolijo, da sami razvijajo model na lastni infrastrukturi, bi ga lahko v teoriji pripravil do izdelave biološkega ali kakšnega drugega orožja. Varnostni ukrepi zaprtih modelov medtem stremijo k temu, da to ne bi bilo mogoče.
Ed Zitron, eden bolj glasnih kritikov tehnološke industrije, pa pozive po brzdanju razvoja vidi drugače. Opozorila o nevarnostih umetne inteligence vidi kot strategijo zakrivanja dejstva, da največjim razvijalcem usiha dostop do kapitala za gradnjo podatkovnih centrov. Ker želijo hkrati ohraniti prednost pred konkurenco in preprečiti sesutje poslovnega modela, naj bi jim ustrezalo, če bi razvoj upočasnili vsi.