Dogajanje na področju umetne inteligence se je v zadnjih tednih vrtelo zlasti okoli skrbi, da razkorak med stroški UI in koristjo tehnologije za produktivnost postaja nevzdržen za poslovanje podjetij, ki tehnologijo razvijajo. Sredi špekulacij, da zna UI-balonček naposled počiti, je podjetje Anthorpic ta teden sporočilo, da je njen najnovejši model claude mythos tako spreten pri programiranju, da je postal strokovnjak za hekanje.
Novica se je hitro razširila, odzval pa se je tudi ameriški finančni minister Scott Bessent. V Washington je na sestanek poklical vodilne može največjih ameriških bank zaradi zaskrbljenosti glede kibernetskih tveganj, ki jih predstavlja najnovejši Anthropicov model.
Mythos ni edini razlog, zakaj se je Antropic v zadnjem času znašel v medijih. Minister je sestanek sklical le nekaj tednov po tem, ko je ameriška vlada Anthropic označila za tveganje v dobavni verigi, ker podjetje ni želelo Pentagonu dati zelene luči za neomejeno uporabo njihove umetne inteligence. Konec marca pa je podjetje nehote objavilo dele claudove kode.
Odkril ranljivosti, ki so se skrivale že 27 let
Pri podjetju sicer trdijo, da je njihov najnovejši model presegel »vse razen najbolj veščih ljudi pri iskanju in izkoriščanju ranljivosti programske opreme«. In dodajajo: »Posledice – za gospodarstva, javno varnost in nacionalno varnost – bi lahko bile hude.« Najstarejše ranljivosti, ki jih je domnevno odkril mythos, so stare celo do 27 let. Pri Anthropicu verjamejo, da nobene od njih doslej niso opazili ne njihovi ustvarjalci ne nadzorniki tehnologije in da jih je odkril šele mythos.
Med udeleženci srečanja z ministrom so bili po poročanju Bloomberga, ki je prvi poročal o podrobnostih, izvršni direktor Goldman Sachsa David Solomon, Brian Moynihan iz Bank of America, Jane Fraser iz Citigroupa, Ted Pick iz Morgana Stanleyja in vodja Wells Farga Charlie Scharf. Povabljen je bil tudi Jamie Dimon iz JP Morgana, vendar se srečanja ni mogel udeležiti.
Anthropic je sporočil, da je njihov model mythos, ki javnosti še ni na voljo, odkril na tisoče ranljivosti v programski opremi in priljubljenih aplikacijah, kar jih je spodbudilo, da so dostop do novega modela omejili na ozko skupino podjetij, vključno z Amazonom, Applom in Microsoftom.
To je prvič, da je Anthropic omejil izdajo katerega koli svojega izdelka. Dostop sta dobili tudi mrežni podjetji Cisco in Broadcom, skupaj z neprofitno organizacijo Linux Foundation, ki spodbuja brezplačen, odprtokodni računalniški operacijski sistem Linux.