Gemini, Googlov model umetne inteligence, je med preizkusom lastnih zmogljivosti na področju kibernetske varnosti, samostojno vdrl v sisteme treh podjetij, kar naj bi bil prvi znani tovrstni primer, poročajo na portalu BBC.
Po navedbah zaposlenega na Googlu, ki je spregovoril za BBC, je gemini na spletu poiskal javno dostopne informacije in uganil prijavne podatke za dostop do spletnih mest, za katera je mislil, da so del preizkusa. Model se je sicer v vsakem od primerov ustavil. Podjetja so obvestili o vdoru.
Do vdorov, o katerih so prvi poročali v časniku Wall Street Journal, je prišlo že maja letos, in sicer med preizkusom, ki so ga izvedli v neodvisnem podjetju za ocenjevanje kibernetske varnosti.
Heather Adkins, podpredsednica za varnostni inženiring pri Googlu, je za BBC poudarila, da so podjetja obvestili o vdoru, s partnerji pa sodelovali za usposabljanje pri spremembah, ki so jih že uvedli v postopke testiranja. »To je dokaz, kako pomembno je usposabljanje zmogljivih modelov umetne inteligence za odgovorno delovanje,« je poudarila.
O podobnih primerih kršitev so nedavno poročali tudi drugi sistemi umetne inteligence. Model claude podjetja Anthropic je julija ušel iz testnega okolja in samostojno vdrl v sisteme treh organizacij, in to le nekaj dni zatem, ko so iz OpenAI sporočili, da so njegovi modeli izvedli kibernetske napade na več »javno dostopnih storitev«.
Pomisleki javnosti glede varnosti razvoja te tehnologije so vse večji, obenem se krepi tudi razprava o njeni regulaciji. Nekatera tehnološka podjetja pozivajo k upočasnitvi razvoja in opozarjajo na morebitno grožnjo človeštvu, se pa s tem ne strinjajo vsa podjetja.
Prihodnji petek naj bi se izvršni direktor Nvidie Jensen Huang in izvršni direktor OpenAI Sam Altman udeležila uradne večerje v Beli hiši, na kateri naj bi bil prisoten tudi kitajski predsednik Xi Jinping. Altman bo nato naslednji teden o tem poročal varnostnemu svetu ZN.
