Zaradi varnostne pomanjkljivosti v orodju umetne inteligence Claude Code, ki razvijalcem pomaga pri pisanju računalniške kode, so na spletu pristali izjemno občutljivi podatki številnih podjetij. Varnostni raziskovalci podjetja Apiiro so namreč na priljubljeni spletni platformi GitHub, ki programerjem služi kot digitalno skladišče in okolje za sodelovanje pri projektih, odkrili več kot sto tisoč javno dostopnih nastavitvenih datotek tega orodja. V približno 1100 primerih so te datoteke vsebovale gesla za podatkovne zbirke, zasebne ključe in dostopne kode do različnih programskih vmesnikov.
Do nenamernega razkritja prihaja zaradi načina, kako Claude Code obravnava uporabniška dovoljenja. Ko razvijalec med delom izbere možnost, naj si orodje njegovo odločitev zapomni za naprej, se ta zapiše v lokalno datoteko na računalniku. V njej pa se lahko znajde tudi celoten izvedeni ukaz, ki pogosto vsebuje tajne podatke. Čeprav naj bi bila ta datoteka po zagotovilih podjetja Anthropic samodejno skrita pred objavo, zaščita v praksi odpove predvsem ob prenosu projektov med različnimi računalniki ali ob naknadni objavi kode na spletu. V nekaterih primerih naj bi orodje datoteko objavilo celo samo, poroča Ars Technica. Posledice so lahko dolgotrajne, saj občutljivi podatki ostanejo vidni v zgodovini sprememb, tudi če jih uporabnik pozneje izbriše.
Za napake vedo že od avgusta lani
Na varnostno tveganje so razvijalci opozarjali že avgusta lani, vendar brez uspeha. Boris Cherny iz ekipe Claude Code je v razpravi na forumu Hacker News konec tedna zapisal, da »preučujejo, kaj lahko storijo, da bi to preprečili«. Uporabnikom je svetoval dodatno samodejno pregledovanje kode z orodji, kot sta Gitleaks in TruffleHog. Raziskovalci medtem opozarjajo, da obstoječa varnostna orodja niso nezmotljiva, saj so spregledala približno petino vseh razkritih gesel.
Takšni spodrsljaji pri uporabi umetne inteligence niso osamljeni, saj je moralo tudi podjetje Meta nedavno začasno onemogočiti deljenje pogovorov pri svojem pomočniku Muse, ko se je izkazalo, da je bilo do zasebnih klepetov mogoče priti s preprostim ugibanjem spletnih povezav.