Strojna inženirka Caitlin Kalinowski je pred dnevi sporočila, da je zaradi spornega dogovora podjetja OpenAI z ministrstvom za obrambo odstopila s položaja vodje ekipe za strojno opremo.
Proti morilskim robotom
»To ni bila lahka odločitev,« je zapisala v objavi na družbenih omrežjih. Čeprav pravi, da ima umetna inteligenca pomembno vlogo pri zagotavljanju nacionalne varnosti, opozarja, da je podjetje OpenAI z dogovorom s Pentagonom prestopilo »kritično točko«.
Izpostavila je predvsem dva sporna vidika: izvajanje nadzora nad državljani brez sodnega nadzora in razvoj avtonomnih ter smrtonosnih sistemov, ki bi lahko delovali brez človeške potrditve.
Caitlin Kalinowski, ki je pred tem pri Meti vodila ekipo za razvoj očal za razširjeno resničnost, se je podjetju OpenAI pridružila novembra 2024. Podjetje zapušča po poldrugem letu, rekoč, da gre pri odločitvi za njena osebna načela. Dodala je tudi, da goji globoko spoštovanje do izvršnega direktorja Sama Altmana in ekipe OpenAI.
Brez varovalnih mehanizmov
V objavi na platformi X pa je svojo odločitev še dodatno pojasnila: »Da ne bo pomote, moja težava je v tem, da je bil sporazum prenagljen, ne da bi bili določeni varovalni mehanizmi. Gre predvsem za vprašanje upravljanja. Te zadeve so preveč pomembne, da bi hiteli.«
OpenAI obljublja »odgovorno rabo UI«
Tiskovni predstavnik OpenAI je za ameriške medije potrdil njeno odpoved. Ob tem je zatrdil, da »dogovor s Pentagonom ustvarja izvedljivo pot za odgovorno rabo umetne inteligence na področju nacionalne varnosti, hkrati pa jasno določa meje«. Meje, o katerih govori, naj bi pomenile, da tehnologije ne bodo uporabljali za nadziranje prebivalstva in razvoj avtonomnega orožja.
Anthropic želel jasnejše varovalke
Dogovor OpenAI s Pentagonom je bil objavljen pred dobrim tednom, potem ko so propadla pogajanja med Pentagonom in podjetjem Anthropic, pod okrilje katerega sodi klepetalni model claude.
Dogovor z Anthropicom je padel v vodo, ker je podjetje hotelo natančneje doreči varovalke, ki bi preprečile uporabo tehnologije za nadzor nad ameriškim prebivalstvom in izdelavo popolnoma avtonomnih morilskih robotov. Ameriško obrambno ministrstvo je Anthropic označilo za tveganega partnerja, nakar je s svojo ponudbo vskočil OpenAI.
Sodelovanje Pentagona z OpenAI je po prvih podatkih slednjemu škodilo. Število odstranitev aplikacije chatGPT je naraslo za 295 odstotkov, medtem ko se je Anthropicov claude povzpel na vrh lestvice največkrat prenesenih aplikacij v App Store. Na družbenih omrežjih se ob tem množično širijo pobude k bojkotu chatGPT.