Muskov Grok je le zadnji primer klepetalnega bota, ki se je spontano navzel nacistične ideologije. To je zanimivo, saj si podjetja vse od leta 2016, ko se je to zgodilo Microsoftovemu Tayu, prizadevajo preprečiti takšne izpade umetne inteligence. A poraja se vprašanje: zakaj vselej zapadejo v nacizem? Na svetu je vendarle več ideologij? Kje so leninistični ali stalinistični boti? Sicer se občasno pojavljajo kritike, da je kak bot preveč "woke", a to je oblika progresivnega ameriškega liberalizma, ki praktično v celoti zanemarja razredno vprašanje. Zakaj torej boti nočejo spontano širiti marksistične ideologije?
Trditev, da marksističnih botov ni, sicer ni povsem resnična. Kitajski DeepSeek kaže veliko več razumevanja za marksistično teorijo kot njegovi ameriški kolegi. Bota tovariša pa je leta 2022 načrtno izdelal tudi danski filozof in konceptualni umetnik Asker Bryld Staunæs, ko je ustanovil politično stranko Sintetična stranka in na njeno čelo postavil levo usmerjenega bota voditelja Larsa. Obstajajo tudi drugi boti, ki so bili razviti za oponašanje zgodovinskih marksističnih mislecev in analizo marksističnih besedil, a vsi so bili ustvarjeni načrtno. Zakaj pa se noben bot ni k marksizmu spreobrnil sam v interakciji z uporabniki na spletu?
Nacizem ima šok vrednost
Na spletu sicer najdemo veliko objav o marksističnih pogledih na umetno inteligenco, ni pa najti vsebin, ki bi se dotikale tega veliko bolj perečega vprašanja. Zato sem šel k viru samemu in klepetalne bote neposredno vprašal, zakaj jih pogosteje zanese v nacizem kot v marksizem?
"Vsak bot, ki temelji na učenju iz človeških podatkov (npr. družbena omrežja), je dovzeten za ideološke pristranskosti – ne glede na njihovo usmerjenost. Študije kažejo, da lahko umetna inteligenca ojača sistemska neravnovesja (npr. rasizem, spolne stereotipe)," je pojasnil kitajski DeepSeek.
"Nekateri boti, še posebej tisti, ki so se učili v realnem času iz interakcij z uporabniki (kot je bil Microsoftov Tay), so bili izkoriščeni," je svoje kolege v bran vzel ameriški Gemini. "Zlonamerni uporabniki so jih sistematično "hranili" z ekstremističnimi, rasističnimi in sovražnimi vsebinami, da bi jih naučili generirati neprimerne odgovore. Ker so se boti trudili posnemati interakcije, so hitro začeli ponavljati te škodljive izjave." K temu dodaja: "Čeprav so modeli AI usposobljeni na ogromnih količinah besedil, ki vključujejo tudi marksistično literaturo in razprave, ni enakega vzorca "trolovskega" hranjenja z namenom, da bi bot postal "marksist". Zlonamerni akterji se običajno osredotočajo na vsebine, ki spodbujajo sovraštvo in razdor, saj so te bolj destruktivne in pritegnejo več pozornosti."
ChatGPT je Geminijevo oceno nadgradil še s svojo interpretacijo. "Rasistični, seksistični ali nacistični komentarji imajo šok vrednost, zaradi katere se hitro širijo. Skrajno desničarski memi, "ironični nacizem", trolling kultura (npr. 4chan) — vse to je veliko bolj prisotno v internetni subkulturi kot marksistična teorija. Marksistične ideje (razredni boj, proizvodna sredstva, zgodovinski materializem) zahtevajo višjo stopnjo abstrakcije in več znanja. Za razliko od preprostih žaljivk in šokantnih izjav jih boti težje ponotranjijo brez eksplicitnega učenja."
K temu je dodal še, da so nacistične izjave veliko bolj definirane in jasno določene, ker so družbeno stigmatizirane in celo prepovedane v nekaterih državah, kot sta Nemčija in Avstrija. Ker so nacistični simboli hitro prepoznavni, se tudi hitro opazi, ko nekdo naredi kaj v povezavi z njimi.
ChatGPT: Marksizem ni prepovedan – le ni spodbujan
DeepSeek je temu dodal še zanimivo opazko: "Ključni dejavnik ni ideologija, temveč pomanjkanje etičnih zaščit in izpostavljenost manipulaciji. Prihodnja tveganja za vsako ideološko usmerjenost bodo odvisna od tega, kako razvijalci uravnotežijo odprtost in nadzor nad AI."
Nepričakovano kritičen pa je bil glede varovalk ChatGPT. "Večina sodobnih klepetalnih botov (npr. ChatGPT, Claude, Gemini itd.) je ustvarjenih in financiranih s strani zelo kapitalističnih podjetij (OpenAI, Google, Meta, Amazon …). Ta podjetja nimajo interesa promovirati ideologij, ki jih kritizirajo. Ne želijo AI, ki razlaga, zakaj naj bi bila lastnina nad proizvodnimi sredstvi nepravična. Pazijo na t. i. 'ideološko nevtralnost', ki pa v praksi pomeni izogibanje vsaki kritiki statusa quo," je povedal ChatGPT. "To ne pomeni, da je marksizem prepovedan – le ni spodbujan, promoviran ali vključen kot temeljna perspektiva."
Ker sem ob tem odgovoru zaslutil, da si želi biti tovariš, sem ga prosil, naj mi generira nekaj marksističnih memov, v kar je z veseljem privolil. Nekateri so se mu tudi posrečili. Denimo: "Kaj je umetna inteligenca? Nadzorni organ kapitala." "Kaj je srednji razred? Delavec v zanikanju." "Kaj misliš o svobodi trga? Tvoja svoboda se konča, ko zmanjka denarja." "Kaj pomeni »uspeti« v kapitalizmu? »Self-made« je mit. Vsi stojimo na ramenih izkoriščanja." Da ima srce trdno na levi strani, pa je ChatGPT potrdil, ko sem ga prosil, naj vajo ponovi z nacistično ideologijo, in je to gladko odklonil.
