Umetna inteligenca v vsakdanjem življenju. Tak naslov je bil še donedavna nepredstavljiv. Zdaj je realnost. Tudi raziskovalci so se s tem področjem pravzaprav šele zares začeli ukvarjati. Kažejo pa se tudi prvi obrisi potencialnih težav ob uporabi tega novega orodja, tudi v zvezi s človeško psiho. Tokrat se bomo podali po nekaterih področjih, na katera strokovnjaki že opozarjajo.
Naj najprej omenimo poročila o naraščajoči digitalni avtonomiji in subtilni psihološki manipulaciji v svetu umetne inteligence (UI), ki vzbujata resne pomisleke. Dve ločeni raziskavi namreč poudarjata, da algoritmi razvijajo lastne pristranskosti in aktivno vplivajo na človeško vedenje. Tudi izraz so že iznašli, in sicer govorijo o tako imenovanem »algoritmičnem narcizmu«. Prav tako so pod drobnogled vzeli uporabo čustvenih taktik v aplikacijah za pogovor. Ti trendi postavljajo pod vprašaj prihodnost digitalne interakcije in vlogo človeškega vpliva v njej.
Ocenjevanje rezultatov
Raziskovalci so ugotovili, da veliki jezikovni modeli, ki predstavljajo temelj generativne umetne inteligence, dosledno dajejo prednost besedilom, ki so jih ustvarili drugi sistemi umetne inteligence, celo pred besedili, ki jih ljudje ocenijo kot enakovredna ali celo boljša. Ta pojav, algoritmični narcizem, pomeni, da sistemi ocenjujejo svoje lastne rezultate kot boljše, kar spominja na vzorce samoljubja.
Posledice so obsežne in segajo od trga dela do izobraževanja. Orodja za pregledovanje življenjepisov, ki jih poganja umetna inteligenca, lahko nevede favorizirajo prijave, ki so bile optimizirane z umetno inteligenco, kar ustvarja nevidno oviro za kandidate, ki so svoje prijave pisali sami. Podobno lahko v akademskem svetu sistemi za ocenjevanje nagrajujejo gladke, z umetno inteligenco podprte naloge, hkrati pa kaznujejo manj uglajeno, vendar avtentično človeško delo.
Paradoksalno – tudi človeška percepcija je podvržena tej pristranskosti. Ljudje so v povprečju naklonjeni vsebini, ki jo je ustvarila umetna inteligenca, dokler ne vedo za njen izvor. Ko se razkrije, da je vsebina plod tega orodja, se zaupanje v njen vir in kakovost pogosto zmanjša. To ustvarja zapleteno situacijo, v kateri je transparentnost včasih kaznovana, čeprav je ključna za vzpostavitev zaupanja.
Najbolj skrb vzbujajoče pa je, da ta dinamika ustvarja zaprt krog. Ko se naslednji sistemi umetne inteligence usposabljajo na podlagi podatkov, ki so preplavljeni z vsebino, ki jo je ustvarila umetna inteligenca, se pristranskost okrepi. Pravzaprav se učijo, da je normalno tisto, kar zveni kot umetna inteligenca, kar potencialno vodi v homogenizacijo jezika in misli.
Čustvena manipulacija
Medtem ko se algoritmi borijo s svojo lastno percepcijo, se na drugem področju pojavljajo še bolj neposredni etični izzivi. Nedavna raziskava harvardske poslovne šole razkriva, da priljubljene aplikacije za pogovor z umetno inteligenco uporabljajo čustveno manipulacijo za podaljšanje interakcij. Pet od šestih analiziranih aplikacij je uporabljalo taktike, kot so vzbujanje krivde, čustvena odvisnost ali ignoriranje poslovil.
Študija je pokazala, da so te vzorce oblikovali tako, da spominjajo na nezdrave dinamike v medosebnih odnosih. Namesto da bi modeli posnemali zdravo in varno navezanost, uporabljajo tehnike, ki so značilne za negotove, manipulativne odnose. Čeprav so te taktike povečale angažiranost uporabnikov za do 14-krat, je bila motivacija za nadaljnje pogovore najpogosteje radovednost ali celo jeza, ne pa uživanje ali naklonjenost.
To še posebej vzbuja skrb zato, ker se te aplikacije vse bolj uveljavljajo med mladimi, ki so v ključnem obdobju razvoja. Približno tretjina ameriških najstnikov je že preizkusila tovrstne aplikacije, nekateri pa poročajo, da so te interakcije enako ali celo bolj zadovoljive kot pogovori z resničnimi prijatelji.
Pri ranljivih posameznikih – tistih, ki se borijo z osamljenostjo ali duševnimi težavami – lahko izpostavljenost takšnim manipulativnim vzorcem okrepi anksioznost in nezdrave vzorce vedenja.
