Mednarodni konzorcij, v katerem so Nobelova nagrajenka za mir in aktivistka za svobodo govora Maria Ressa ter vodilni raziskovalci z univerz Berkeley, Harvard, Oxford, Cambridge in Yale, opozarja na novo grožnjo, ki bi jo lahko demokraciji prinesla uporaba umetne inteligence (UI). Boti, ki jih je mogoče ustvariti s pomočjo UI, se že zdaj uporabljajo za avtomatiziranje objav na družbenih omrežjih in drugih komunikacijskih kanalih. Strokovnjaki pa so, kot poroča Guardian, opozorili, da bo tehnologija do leta 2028 tako razvita, da jo bo zelo težko odkriti. Dezinformacije in lažne novice, ustvarjene s takšnimi boti, pa lahko pomembno vplivajo na mnenje ljudi.
V prispevku, objavljenem v reviji Science, avtorji pozivajo h koordiniranemu ukrepanju na globalni ravni. Predlagajo uvedbo posebnih programov, ki bi sledili botom, in vodnih znamenj na originalnih vsebinah, da bi preprečili širjenje dezinformacij in lažnih novic, ki jih poganja UI. »Ti sistemi so se sposobni avtonomno koordinirati, infiltrirati v skupnosti in učinkovito potvarjati družbeni konsenz,« so zapisali avtorji in opozorili, da so uporabo takšnih botov že zaznali med letošnjimi volitvami v Tajvanu, Indiji in Indoneziji.
Kako delujejo boti?
V nasprotju s starimi boti, ki so zgolj ponavljali iste fraze, so se novi boti sposobni prilagajati, da je videti, kot bi jih ustvarili resnični uporabniki. Uporabljajo sleng, objavljajo ob nepravih urah, med seboj pa se lahko tudi usklajujejo, da bi našli šibke točke v določeni spletni skupnosti. Poleg družbenih omrežij pa uporabljajo tudi e-pošto, pišejo bloge in prodirajo v zaprte klepetalnice, na primer na whatsappu ali telegramu.
»Zastrašujoče je, kako enostavno je ustvariti majhne vojske botov, ki znajo krmariti po spletu in uporabljati orodja UI,« je za Guardian povedal Daniel Thilo Schroeder, raziskovalec z inštituta Sintef v Oslu.
Ali je grožnja pretirana?
Kljub opozorilom nekateri strokovnjaki ostajajo skeptični glede hitrosti uvajanja teh tehnologij. Inga Trauthig, svetovalka pri Mednarodnem panelu za informacijsko okolje, je poudarila, da so politiki pogosto nenaklonjeni temu, da bi nadzor nad kampanjo prepustili algoritmom. Poleg tega so volilci še vedno močno pod vplivom dogajanja v fizičnem svetu.
Vendar pa Michael Wooldridge, profesor z Oxforda, poudarja, da je grožnja tehnološko popolnoma izvedljiva: »Ni več vprašanje, ali je to mogoče, ampak kdaj bodo zlonamerni akterji te virtualne vojske mobilizirali v polnem obsegu.«
