V podjetju za odkrivanje prevar z umetno inteligenco Originality.ai, ki svoja orodja ponuja tudi univerzam in drugim uglednim organizacijam, so med pregledom 558 naslovov, objavljenih v Amazonovi podkategoriji zeliščnih zdravil, ugotovili, da je med lanskim januarjem in septembrom kar 82 odstotkov knjig napisala umetna inteligenca.
"To je pretresljivo razkritje obsega neoznačene in nepreverjene vsebine umetne inteligence, ki so popolnoma zavzele Amazonovo platformo," je zapisal Michael Fraiman, avtor študije.
"Obstaja ogromno raziskav o zeliščih, ki so popolnoma neumne," je dejala Sue Sprung, medicinska zeliščarka iz Liverpoola. »Umetna inteligenca ne bo znala presejati vsega odpadka, vseh smeti, ki so popolnoma nepomembne. To bi ljudi zavedlo.«
Obstoj le v virtualnem svetu
Ena od knjig, ki naj bi jih napisala umetna inteligenca, je priročnik za naravno zdravljenje (Natural Healing Handbook), ki je uspešnica št. 1 v podkategorijah za nego kože, aromaterapije in zeliščna zdravila na Amazonu. V uvodu je knjiga predstavljena kot »priročnik za samozavest« in bralce spodbuja, naj rešitve »poiščejo sami«.
Avtorica priročnika za naravno zdravljenje je Luna Filby, ki je predstavljena kot »35-letna zeliščarka iz obalnega mesta Byron Bay v Avstraliji« in ustanoviteljica blagovne znamke My Harmony Herb. Sarah Wynn, ustanoviteljica revije Wildcraft Journal, je knjigo pohvalila z besedami, da je vir navdiha.
Kljub temu pa imen Luna Filby, My Harmony Herb in Wildcraft Journal v realnem življenju zunaj Amazona ni zaslediti, kar po besedah Michaela Fraimana kaže, da morda ne obstajajo. Tudi Guardian ni našel nobenih dokazov o obstoju obeh knjig. Orodje Originality.ai je razpoložljive vzorce besedila označilo kot ustvarjene z umetno inteligenco s »100-odstotno gotovostjo«.
Ko svetuje klepetalni robot
Raziskava Originality.ai je odkrila še več drugih opozorilnih znakov, ki kažejo na sporne zeliščarske vsebine. Vsaj 29 knjig, ki jih je očitno ustvarila umetna inteligenca, se je sklicevalo tudi na delo kontroverznih zeliščarjev Barbare O'Neill in Alfreda Bowmana, ki sta oba promovirala nedokazana zdravila za raka.
Te knjige so del širšega trenda prodaje nepreverjenih vsebin z umetno inteligenco na Amazonu. Lani so ljubiteljske nabiralce gob opozorili, naj se izogibajo nabiranju knjig, ki so se prodajale na platformi, očitno so jih napisali klepetalni roboti in vsebujejo vprašljive nasvete o tem, kako ločiti smrtonosno glivo od užitne.
Dan Conway, izvršni direktor Združenja založnikov, je dejal, da njegova organizacija poziva Amazon, naj začne označevati vsebine, ustvarjene z umetno inteligenco. »Vsako knjigo, ki je v celoti napisana z umetno inteligenco, bi bilo treba označiti kot tako, odpadke z umetno inteligenco pa je treba nujno odstraniti.«
Na Amazonu so glede tega pojasnili: »Imamo smernice za vsebino, ki določajo, katere knjige so lahko naprodaj, in imamo proaktivne in reaktivne metode, ki nam pomagajo odkriti vsebino, ki krši naše smernice, ne glede na to, ali jo je ustvarila umetna inteligenca ali ne. Vlagamo veliko časa in virov, da zagotovimo upoštevanje naših smernic, in odstranimo knjige, ki se teh smernic ne držijo.«
