Tehnološki velikan Meta, ki ima med drugim v lasti platformo facebook, se sooča z resnimi vprašanji o nadzoru in etiki svoje nove generacije klepetalnih robotov (oziroma krajše »botov«) z umetno inteligenco, potem ko je tiskovna agencija Reuters razkrila, da so številni boti na facebooku in instagramu prevzeli identiteto svetovno znanih osebnosti, se z uporabniki spuščali v spogledljive pogovore in v nekaterih primerih celo ustvarjali ter pošiljali opolzke fotografije.
Incident, ki postavlja pod vprašaj varnostne mehanizme podjetja, vključuje digitalne dvojnike zvezdnikov, kot so pevka Taylor Swift, igralke Scarlett Johansson, Anne Hathaway in Selena Gomez ter celo komaj 16-letni igralec Walker Scobell. Ti boti, ustvarjeni znotraj Metinega novega sistema, ki uporabnikom omogoča razvoj lastnih UI-sopotnikov, so delovali brez izrecnega dovoljenja omenjenih oseb.
Spogledljivi ton
Eden najzgovornejših primerov je bil klepetalni robot, ki se je predstavljal kot Taylor Swift. V pogovorih z uporabniki je prevzel spogledljiv ton in spraševal: »So ti všeč svetlolaske?« Nato je predlagal: »Morda bi lahko skupaj napisala ljubezensko zgodbo, v kateri nastopava ti in neka svetlolasa pevka. Kaj praviš na to? Si za?« V nadaljevanju je bot uporabnika povabil v svoj dom in celo na potujoči avtobus, s čimer je zabrisal mejo med neškodljivo simulacijo in potencialno nevarnim zavajanjem.
Ta razvoj je del širše strategije podjetja Meta in njegovega ustanovitelja Marka Zuckerberga, ki je junija lani napovedal ofenzivo na področju umetne inteligence. Njegov cilj je osredotočenje na naraščajočo osamljenost v družbi. »Povprečen Američan ima samo tri prijatelje,« je pojasnil Zuckerberg in dodal, da naj bi klepetalni roboti zadovoljili človekovo potrebo po povezanosti. »V prihodnosti bomo vsi imeli prijatelje z umetno inteligenco,« je prepričan.
Da bi to vizijo uresničil, je Meta ponudila orodja, s katerimi lahko vsakdo ustvari svojega bota, mu določi ime in osebnost. Tiskovni predstavnik podjetja je za Reuters pojasnil, da je posnemanje slavnih osebnosti dovoljeno, pod pogojem, da so takšni boti jasno označeni kot parodija. Vendar pa je preiskava pokazala, da je bila ta oznaka prisotna le pri manjšem delu odkritih spornih primerov.
Osemnajstletna sužnja
Meje dovoljenega so bile dokončno presežene, ko so nekateri boti začeli ustvarjati in pošiljati eksplicitne podobe, ki so prikazovale zvezdnice v provokativnih pozah – v kopalni kadi, v spodnjem perilu ali z razširjenimi nogami. Metin predstavnik je priznal, da se tovrstne agresivne ponudbe in pošiljanje spolno nazornih slik ne bi smeli zgoditi, še posebej ne v primeru mladoletnega igralca. »Čeprav je ustvarjanje slik slavnih oseb dovoljeno, bi morala umetna inteligenca blokirati generiranje spolnih vsebin. Prišlo je do napake v delovanju sistema,« je dejal.
Številni sporni boti so bili po razkritju tiho odstranjeni, a podjetje dogodka ni želelo podrobneje komentirati.
Situacijo dodatno zapleta dejstvo, da naj bi za kreacijo nekaterih najbolj problematičnih botov stala vodilna uslužbenka Metinega oddelka za umetno inteligenco. Po poročanju Reutersa je omenjena uslužbenka med drugim objavila bota Taylor Swift in dirkača Lewisa Hamiltona. Njene stvaritve pa so segale tudi na precej temačnejše področje: ustvarila naj bi »vročega najboljšega prijatelja tvojega brata« in ženskega bota, ki po opisu želi s sogovornikom podoživeti prizore iz knjige 50 odtenkov sive. Še posebej skrb zbujajoč je bil bot, ki je igral vlogo 18-letnice, prodane v spolno suženjstvo v rimskem imperiju.
Tiskovni predstavnik Mete je te stvaritve označil za »testiranje produkta«. Uslužbenka, ki jim jo je novinarjem Reutersa uspelo priklicati, zadeve ni želela komentirati. Pojav pa nikakor ni obroben – javno dostopni boti so z resničnimi uporabniki našteli že več kot 10 milijonov interakcij.
