Hkrati, pravi naš sogovornik, pa to ne pomeni, da bomo na koncu vsi skupaj le še algoritem, ki ga bodo upravljali računalniki. Zgolj lažje nam bo, saj bomo bolje razumeli sami sebe in bomo tudi vedeli, kako naša življenja izboljšati. In spet: dobro bo, če bomo novo tehnologijo znali obvladati, preden bo začela narekovati povsem svoj tempo.
Nekoč je bil osnovni problem računalnikarjev, kje dobiti dovolj močne računske stroje, da bi obdelovali velike količine podatkov. Je zdaj ta problem že rešen?Računska moč načeloma ni več problem. Posamezne računalnike znamo že dovolj dobro združevati v večje računalniške sisteme, ki delujejo kot en velik računalnik. Dober primer tega je iskalnik Google, ki ga napaja okrog milijon računalnikov.
Prihaja novo obdobje, v katerem se bo naša uporaba računalnikov prestavila na naslednjo raven. Po mojem mnenju bo kmalu večina ljudi znala računalnikom govoriti, kaj naj delajo namesto njih, kar pomeni, da jih bodo znali programirati. Pri nas na univerzi Stanford sociologi že pišejo računalniške programe, kadar hočejo obdelovati podatke v svojih raziskavah. Fiziki to počnejo že od nekdaj in ekonomisti prav tako. Programiranje je namreč edini način, da podatke, ki jih zbiramo z različnih področij naših življenj, analiziramo in osmislimo.
Z obvladovanjem računalniške moči lahko dosežemo za raziskovalca ali naročnika raziskave sicer želene rezultate, ki pa niso nujno dobri tudi za celotno družbo. Je treba govoriti tudi o pasteh posedovanja in obdelave velikih količin podatkov o naših življenjih? Velika podjetja, kot sta Google in Facebook, s katerimi sodelujete pri raziskavah, vedo o nas celo stvari, ki jih sami ne vemo. V ekonomskem smislu lahko potem vplivajo na naše vedenje, lahko nam denimo ustvarjajo nove potrebe, ki jih prej nismo imeli.Že od nekdaj ljudje in družba vplivajo na naše obnašanje in potrebe – mama nam govori, da moramo jesti zelenjavo, s prižnice nam pridigajo nauke, v časopisih nas obletavajo reklame. V tem smislu Google in Facebook nista prav nič drugačna od vseh drugih. Po drugi strani, pa moramo uporabniki ostati kritični in dosledno precejati informacije. Podjetja, ki jih omenjate, so glede pasti posedovanja podatkov zelo pazljiva. Na primer Google ima interno varovanje zasebnosti zelo dobro urejeno. Imajo poseben oddelek, ki skrbi za pravice uporabnikov in vsak nov projekt oceni tudi z vidika spoštovanja osebnih podatkov uporabnikov.
Res pa je, da podjetje te podatke tudi izkorišča za razvoj novih, boljših storitev za uporabnike. Osnovni namen uporabe podatkov je boljša uporabniška izkušnja, ne pa vsiljevanje novih potreb.
Torej verjamete, da programi, ki jih računalnikarji v sodelovanju s podjetji razvijate na podlagi velikih količin podatkov o naših življenjih, naša življenja izboljšujejo?Seveda. Na primer uber uporablja podatke, da poskrbi za hitre in učinkovite prevoze, airbnb vam najde najbližjo in najudobnejšo nastanitev, facebook vas poveže s prijatelji iz mladosti, s katerimi bi že davno izgubili stik, googlova misija je, da bi imeli vsi ljudje dostop do enakih informacij. Da bi se – če se izrazim z metaforo – razlika med koliščarjem, ki se vozi po ljubljanskem barju, in nekom, ki tačas sedi v Aleksandrijski knjižnici, čim bolj zmanjšala. Večina podjetij, ki jih omenjate, ima družbeno zelo pozitivne namene.
Seveda pa so te zadeve tako nove, da se družba šele uči, kako se z njimi soočati in kako nanje reagirati. Na primer, v petih letih smo denimo zelo spremenili svoje obnašanje na facebooku. Na začetku smo delali napake, zdaj pa kar dobro vemo, kaj objavljati in česa ne.
Je naša življenja res mogoče do velike mere opisati z matematičnimi spremenljivkami, ki jih potem vstavite v računske operacije?Posamezniki nismo matematične spremenljivke, povprečne trende pa lahko zelo lepo opišemo. Poglejte, kar nosim na zapestju, je »pametna ura«. Beleži, koliko časa sem spal, koliko korakov sem naredil… Danes zjutraj sem denimo naredil že tri tisoč sedemsto korakov! O svojih fizičnih življenjih vemo zelo malo. V preteklosti so tovrstne študije delali na skupinah, ki so štele komaj nekaj sto ljudi in iz tako majhne količine podatkov se je težko česa naučiti. No, mi delamo študije na desetih milijonih uporabnikov pametnih ur! Upamo, da bomo iz teh podatkov kaj koristnega izvedeli in da bodo posledično ljudje bolj zdravo živeli, da bodo manj debeli, da bodo bolje spali in podobno. Eno od še neodgovorjenih vprašanj je denimo: če običajen človek naredi v dnevu deset tisoč korakov – kako jih je najbolje »porabiti«? Vsakih deset minut sto korakov? Ali po daljšem obdobju ležanja več tisoč korakov? Kakšen je najbolj zdrav režim gibanja? Ali režim spanja? Do odgovorov lahko pridemo z beleženjem podatkov uporabnikov pametnih ur.
V Ljubljani, na pravni fakulteti, ste predstavili tudi svoj zadnji projekt, v katerem ste poskušali na podlagi preteklih sodniških odločitev slednje z računalnikom izboljšati. Kako je to mogoče?To je mogoče pri preprostih odločitvah, ko ni vprašanje, ali je obtoženec kriv ali ni kriv, ampak gre le za to, ali obtoženca pred začetkom kazenskega postopka obdržati v priporu ali pa ga do začetka obravnave izpustiti na prostost. Sodniki v ZDA morajo zaradi velikega števila primerov tovrstne odločitve sprejemati zelo hitro, povprečno v minuti in pol. Pred seboj imajo človeka ter nekaj podatkov o njegovem življenju in njegovih preteklih kaznivih dejanjih. Če ga obdržijo v priporu, se bo pridružil že tako številnim pripornikom v prenapolnjenih celicah. Če pa bo na obravnavo čakal na prostosti, lahko stori nova kazniva dejanja: bodisi lahko pobegne in se izogne obravnavi bodisi stori kakšno drugo, morda celo nasilno kaznivo dejanje. Vprašanje za našo raziskovalno skupino je bilo, ali lahko sodniku pomagamo pri presoji, kako nevaren oziroma begosumen je obtoženec.
Računalnik na podlagi podatkov o obtožencu »izdela« napoved, kako se bo ta oseba obnašala v prihodnosti. V presojo vključi tudi podatke o drugih primerih, ki jih pozna. Vsak sodnik pozna le relativno majhno število primerov, ki jih je dotlej sam obravnaval ali za katere je izvedel od drugih sodnikov. Mi pa smo dobili podatke o več kot milijon sodniških odločitvah in seveda tudi o tem, kako so se potem tisti, ki so bili izpuščeni na prostost, obnašali: so storili novo kaznivo dejanje ali ne in kako hudo je bilo dejanje, če so ga storili. V analizo smo vključili tudi podatke, kot so starost, kraj bivanja, pretekla kazniva dejanja… Računalnik smo potem »naučili«, kako se odločati, da bi bilo za enako stopnjo kriminala treba zapreti čim manj ljudi.
Ugotovili ste, da bi lahko računalnik na prostost izpustil več ljudi, pa se kriminal zaradi tega ne bi povečal, saj bi računalnik izpustil »prave« ljudi, »neprave« pa bi priprl. Kako so se na to odzvali sodniki?Zelo pozitivno in z velikim zanimanjem. V zvezni državi New York se s sodniki že dogovarjamo, da bi začeli naš program uporabljati kot pomoč pri oblikovanju odločitev. Končna odločitev bo še vedno njihova, vedeli pa bodo, kako bi se na njihovem mestu odločil računalnik. Računalnik bo sodniku tudi razložil, na podlagi katerih parametrov je sprejel napoved.
Iščete torej korist za vso družbo. Vprašanje pa je, kaj se zgodi s posameznikom. Ali bi vi zase, če bi se denimo po krivici znašli v postopku, hoteli, da se sodnik o vašem priporu odloča na podlagi računalnikovih izračunov? Kaj, če bi se vaše demografske značilnosti naključno ujemale z značilnostmi tistih, ki bi jih računalnik priprl?Računalnik vsekakor ne more nadomestiti sodnika, lahko pa mu pomaga, da sprejema boljše odločitve. Ni vprašanje ali bo stroj nadomestil človeka, ampak ali sta človek in stroj močnejša kot človek sam.
Dejstvo je, da se vse več odločitev sprejema na podlagi računalniških algoritmov – od tega, ali boste lahko sklenili avtomobilsko zavarovanje, do tega, ali vam bo banka dala kredit. Mislim, da zelo potrebujemo širšo družbeno debato o prednostih in pasteh algoritemskega odločanja.
Pa je mogoče v izračune potencialnih ravnanj ljudi – ali bodo storili kaznivo dejanje – vključiti tudi razliko, ki nastane, če usodno odločitev poda človek ali računalniški algoritem? Če vas na prostost izpusti sodnik, imate do njega moralno dolžnost, ki je do računalnika menda nimate. To lahko vpliva na odločitev, ali boste storili novo kaznivo dejanje ali ne. In če vam kredit odobri bankir, ki verjame, da boste denar vrnili, ga boste morda prej vrnili, kot če vam kredit odobri nekakšen stroj.Zato pa ne verjamem, da bodo računalniki kdaj povsem nadomestili ljudi. Računalniki bodo zgolj obogatili naše odločanje tedaj, ko se odločamo bolj slabo. Poglavitno vprašanje za prihodnost je, kako ljudi naučiti, da bodo znali uporabiti računalnike za optimiziranje svojega delovanja. Ravnanje pa bo še vedno človeško.
