Hana Fraj

Nevidljivi delovi kôda koji čine osnovni mehanizam modernog mašinskog doba, algoritmi su podarili svetu sve, od statusa na društvenim mrežama do programa za pretraživanje, od satelitske navigacije do sistema za muzičke preporuke, i podjednako čine deo naše savremene infrastrukture kao nekada mostovi, zgrade i fabrike. Oni su u našim bolnicama, sudnicama i automobilima. Koriste ih policijske snage, supermarketi i filmski studiji. Oni su saznali šta volimo, a šta ne; oni nam govore šta da gledamo, šta da čitamo i s kim da se zabavljamo. I sve to vreme oni imaju skrivenu moć da polako i suptilno menjaju pravila o onome što čini ljudsko biće.

Nijedan objekt ili algoritam nikad sam po sebi nije dobar ili zao. Važno je to kako se oni koriste. GPS je smišljen kako bi lansirao nuklearne projektile, a sada pomaže pri isporuci pica. Pop muzika koja se uzastopno pušta trebalo je da bude sredstvo za mučenje. I koliko god lep bio cvetni venac, ukoliko to baš poželim, mogla bih njime da vas zadavim. Formiranje mišljenja o algoritmu podrazumeva shvatanje odnosa između ljudskog bića i mašine. Svaka mašina neodvojivo je povezana s ljudima koji su je napravili i koji je koriste.

Kao što ćemo iznova i iznova videti u ovoj knjizi, očekivanja su važna. Priča kako je Dip blu pobedio velemajstora pokazuje da moć jednog algoritma nije ograničena na ono što se nalazi u redovima njegovog koda. Poimanje naših sopstvenih mana i slabosti – kao i onih koje karakterišu mašinu – ključno je za zadržavanje kontrole.

Možda ćemo jednog dana doći do tačke kada će kompjuterska inteligencija nadmašiti ljudsku, ali tom danu nismo ni blizu. Pošteno govoreći, i dalje smo veoma daleko od stvaranja inteligencije na nivou ježa. Do sada, niko nije odmakao dalje od gliste.

Pitanje je, ako im već prepuštamo toliku moć – zaslužuju li oni naše poverenje?

Kasnije te godine, kad se pojavio na sudu zbog optužbe za nemarnu vožnju, priznao je da nije ni pomislio na to da se usprotivi uputstvima mašine. „Ona je i dalje uporno tvrdila da je ta staza put“, saopštio je novinama posle tog incidenta. „I ja sam joj jednostavno verovao. Ne očekujete da vas dovede do toga da se gotovo strmoglavite s litice.“

Negde u ovoj priči krije se naravoučenije. Iako se u to vreme verovatno osećao pomalo budalasto, po tome što je prenebregavao informacije koje su mu bile pred očima (kao kada je video strmu provaliju kroz prozor automobila) i algoritmu pripisivao više inteligencije nego što je ovaj zaslužio, Džouns je bio u dobrom društvu.

Kad su ljudi nesvesni toga da se njima manipuliše, skloni su da poveruju kako su svojevoljno došli do svog novog mišljenja

Nije nikakvo čudo što su učesnici najviše vremena provodili čitajući veb-sajtove označene u vrhu prve stranice – kao što veli stara internet pošalica, najbolje mesto da sakrijete leš jeste druga strana rezultata pretrage na Guglu.

Ali ovde valja uočiti razliku. Jedno je verovati obično pouzdanom algoritmu. Verovati algoritmu bez ikavkog čvrstog poimanja njegovog kvaliteta nešto je sasvim drugačije.