Koliko trebamo dopustiti Googleu, Facebooku i drugima da nam kažu što da misle? algoritmi tražilice i društvenih medija za isticanje proizvoda, vijesti i interesa zaslužuju našu hitnu pozornost, rekli su znanstvenici.

Algoritmi su dijelovi koda koji, slično receptu, daju skup uputa za dovršavanje zadatka. Koriste ih tvrtke poput Googlea i Facebooka kako bi utvrdili koji su rezultati pretraživanja relevantni i koji se postovi prikazuju na nečijoj vremenskoj skali. Oni se koriste za posredovanje društvenih, političkih, osobnih i komercijalnih interakcija za milijarde ljudi i mogu djelovati kao moćni vratari koji se sve više koriste pri donošenju odluka za nas ili o nama.

etička pitanja koja su se pojavila sve to bilo je vruće tema na Globalnoj konferenciji o CyberSpaceu u Haagu ovog tjedna.

[Više čitanje: Najbolji detektori propuštanja u kućanstvu]

Algoritmi su slijedili ljudi kao skup uputa. Ljudi bi mogle odlučiti da ih ne slijede, ali kad ih računalo u cijelosti obrađuje, nema ni malo potencijala za ljudsku intervenciju, suosjećanje ili prosudbu, a to bi moglo predstavljati problem, istaknuti paneli.

"Ni jedan algoritam nije neutralan, svaki algoritam temelji se na nekoj vrsti nepoznate ideologije ", rekao je Kavé Salamatian, profesor računalnih znanosti na Sveučilištu Savoie u Francuskoj.

To znači da moramo provjeriti filozofiju i ideološke prostore ljudi koji pišu algoritme, a ne samo kod, rekao je tijekom rasprave na konferenciji u četvrtak.

Transparentnost je ključni

Ključ za rješavanje algoritama je transparentnost tvrtki koje ih koriste, rekao je Jillian York, direktor politike za slobodu izraz za Electronic Frontier Foundation (EFF). Ona je istaknula da Twitter, na primjer, manipulira algoritmom trending tema kako bi se osiguralo da se neke stvari ne ponavljaju.

"Zato svakodnevno ne vidite Justin Bieber i sigurni smo da smo svi jako zahvalni za to. No, to također može biti problematično kada imate vrlo popularan društveni pokret ili politički pokret koji je zapravo trend u tradicionalnom smislu ", što se događa kada postoje milijuni i milijuni tweetova o toj temi", rekla je. Iako to možda nije cenzura, svakako je suzbijanje određene teme, rekla je. Možda se to ne mora nužno dogoditi zbog neugodnih razloga, ali može rezultirati da se u ponedjeljak navečer nogomet postaje "popularniji" događaj u očima društvene medijske tvrtke od društvenog pokreta, a to može izgledati kao cenzura, rekla je. York je pridonio izvješću o etici algoritma pripremljenom za CyberSpace konferenciju Centra za internet i ljudska prava (CIHR). Izvješća pokazuju da brzina tehnoloških razvoja, kao i korporativni i državni poticaji zasjenila hitno potrebnu raspravu o etici i odgovornosti ove nove infrastrukture odlučivanja. Osiguravanje da su takvi algoritmi u skladu s standardima ljudskih prava bit će izazov tvrtkama i vladama u nadolazećim godinama, navodi se u izvješću.

Pitanja s algoritmima mogu biti bliža domu nego što mislite. Na primjer, Mattel razvija novu Barbie lutku pod nazivom Pozdrav Barbie, koja će moći razgovarati obradom dijaloga djece oko sebe. Ta se obrada obavlja algoritmom u oblaku koji se koristi za slanje odgovora. To znači da svaka obitelj koja posjeduje takvu lutku ima mikrofon povezan s internetom i sluša kućanstvo, rekao je Frank LaRue, direktor Europske operacije u Centru za pravdu i ljudska prava Robert F. Kennedy.

"Je li to etički ili nije? Rekao bih da ne ", rekao je LaRue. Dopuštanje takve lutke u neku obitelj, na neki način, također omogućuje algoritmu da ometa naš proces razmišljanja i razgovora. To znači da u najosnovnijim stadijima života djeca mogu biti uvjetovana onim što algoritam određuje da je to pravilno korištenje jezika i tipičan razgovorni tok, kazao je. "Mislim da to nije samo ozbiljno kršenje etike, već i ozbiljno kršenje ljudskih prava, kršenje privatnosti i kršenje slobode izražavanja", dodao je.

Preokretno mišljenje

kako algoritmi mogu utjecati na ljude, govorili su na konferenciji. Izbori koje su napravili algoritmi također mogu utjecati na izbore pokazujući određene vrste priča o kandidatu češće nego priče o drugom. Algoritmi koji se koriste za blokiranje sadržaja vezanih uz terorizam mogli bi istodobno nenamjerno ukloniti novinske priče o terorizmu iz ljudskih vremenskih linija.

Pomisao da algoritamske promjene vremenskih linija Facebooka imaju veliki utjecaj na ljude nije čudno što se može činiti , Na prošlogodišnjem Facebooku, na primjer, proveli su kontroverzni psihološki eksperiment na gotovo 700.000 korisnika kako bismo utvrdili kakav je utjecaj promjena u algoritmu feedova vijesti imao na raspoloženje ljudi. Eksperiment, skupina digitalnih prava za privatnost, elektronički informacijski centar za privatnost, rekao je, "namjerno zabrljao s ljudima."

Pitanje je ipak ono što treba učiniti kako bi se spriječilo probleme koji proizlaze iz tehnologija koje se brzo razvijaju. Možda transparentnost može pomoći, ali je li to dovoljno? I koliko bi trebalo da takva transparentnost prođe?

Tvrtke bi mogle neodlučno podijeliti informacije o njihovim algoritmima, istaknuo je Richard Allan, direktor Facebooka za Europu, Bliski Istok i Afriku, koji je rekao da je veliko pitanje za Facebook je li to osloboditi se transparentnosti oko njegovih algoritamskih izbora.

"Hoće li postojati prostor u kojem možemo imati te razgovore? Ili će biti slučaj da svaki put kada objavimo nešto ili bavimo se vanjskim istraživačima, imat ćemo takvu oluju u medijima i naš brand postaje tako oštećen da će naš instinkt biti zatvoriti ga i zatvoriti? ", upitao je." Ipak, opća načela na kojima se temelje algoritmi trebaju biti vani, istaknute paneli. To je već u određenoj mjeri u skladu s algoritmom feedova vijesti, no može se produžiti u budućnosti, rekao je Allan. Ipak, morao bi biti još jedna stvar, da moram otići u punu, intimnu pojedinost algoritma. Ako će biti sustav u kojem je potrebno neko odobrenje za svaku promjenu koja je napravljena, jasno je da postoji potencijalni sukob s tvrtkama za tehnologiju koja se brzo kreće, istaknuo je. Tvrtke bi trebale biti u mogućnosti mijenjati svoje platforme bez ikakvog regulacijskog procesa svaki put, istaknuo je.

Provođenje konkurencije

Ovo pitanje nije samo akademsko. U četvrtak, primjerice, francuski senatori izmijenili su zakone o ekonomiji s ograničenjem koje bi zahtijevalo od Googlea da oglašava tri natjecatelja na svojoj početnoj stranici. Bill ne prestaje tražiti tražilicu da objavi svoje algoritme, ali zahtijeva ekonomski snažne tražilice da daju informacije o tome kako klasificiraju ili indeksiraju web stranice.

Algoritmi za reguliranje na neki način mogu biti opcija. Ured za zaštitu potrošača Savezne trgovinske komisije SAD-a nedavno je utemeljio Ured za tehnološko istraživanje i istraživanje, koji će istražiti pitanje algoritamske transparentnosti. Djelovanje zakonodavstva još uvijek nije na dnevnom redu, no FTC je zainteresiran za način rada algoritama, koji su poticaji za njima, koji se podaci koriste i kako su strukturirani.

U nekim područjima kao što su financije, gdje se automatiziraju sustavi trgovanja velikim brzinama imaju potencijalno destabilizirajući učinak na financijska tržišta, već je raspravljano o algoritamskim propisima, istaknuo je CIHR-ov izvještaj o etici algoritma. Slično ispitivanje hoće li se regulirati algoritme može se vidjeti na tržištu online pretraživanja. Iako regulatori još nisu objavili pravila o Googleovim algoritmima, istrage o dominantnoj poziciji na tražilici revidiraju upravo oko tog pitanja, navodi se u izvješću.

"Sve veća važnost algoritama podiže cijeli niz etičkih nedostataka, od kojih neki uključuju probleme regulatorne politike", rekli su autori. "Ova pitanja i više zaslužuju hitnu i duboku pozornost svih zainteresiranih za budući oblik ljudskog društva."