Nakon uspješnice “Staklena djeca”, stručne, ali i intimne knjige o djeci koja rastu u sjeni intenzivne pažnje posvećene bratu ili sestri s autizmom, autorica Marija Gombar svoju je svestranost, energiju i predanost usmjerila na zagovaranje sigurnijeg, etičnijeg i otpornijeg digitalnog društva.

Ova Zagrepčanka, doktorandica informacijskih i komunikacijskih znanosti, u četrdesetim godinama života napravila je profesionalni zaokret iz kineziologije prema području digitalnih komunikacija i društvenih implikacija tehnologije. Iz tog interesa nastala je njezina nova knjiga “Algoritamska poslušnost”, upravo objavljena u izdanju nakladničke kuće Despot infinitus, u kojoj upozorava da digitalno doba nije tehnološki napredak, nego promjena režima spoznaje u kojoj se poslušnost proizvodi prije svake odluke.

U akademski rad Marija Gombar unijela je iskustvo iz sporta i vojnog sustava – kao višestruka državna prvakinja u džudu i članica reprezentacije te kao časnica Oružanih snaga RH s 20 godina službe.

Novu knjigu ‘Algoritamska poslušnost’ počinjete tezom da digitalno doba mijenja način na koji spoznajemo svijet i da poslušnost može nastajati već prije odluke. Treba li nas to plašiti?

Najviše me brine trenutak u kojem prestanemo primjećivati da je ono što nam se nudi već nečiji izbor. Otvorite mobitel da vidite što ima novo. Sustav je poredao vijesti, istaknuo neke naslove, a druge ostavio izvan vašeg vidokruga. Iza tog rasporeda stoje pravila rangiranja, poslovni ciljevi i odluke o dizajnu. Vi još niste odabrali što ćete pročitati, a velik dio odabira već je obavljen. U knjizi istražujem kako takvo okruženje oblikuje i ono što ćemo s vremenom prihvaćati kao važno, uvjerljivo i normalno. Algoritamska poslušnost nastaje kada tako oblikovane mogućnosti počnemo doživljavati kao samorazumljive. Čovjek pritom može biti obrazovan, razuman i uvjeren da odlučuje samostalno. Zato je pogrešno sve svesti na lakovjernost. Moć o kojoj govorim djeluje i kroz praktičnost: nešto nam je toliko lako koristiti da prestanemo pitati prema čijim je pravilima uređeno. Pitanje koje želim otvoriti glasi: tko sudjeluje u stvaranju onoga što poslije smatramo vlastitim zdravim razumom?

Koliko algoritmi oblikuju našu predodžbu o tome što je istinito, važno i vrijedno povjerenja? Gdje završava korisna personalizacija, a počinje manipulacija?

Možemo čitati točne informacije, a ipak dobiti iskrivljenu sliku cjeline. Zamislite da vam se o nekoj zajednici neprestano prikazuju samo sukobi. Svaka snimka može biti autentična, a da pritom ne znate koliko je takvih događaja i što je sve izostavljeno. Istinitost pojedine objave ne jamči vjerodostojnu sliku cjeline. Zato me zanima i tko određuje što će se ponavljati, što će postati gotovo neizbježno, a do čega ćemo teško doći. Personalizacija olakšava snalaženje i može nas dovesti do nečega što sami ne bismo pronašli. Granicu prema manipulaciji tražila bih u tome koliko razumijemo usmjeravanje i koliko mu se možemo usprotiviti. Koristi li se naš strah da bismo reagirali prije provjere? Prešućuje li se čiji se interes promiče? Možemo li odbiti praćenje bez nepotrebnih prepreka?

Platforme poput Netflixa ili TikToka nude nam sadržaj prema ranijim preferencijama. Jesmo li svjesni koliko to može suziti naše izbore?

Možemo znati da postoji algoritam, a ipak teško procijeniti što nam nije prikazao. Zamislite knjižaru u kojoj netko svakodnevno presloži police prema onome što ste jučer gledali. Pronašli biste mnogo toga zanimljivog, ali biste slabije vidjeli ostatak ponude. Problem nastaje kada preporuke počnemo doživljavati kao cjelovitu sliku mogućnosti. Koliko nam pritom ostaje prostora da se promijenimo? Jučerašnji interes ne mora biti današnja želja. Zadržavanje na snimci može značiti znatiželju, zgražanje ili neslaganje. Sustav iz tih tragova izvodi procjene. Vraćajući nam ih putem nove ponude, može učvršćivati sliku o nama koju je prethodno izgradio. Pojmom algoritamske volje opisujem kako ponuđeni smjer možemo doživjeti kao vlastitu želju. Naši dosadašnji klikovi ne bi smjeli postati granice našeg budućeg interesa.

Pišete o kliku na ‘prihvati sve’, skrolanju pokraj rizika i brkanju poznatosti s istinom. Kako takve navike mijenjaju ono što smatramo znanjem i vlastitim izborom?

Želimo pročitati tekst ili dovršiti kupnju pa pritisnemo “prihvati sve” jer nas najbrže vodi dalje. Sustav može zabilježiti suglasnost ondje gdje smo mi samo htjeli maknuti prepreku. Taj klik sam po sebi ne govori koliko razumijemo što smo prihvatili. Kada se takvo iskustvo ponavlja, lako usvojimo naviku da je važnije nastaviti nego razjasniti. Tvrdnju sretnemo više puta i počnemo je prepoznavati. Poslije se sjećamo da smo je negdje vidjeli, ali ne i je li bila provjerena. Poznatost tada lako zamijenimo za dokaz. Pet profila koji prenesu istu nepotvrđenu objavu nije pet neovisnih potvrda. U knjizi me zanima taj prijelaz: kada osjećaj poznatosti postane dovoljan razlog za povjerenje.

partnerstvo

Dacia u suradnji s RK Zagrebom: klubu na raspolaganju 10 Dustera i jedan Bigster

kupnja

Do 480 km dosega i prostran prtljažnik: upoznajte MGS5 EV

Personalizirane preporuke olakšavaju nam život. Kako kroz tu ‘algoritamsku milost’, kako je nazivate, nastaje i prostor za usmjeravanje?

Pomoć i usmjeravanje mogu se događati istodobno. Algoritamskom milošću nazivam način na koji se upravljanje korisnikom predstavlja kao briga za njega. Sustav nas podsjeti, ohrabri, preporuči nešto što nam odgovara. Osjećamo se prepoznato pa lakše prihvaćamo smjer koji nam nudi. Upravo me zanima kako se taj osjećaj pretvara u povjerenje: počinjemo li vjerovati da je ono što nam sustav predlaže ujedno dobro za nas? Pogođena preporuka pokazuje da je sustav dobro procijenio neki naš interes. Iz toga još ne slijedi da brine o našoj dobrobiti. Ciljevi organizacije koja ga razvija mogu uključivati dulje zadržavanje ili veću potrošnju. Ti se ciljevi ponekad podudaraju s našima, a ponekad razilaze. Zato treba pogledati što se događa kada želimo stati ili izabrati drukčije. Koliko nam je to jednostavno? Koliko nas se uporno vraća? Ljubazan ton sučelja ne oslobađa njegove vlasnike odgovornosti za ono prema čemu nas usmjeravaju.

U istraživanju ste uočili dobne razlike u odnosu prema algoritmima. Jesu li digitalno najiskusniji korisnici ujedno najizloženiji njihovu utjecaju?

Vještina korištenja uređaja ne jamči razumijevanje načina na koji se oblikuje sadržaj na ekranu. Netko se može izvrsno snalaziti u aplikacijama, a rijetko propitivati zašto mu se nešto prikazuje. U mojoj online anketi dobrovoljno je sudjelovalo 1580 ispitanika od 18 do 35 godina. Skupina od 18 do 24 godine u prosjeku je iskazivala veće povjerenje u algoritme i manji doživljaj manipulacije od skupine od 31 do 35 godina. Ispitanici s višim stupnjem obrazovanja iskazivali su viši doživljaj manipulacije i rizika. To su razlike u ovom uzorku koje ne možemo preslikati na cijele generacije. Mjerila sam doživljaje, a ne sposobnost otkrivanja obmana; iz toga ne slijedi da su digitalno najvještiji i najpodložniji. Obrazovanje treba obuhvatiti i način na koji procjenjujemo ono što nam tehnologija nudi.

Koliko smo u takvom okruženju slobodni i odgovorni za vlastite odluke, a koliko odgovornost snose tehnološke kompanije, institucije i oni koji oblikuju sustave?

Odgovornost treba povezati s moći. Naš izbor da podijelimo neprovjerenu tvrdnju ima posljedice i za njega odgovaramo. Kompanija, međutim, odlučuje hoće li njezin sustav takvo ponašanje dodatno nagrađivati vidljivošću. Onaj tko može promijeniti pravila prikazivanja ima odgovornost koju korisnik jednog računa nema. Ako sustav nagrađuje nepromišljeni odaziv, taj obrazac treba mijenjati i u njegovu dizajnu. Modelom kognitivne odgovornosti povezujem te razine: kako informacija dolazi do nas, kako je tumačimo, koje osjećaje pokreće i kako sudjeluje u odluci. Tako možemo vidjeti gdje postoji prostor za našu prosudbu, a gdje treba mijenjati pravila sustava. Od institucija tražim i spremnost da građani ospore način na koji im se nešto predstavlja. Sloboda uključuje mogućnost da razumijemo uvjete izbora i sudjelujemo u njihovu mijenjanju. Ako je pristanak jednostavan, a odbijanje iscrpljujuće, nije dovoljno reći da je svatko slobodno kliknuo.

Vaše istraživanje povezuje povjerenje u algoritme i doživljaj manipulacije s prihvaćanjem vojnih i sigurnosnih poruka. Što to govori o oblikovanju javnog mnijenja u ratu i krizama?

Analizirala sam 134 javno dostupne objave sigurnosnih i regrutacijskih kampanja, odabrane prema temi, vidljivosti i emocionalnim porukama. U njima sam pratila kako se patriotizam, avantura i osobni razvoj povezuju s pozivom na djelovanje. Anketa je pokazala povezanost većeg povjerenja u algoritme s pozitivnijom percepcijom vojnih poruka, dok je doživljaj manipulacije bio povezan s manjim povjerenjem u kampanje. Istraživanje nije utvrđivalo je li algoritam nekome promijenio stav ili ga naveo da se prijavi u vojsku. Šire gledano, u krizama posebno treba pratiti kako se prikazuje prijetnja i koje se reakcije nude kao opravdane. I točna informacija može potaknuti nesrazmjeran strah ako joj se izostavi kontekst ili stalno ponavlja najdramatičniji prizor. Obrambene institucije imaju važnu ulogu u informiranju građana. Upravo zato njihove kampanje treba procjenjivati i prema tome koliko omogućuju razumijevanje i razumnu procjenu. Velik broj reakcija ne govori nam jesu li ljudi bolje razumjeli sigurnosni problem.

Zašto ljudi gube povjerenje u vijesti o ratu i sigurnosti čak i kada im je dostupna provjerena informacija?

Točna informacija dolazi u odnos koji je već uspostavljen. Ako je netko izgubio povjerenje u instituciju, i točnoj poruci može pripisati skriveni motiv. Ako mu nova činjenica narušava sliku svijeta koju dijeli s bliskim ljudima, prihvaćanje može značiti i sukob s vlastitom sredinom. Zato dodatna količina podataka sama po sebi ne rješava problem povjerenja. Važno je i kako su ljudi ranije bili tretirani kada su postavljali pitanja. Nepovjerenje može imati opravdane razloge. Institucija koja traži povjerenje mora prihvatiti i mogućnost da je građanin s razlogom kritizira. Treba pokazati na čemu temelji tvrdnje, reći što još ne zna i vidljivo ispraviti pogrešku. U ratu je provjera činjenica posebno zahtjevna; upravo zato valja objasniti zašto se neki zaključak s novim dokazima mijenja. Priznati nesigurnost odgovornije je od glumljenja sigurnosti koju dokazi ne dopuštaju. Povjerenje se gradi i načinom na koji se odnosimo prema vlastitoj pogrešci.

Zagovarate digitalnu otpornost, forenzičku inteligenciju i komunikacijsku etiku. Što bi to konkretno značilo za platforme, škole, institucije i građane?

Promjena bi se morala vidjeti već u tome koliko je jednostavno odbiti ono što nam se nudi. Korisnik bi trebao moći razumjeti zašto vidi neku preporuku i utjecati na pravila po kojima mu se sadržaj bira. Odbijanje personalizacije ne bi smjelo postati zadatak za stručnjaka. U školi bismo mogli uspoređivati prikaze istog događaja: što ističu, što izostavljaju i zašto nekom prikazu lakše vjerujemo. Institucije bi morale dopustiti provjeru načina na koji oblikuju kampanje, uz procjenu njihova učinka na razumijevanje građana. Takvi uvjeti daju sadržaj pojmu digitalne otpornosti. Forenzičku inteligenciju predlažem kao način da iz digitalnih tragova istražujemo gdje se ljudima sužava prostor prosudbe. Primjerice, što se stalno prikazuje, kakve reakcije dobivaju veću vidljivost i kakva iskustva korisnici pritom opisuju. To treba tek razvijati i provjeravati; sami brojevi klikova nisu dokaz manipulacije. Svrha je nadzirati način djelovanja sustava. Komunikacijska etika pritom postavlja pitanje što je dopušteno činiti s tuđim strahom, neznanjem i potrebom za sigurnošću. Uspjeh kampanje ne može biti jedino mjerilo njezine opravdanosti.

Upozoravate da se i naša sumnja može oblikovati unutar istih sustava koje propitujemo. Kako ostati kritičan, a ne postati nepovjerljiv prema svemu?

I osjećaj da smo “prozreli sustav” može nas zatvoriti u krug poruka koje nam stalno potvrđuju da smo u pravu. Ako nekoga uvjeravate da svi lažu, možete ga dovesti do toga da vjeruje jedino onome tko mu to ponavlja. Zato sumnja ima smisla dok dopušta provjeru i mogućnost da promijenimo mišljenje. I poruka s kojom se slažemo mora podnijeti pitanje: otkud to znamo? Povjerenje treba imati razloge i granice. Stručni izvor procjenjujemo prema području znanja, načinu rada i spremnosti da ispravi pogrešku. To vrijedi i za moje tvrdnje: čitatelj treba moći razabrati što je teorijsko tumačenje, što pokazuje istraživanje, a što tek treba provjeriti. Nitko ne može sam provjeravati baš sve, zato su nam potrebne ustanove čiji je rad moguće ispitati. Želim da građanin zadrži pravo reći: “Objasnite mi na temelju čega to tražite od mene.” I dobije odgovor koji može provjeriti. Posebno kada se od njega traži pristanak na odluke koje mijenjaju njegov život.