Algoritmi koji guraju društvo unatrag. Rješenje za povratak demokracije u ruke ljudi

Algoritmi danas oblikuju političku percepciju, volju i mišljenja, a velike tehnološke tvrtke po svojoj su moći postale usporedive s utjecajem velikih država, upozorava doc. dr. sc. Kristina Feldvari u svojem preglednom radu "Hakiranje krize demokracije". Feldvari argumentira kako je potencijalno rješenje ovog problema, koji je doveo do nazadovanja demokracije diljem svijeta, u stvaranju ljudskih sustava kontrole, nadzora i upravljanja algoritmima.

Naslovna fotografija: Plakat mađarskog premijera Viktora Orbána u stilu poznatog “HOPE” plakata Baracka Obame, s riječima “UKRASTI” umjesto nade. Mađarska je jedna od tri članice EU koje demokratski nazaduju prema IDEA institutu. (Tibor Janosi Mozes / Pixabay)

• Ovaj članak je priređen na osnovi rada doc. dr. sc. Kristine Feldvari s Odsjeka za informacijske znanosti Filozofskog fakulteta Sveučilišta u Osijeku

Uzlet utjecaja društvenih mreža na društvo obilježio je proteklo desetljeće, u kojem smo također svjedočili i polaganoj eroziji demokratskih vrijednosti. Ideja da su te dvije stvari nekako povezane više uopće nije niti kontroverzna – iako u pravilu ne treba hitati sa zaključcima kako korelacija implicira i kauzaciju, previše je faktora koji se lako mogu izravno povezati s društvenim mrežama, a koji utječu na gubitak povjerenja u društvene i političke institucije. Glavni je izazov danas jasno definirati i opisati opis utjecaja tehnologije na društvene i demokratske procese, i pokušati pronaći rješenja kako bi se oni mogli ojačati i osigurati od neželjenih utjecaja.

Upravo je to tema koje se prihvatila Kristina Feldvari s Odsjeka za informacijske znanosti Filozofskog fakulteta Sveučilišta u Osijeku u svojem preglednom radu “Hakiranje krize demokracije: Može li nas medijska pismenost spasiti od algoritamskog oblikovanja političke percepcije, volje i mišljenja?”.^[1] Feldvari je svoj rad utemeljila na sustavnom pregledu i analizi literature i dostupnih istraživanja, te postavila pitanje važnosti i uloge medijske pismenosti i kritičkog mišljenja kao potencijalnog rješenja za ove probleme.

Razina demokracije u laganom je padu od 2008. godine, prema procjenama Economist Intelligence Unita, u svim kategorijama osim političke participacije građana. (EIU)

Nije sporno da su kvaliteta društvenog diskursa i općenito razina demokracije u svijetu proteklih godina u padu. Prema indeksu demokracije koji godišnje sastavlja Economist Intelligence Unit, razina demokracije u zapadnoj Europi u laganom je padu od 2008. godine, kada je prosjek ocjena za europske države bio 8,61 na ljestvici od 0 do 10. Prema istom indeksu za 2021., prosjek ocjena za zapadnu Europu pao je na 8,23. U isto vrijeme, prosjek za sve svjetske države pao je s 5,55 na 5,28.^[2]

I švedski IDEA institut, koji prati demokratske tokove u 170 svjetskih država u svojem je prošlogodišnjem izvješću također zaključio: “Svijet postaje više autoritaran!”. Autokratski režimi postaju sve drskiji u svojoj represiji ljudskih prava, dok demokratske države nazaduju, ograničavaju slobode govora i slabe vladavinu prava. Četvrtina svijeta sada živi u državama koje demokratski nazaduju, među kojima su i neke od najvećih svjetskih demokracija – Kina i Indija – kao i tri članice EU – Mađarska, Poljska i Slovenija.^[3]

Urušavanje sloboda, povjerenja u demokratske institucije i tradicionalne izvore informacija kao posljedica širenja “tehnosfere” dobili su svoje zorne demonstracije u proteklih deset godina. Referendumi koji su se nekad smatrali “festivalima demokracije” pretvoreni su praktički u bojno polje na kojem su se tradicionalni i institucionalni izvori informacija – etablirani mediji, akademici, instituti i drugi stručni glasovi – sukobljavali s ispraznim ali dojmljivim populističkim parolama i obećanjima, te nizom ciljanih dezinformacija koje su barem dijelom proizvedene u drugim državama s ciljem utjecaja na konačni rezultat, kao što je u konačnici zaključilo i neovisno povjerenstvo britanskog Parlamenta.^[4]

Slična se priča ponovila i s američkim predsjedničkim izborima 2016. godine, na kojima je najmanje jedna država – Rusija – aktivno provodila kampanju dezinformacija i obavještajnih operacija kako bi naškodila kampanji demokratske kandidatkinje Hillary Clinton i koristila kampanji Donalda Trumpa, s kojom je vjerojatno bila barem u djelomičnom dosluhu.^[5]

Kris Shaffer u svojoj knjizi “Data Versus Democracy” navodi nekoliko značajnih primjera utjecaja infodemije na demokratske države i zaključuje kako problem dezinformacija nadilazi pitanje tehnologije. (Kris Shaffer)

Feldvari citira Krisa Shaffera[6] koji upravo američke predsjedničke izbore 2016. godine navodi kao jedan od dva značajna primjera utjecaja infodemije na demokratsku državu. „Prvi se odnosi na informacijski rat putem društvenih medija koji je Rusija pokrenula s ciljem hakiranja predsjedničkih izbora u Sjedinjenim američkim državama 2016. godine i uzurpiranja političke scene u Ukrajini koje je prethodilo vojnim operacijama na Krimu i u istočnoj Ukrajini. Također, tzv. informacijski hladni rat 21. stoljeća zahvatio je područja Švedske i Finske pokušavši ugroziti njihovu suradnju s NATO-om. Rusija se u navedenim slučajevima oslanjala na djelovanje ruske vojne obavještajne agencije Glavnoye Razvedyvatelnoye Upravlenie (GRU) i agencije za istraživanje interneta The Internet Research Agency (IRA), poznate i kao Glavset. Drugi primjer odnosi se na područje tzv. globalnog juga, zemalja poput Južne Amerike, Sjeverne Afrike i Jugoistočne Azije u kojima novost nisu samo digitalne tehnologije, već i demokracija sama. U mladim demokracijama informacijska i komunikacijska tehnologija i društveni mediji mogu potaknuti pozitivne društvene promjene, no jednako tako mogu i ugroziti slobodu govora, slobodu tiska i proces informiranja – temelje demokratskog procesa. Nova tehnologija u kontekstu novih društvenih struktura može ugroziti stabilnost i sigurnost društva. No Shaffer zaključuje kako problem dezinformacija nadilazi pitanje informacijske i komunikacijske tehnologije, digitalne tehnologije, društvenih medija i algoritama. On jest potaknut tehnologijom, no tehnologija ga nije stvorila. Stoga rješenje problemu dezinfodemije ne leži samo u tehnologiji već i u čovjeku.“ (Feldvari, Mičunović & Badurina 2022:34)

Dezinformacije i propaganda nisu nastale s pojavom društvenih mreža, no one su učinile distribuciju i ciljanu aplikaciju ne samo lakšom nego ikad prije već dostupnom svima

Potencijalno gore od ciljanog ili nenamjernog širenja dezinformacija sa svrhom utjecaja na političke procese je širenje dezinformacija s ciljem osobnog profita, bez razmišljanja o potencijalnim dugoročnim posljedicama utjecaja na demokratski izborni proces. Skupina Makedonaca iz Velesa širila je masovno lažne vijesti o Hillary Clinton isključivo radi osobne zarade, a razlog njihovog jednostranog obmanjivanja javnosti bio je jednostavna posljedica algoritmizacije – lažne vijesti o Clinton imale su puno bolji doseg, interakciju i u konačnici novčanu vrijednost od lažnih vijesti o republikanskim kandidatima.^[7] Olakšavanje namjernog širenja dezinformacija tek je jedan od aspekata prijetnje koju nam donosi tehnosfera. Dezinformacije i propaganda nisu nastale s pojavom društvenih mreža, no one su učinile distribuciju i ciljanu aplikaciju ne samo lakšom nego ikad prije već dostupnom svima – kako onima koji to čine namjerno, tako i onima koji su iskreno uvjereni u istinitost toga što dijele. Ovdje Feldvari spominje i drugi ključni faktor tehnosfere – procese algoritmizacije pod okriljem “dataizma”.

Kada je u pitanju algoritamsko upravljanje i „strojno strukturiranje“ čovjekova života i društva općenito, odnosno delegiranje čovjekova racionalnog odlučivanja strojevima, umjetnoj inteligenciji i algoritmima treba posebno istaknuti pitanje tzv. prediktivne pravde (engl. predictive justice) koja se temelji na analizi mikropodataka, odnosno tzv. mikroponašanja promatranog subjekta s ciljem pravovremenog uočavanja problematičnih i opasnih ponašanja i aktivnosti. Problem analize mikroponašanja u svrhu osiguravanja prediktivne pravde krije se u činjenici da se ne analizira samo konkretno informacijsko ponašanje, poput pretraživanja informacija na internetu, nego i mikrointeresi poput toga što osoba kupuje online, koje stranice posjećuje i sl., te se na temelju toga stvaraju korelacije koje pomažu predvidjeti moguće opasno ponašanje. Algoritmi tako na temelju prikupljenih, povezanih i koreliranih mikroinformacija profi liraju dionike digitalnog prostora. Pitanje prediktivne pravde ne predstavlja izazov „samo“ osobnim slobodama već i demokraciji općenito. Neki su od primjera američki Domoljubni zakon (engl. Patriot act) usvojen 2001. godine te kineski projekt motrenja, analize i prepoznavanja obrazaca ponašanja građana i njihovo tzv. društveno vrednovanje.

Dok su u prošlosti ljudi bili jedini kuratori sadržaja, takozvani “gatekeeperi” koji su služili kao most između autora i konzumenta, širenje dezinformacija i misinformacija bilo je suočeno sa znatno većom barijerom – osim prijemčljivog čitatelja i zlonamjernog ili zaluđenog autora, bio je potreban i zlonamjerni ili nemarni urednik kako bi se pogrešne informacije širile. U novom dobu algoritmizacije, sadržaj ocjenjuju, biraju i ultimativno nude kriptični algoritmi, čiji ciljevi nisu usklađeni s dobrobiti društva i pojedinaca, već ultimativno sa stvaranjem većeg profita dioničarima tvrtke koja ih je proizvela. U praksi to znači da čitanost i engagement (interakcija sa sadržajem i njegovo dijeljenje) diktiraju algoritamsku promociju sadržaja, a ne faktori kao što su njegova istinitost i relevantnost. Ovo je jasan primjer na koji način algoritmizacija sama po sebi može biti štetna, no Feldvari pronalazi i dublji problem.

“Botovi, trolovi i politička propaganda (i reklama) mogu biti kratkoročni problemi koji se mogu riješiti, no puno je veći problem promjena u dinamici moći između digitalnih platformi i vlada. Tko ima moć odrediti granice političkog diskursa? Koje će se informacije predstaviti pojedincima? Koje su granice slobode govora? Takve odluke danas uglavnom donose globalne korporacije, a ne društvo, tj. društvene institucije.” (Feldvari, Mičunović & Badurina 2022:26)

Kapitalističke demokracije danas se oslanjaju na automatizirane i algoritmizirane procjene rizika iza kojih u pravilu stoje najveće tehnološke tvrtke tzv. „Četvorka- GAFA“ – Google, Amazon, Facebook i Apple. One su danas po svojim prihodima, ali i po količini izravnog društvenog utjecaja, usporedive s moći nacionalnih država. Iako države nisu izgubile poluge svoje moći kroz ovaj proces, te su alatke postale ovisne o podacima i algoritmima koje pružaju ove tvrtke. Algoritmizacija je nastala kao neizbježna posljedica hiperprodukcije informacija, koja je također dovela i do njihove demonetizacije. U informacijskom ekosustavu u kojem informacija više nije roba, kapitalističko društvo nužno pronalazi alternativne načine stvaranja zarade, u kojima roba postaje pažnja konzumenta, a njegova interakcija sa sadržajem postaje valuta.

Algoritmi su se stoga fokusirali zarobiti što je više moguće naše pažnje, koja postaje podijeljena između platformi i ostavlja čovjeka u stanju stalne kognitivne krize. Feldvari ističe kako ovdje nije riječ samo o psihološkom problemu, već je bitna i njegova posljedica na proces kritičkog mišljenja, koji ljude dodatno čini podložnima utjecaju propagande i dezinformacija. (Feldvari, Mičunović & Badurina 2022:31)

Feldvari je u svojem radu opisala, analizirala i postavila teorijski okvir elemenata tehnosfere koji izravno doprinose krizi demokracije, te navodi kako je moguće zaključiti da nije toliko riječ o samoj krizi demokracije ili postdemokracije, već da živimo u dobu simulacije demokracije. U takvoj “simulaciji” demokracije su mediji, propaganda i javni diskurs čimbenici koji konstruiraju političku zbilju.

Agencija za elektroničke medije i UNICEF u Hrvatskoj su pokrenuli portal medijskapismenost.hr, koji služi edukaciji i promociji medijske pismenosti, ponajprije djece i mladih, ali i njihovih roditelja i učitelja, kao i drugih odraslih osoba.

Druga polovica rada bavi se potencijalnim rješenjima, titularnim “hakiranjem” krize demokracije, u kojem je ključno razvoj medijske pismenosti. Postoje različite definicije ovog pojma, a u moderno vrijeme on se u literaturi redovito dijeli i na različite kategorije, poput informacijske, informatičke, novomedijske, digitalne, kritičke i računalne pismenosti, kao i pismenosti na društvenim mrežama.

Ono što razvoj medijske pismenosti može postići je pomoći onima koji je posjeduju da razviju navike kritičnog mišljenja, razumiju kako medijski sadržaji oblikuju našu kulturu i društvo, identificiraju medijske strategije, razumiju načine na koje vlasnici medija oblikuju sadržaje, nauče prepoznati pristrane i pogrešne informacije, ocijeniti medijske poruke prema vlastitom iskustvu, vještinama, vjerovanjima i vrijednostima, te da kreiraju i distribuiraju vlastite poruke uz zalaganje za medijsku pravednost.^[8]

Feldvari popisuje ključne vještine medijske pismenosti opisane u stručnoj literaturi, pri čemu navodi pet najvažnijih: pristup informacijama, analizu, vrednovanje, komunikaciju i sudjelovanje. Pritom navodi i primjere online igara i cyber-bullyinga kao  argument da se medijska pismenost ne bi smjela fokusirati samo na kognitivne vještine, već da su često uključene i socijalne i emocionalne vještine. (Feldvari, Mičunović & Badurina2022:37)

Razina medijske pismenosti u europskim državama, prema analizi Open Society Instituta u Sofiji. (OSCE / OSI-Sofia)

Kvaliteta demokracije ovisi o informiranom građanstvu, a Feldvari ističe kako je upravo medijska pismenost temelj postizanja ovog cilja – osnovni alat za očuvanje i razvoj demokracije, te za sudjelovanje građana u demokraciji. Građani koji su informirani, a ne dezinformirani, bit će u stanju u većoj mjeri razumjeti politički diskurs, sudjelovati u političkom životu i donosit će informirane političke odabire, idealno u skladu s njihovim osobnim vrijednostima. Razvijanje vještina medijske pismenosti moglo bi dakle stvoriti protutežu računalnim i algoritamskim sustavima koji danas kontroliraju, nadziru i upravljaju našim informacijama, kroz uspostavljanje ljudskih sustava kontrole, nadzora i upravljanja nad algoritmima. Svaki konzument informacija, svaki sudionik u demokratskom procesu može postati vlastiti analitičar medijskog sadržaja. Pored medijske pismenosti kao potencijalno glavnog alata za povratak demokracije u ruke ljudi i stvarnog društva, umjesto ruku algoritama i tehnosfere, Feldvari spominje i napore koje su pojedine države, kao i Europska unija, poduzimale kako bi na kratki i na dugi rok zaštitile svoje izbore i druge demokratske procese, kao i javni diskurs, od negativnih utjecaja algoritmizacije i posljedične pandemije dezinformacija.

Većina se tih kampanja fokusira na takozvani fact-checking, na provjeru istinitosti sadržaja i pravovremeno razotkrivanje onih dezinformacija koje se najbrže šire i imaju najjači utjecaj. Facebook i druge društvene mreže pristale su sudjelovati u ovom procesu na način koji po njih predstavlja minimum ulaganja – ulazeći u partnerstva s neovisnim agencijama i medijima specijaliziranim za provjeru činjenica, čime ubiru višestruke koristi. S jedne strane, zadržavaju dojam svoje nepristranosti – odluke o tome što su činjenice a što neistine donose drugi, u teoriji puno kvalificiraniji od njih – a s druge strane pokušavaju zadobiti dobru volju sve zabrinutijih regulatora svjesnih da su upravo njihovi komunikacijski kanali najodgovorniji za aktualnu hipersaturaciju dezinformacijama.

Europska unija je u sklopu svojeg najnovijeg regulativnog paketa koji se tiče šire tehnosfere prošle godine donio Uredbu o jedinstvenom tržištu digitalnih usluga (Digital Services Act), koja je zamišljena kao strogi set pravila s ciljem umanjivanja moći i utjecaja tehnoloških divova, njihovih online platformi i društvenih mreža, a koja između ostalog nameće i veću transparentnost upravo onih kriptičnih algoritamskih sustava koji su proteklih godina usmjeravali našu pažnju i time javni diskurs.^[9] Radi se o primjeru zakonodavnog rješenja na kakva Feldvari poziva u svojim zaključcima.

“Suvremeno društvo treba svojevrsno društveno-političko restrukturiranje ako želi sačuvati demokraciju i njegovati daljnju demokratizaciju. Pritom je nužno zaštititi sferu javne komunikacije i informiranja od utjecaja komercijalnih interesa i korporativnih monopola, kao i uspostaviti novi pogled na političke procese i redefinirati pojam političke akcije. S obzirom na složenost situacije u kojoj se nalazi demokracija 21. stoljeća, konkretni postupci hakiranja krize demokracije nadilaze razinu kurikularnog proširenja i kreiranja programatskih smjernica u području medijske pismenosti, tj. nužno je proaktivno i zakonsko reguliranje digitalnog i medijskog prostora koje vrlo često podrazumijeva nadzor, kontrolu i upravljanje prostorom algoritama.” (Feldvari, Mičunović & Badurina 2022:41)

Ovakva zakonska rješenja nužan su početak u društveno-političkom restrukturiranju, no ona će po svojoj prirodi uvijek kaskati za tehnološkim napretkom i nuditi potencijalna rješenja tek nakon što problemi postanu dovoljno rašireni i dovoljno ozbiljni da ih više nije moguće otpisati kao anomalije ili slučajnosti. Stoga Feldvari u konačnici još jednom ističe upravo važnost medijskog opismenjavanja javnosti, kao jednog od glavnih čimbenika “hakiranja krize demokracije”.

Vještine medijske pismenosti bi potencijalno mogle omogućiti onima koji ih posjeduju da se uspješno nose ne samo sa sadašnjim izazovima takozvane dezinfodemije i algoritmizacije, već i budućim, novijim iteracijama te tehnologije, poput generativnih umjetnih inteligencija. No, ono što Feldvari ističe kao njihov najvažniji učinak je vraćanje društvene i političke moći u ruke građana. U konačnici, ističe kako je rješavanje problema krize demokracije zajednička odgovornost svih uključenih sudionika – kako društva i pojedinaca, tako i korporativnih subjekata.

• Bilješke

^[1] Feldvari, K., Mičunović M., Badurina B. (2022.), Hakiranje krize demokracije: Može li nas medijska pismjenost spasiti od algoritamskog oblikovanja političke percepcije, volje i mišljenja?

^[2] Economist Intelligence Unit (2023.), Democracy Index 2022

^[3] International IDEA (2022.), Global State of Democracy Report 2021

^[4] Center for Strategic and International Studies (2020.), Did Russia Influence Brexit?

^[5] US Senate, Select Committee on Intelligence (2020.), Russian active measures campaigns and interference in the 2016 U.S. election, vol. 5

[6] Shaffer K. (2021.), Data versus Democracy: How Big Data Algorithms Shape Opinions and Alter the Course of History, Apress

^[7] Hughes H.C., Waismel-Manor I. (2020.), The Macedonian fake news industry and the 2016 US Election, Cambridge University Press

^[8] Grgić H., Gregorić M., Radanović I., Brakus A. (2016.), Novi mediji: Medijska pismenost mladih u 21. stoljeću, Mreža udruga Zagor

^[9] UREDBA (EU) 2022/2065 EUROPSKOG PARLAMENTA I VIJEĆA od 19. listopada 2022. o jedinstvenom tržištu digitalnih usluga, Službeni list Europske unije