Algoritmi, ki krojijo vaš pogled na svet

Družbena omrežja, kot so Facebook, Instagram, TikTok in drugi, so virtualni svetovi, ki jih večina med nami obišče vsaj enkrat, če ne večkrat dnevno. Dajejo nam občutek povezanosti z drugimi, s svetom, za številne pa so tudi glavni vir informacij. Z vsebinami, ki nam jih ponujajo, oblikujejo naše misli in vplivajo na naše razumevanje sveta. Vplivajo lahko na to, kako volimo in kakšne odločitve sprejemamo, tako na ravni posameznika kot skupnosti. Vendar pa tehnološki velikani, ki upravljajo te platforme, ne delujejo po načelu javnega interesa in javnega dobrega, ki zavezuje tradicionalne medije. Njihovo osrednje vodilo je skrb za dobiček, njihovo osrednje orodje pa algoritem.

"Algoritmi sami niso nič krivi"

Z uporabo algoritmov skušajo uporabnike čim dlje časa zadržati na svoji platformi, nas izpostaviti čim več oglasom in s tem maksimalno monetizirati našo pozornost. Postrežejo nam z vsebinami, ki v nas vzbujajo čustva, druge pa umikajo v ozadje ali jih celo izbrišejo. Algoritmi, ki jih ta podjetja upravljajo in manipulirajo s pozornostjo uporabnikov, so zato dobili zlovešč prizvok, pogosto se jih označuje kot nepravične in pristranske. A dr. Jurij Mihelič, izredni profesor na ljubljanski fakulteti za računalništvo in informatiko, poudarja, da algoritmi sami niso nič krivi. Nanj smo se obrnili, da nam razloži, kaj algoritmi sploh so.

Algoritem je orodje, ki se lahko uporabi za dober ali slab namen

Algoritem predstavlja navodila za izvedbo postopka za reševanje nekega problema, nam je pojasnil Mihelič, ta navodila pa morajo biti dovolj preprosta, da jih lahko izvaja celo računalnik, ki v nasprotju s človekom ne premore nobene inteligence. Algoritem se po njegovih besedah lahko uporabi v različnih družbenih kontekstih, pozitivnih ali negativnih. "Dojemamo ga predvsem kot orodje, kot npr. kladivo. Vprašanja o pravičnosti, etičnosti in podobno torej nimajo zveze z algoritmom, prej z uporabnikom, ki lahko algoritem uporabi za dober ali za slab namen."

Spomnil je, da se je o pravičnosti oziroma pristranskosti algoritmov začelo govoriti s prodorom algoritmov s področja strojnega učenja in umetne inteligence. "Ideja strojnega učenja je, da (v prvi fazi) algoritmi analizirajo večjo količino podatkov, iz katerih nato ustvarijo neko predstavitev teh podatkov, ki ji rečemo model. Tej fazi rečemo tudi učenje. Po učenju nato lahko izgrajeni model uporabljamo za napovedovanje rezultatov, priporočanje izdelkov, ocenjevanje besedila, cenzuriranje itd."

Od podatkov je odvisno, kakšen model bo nastal. "Če bo v podatkih prisotna neka pristranskost, npr. v podatkih o všečnosti prehrambnih izdelkov se bolj preferirajo slaščice, bo učenje to zaznalo in ustvarilo model/predstavitev, ki bo opisoval to preferenco. Posledično bodo tudi sama priporočila bolj nagnjena k slaščicam in bodo morda zapostavljala kislo zelje. Gre enostavno za statistiko. Mnogokrat se v medijih zapiše, da je algoritem kriv za takšne odločitve, dejansko pa je to bilo že v osnovi zapisano v izvornih podatkih. Algoritem je pač to le odkril."

Seveda pa je možno tudi to, da nekdo prilagodi podatke, da bo algoritem zgradil pristranski model. V ta namen lahko tudi spremeni algoritem, da bo sestavil pristranski model, ali pa tudi vpliva na priporočilni del, tako da se namenoma preferirajo določene odločitve, je še pojasnil sogovornik. "Težava je torej v ljudeh, ki imajo nadzor nad postopki, ki lahko vplivajo, nikakor pa ne v samih algoritmih. Ti le odkrijejo, kar se skriva v podatkih."

Jeza in strah

S tem se strinja tudi Anže Tomić, podkaster, ustvarjalec radijskih oddaj na nacionalnem radiu in dober poznavalec informacijskih tehnologij. "Radi krivimo algoritme, a pozabljamo, da se nekdo v teh podjetjih (ki imajo v lasti družbena omrežja, op. a.) odloča, kakšni ti algoritmi bodo. To niso neke črne skrinjice. Gre za zavestne odločitve na ravni podjetij."

Ker želijo pritegniti in čim dlje zadržati pozornost uporabnikov, njihovi algoritmi v ospredje potiskajo vsebine z veliko čustvenega naboja, ki nagovarjajo najnižje in najbolj prvinske človeške instinkte, kot so ugodje, jeza, strah, še pravi Tomić.

"A še vedno smo tukaj ljudje. Moti me, da smo se o družbenih omrežjih začeli pogovarjati kot o nekih samostojnih entitetah, uporabniki pa se dojemamo kot povsem nemočni. Ne eno ne drugo ni res. Algoritme pišejo ljudje. Hkrati pa ima tudi uporabnik možnost, da gleda manj določenih vsebin, a se mora za to zavestno odločiti."

Z izbiranjem drugačnih vsebin se namreč algoritem uči o naših drugačnih preferencah. Do določene mere nam zato mora prilagoditi ponudbo vsebin, saj bomo sicer hitro zapustili platformo. A Tomić ob tem opozarja, da tudi z označevanjem vsebin, ki jih ne želimo gledati, ne moremo povsem spreobrniti algoritma oziroma modela, na osnovi katerega deluje aplikacija. "To je pač poslovni model. Ideja, da ta omrežja združujejo ljudi in da se bodo ljudje več pogovarjali prek njih – mislim, da sploh ni več cinično, če rečeš, da to ni res."

Promoviranje mizoginije in seksizma

Da izbor vsebin, kot jih uporabnikom servirajo največje platforme, ni nevtralen, je v zadnjih letih pokazalo več raziskav, ki so preučevale vpliv spletnih omrežij na radikalizacijo fantov in mladih moških.

Eno od teh so izvedli lani na Irskem. Raziskovalci so na desetih praznih pametnih telefonih ustvarili deset lažnih profilov na platformi TikTok in YouTube Shorts. Računi so pripadali 16 in 18 let starima fantoma, ki sta iskala vsebine, značilne za njun spol in starost – torej vsebine, povezane s fitnesom, športom in videoigrami, ter 16 in 18 let starima fantoma, ki sta iskala vsebine, tipične za moškosfero, vzpostavili pa so tudi prazen kontrolni račun.

Izkazalo se je, da so bile mizogine vsebine, ki se širijo po moškosferi, uporabnikom plasirane, ne glede na to, ali so jih ti aktivno iskali. To se je posebej pokazalo v primeru računov najstniških fantov, ki sta iskala vsebine, povezane s fitnesom, športom in videoigrami. Ekstremistične in antifeministične vsebine so bile sicer plasirane vsem računom, njihova pogostost pa se je povečala, ko je uporabnik pokazal zanimanje in angažma, je ugotovitve raziskave povzel The Conversation.

Podobno raziskavo so lani opravili tudi novinarji avstralske edicije Guardiana, ki jih je zanimalo, kakšne vsebine preferirajo algoritmi Facebooka. Ustvarili so eksperimentalne račune na še neuporabljenih pametnih telefonih in te račune povezali z novim, še neuporabljenim elektronskim predalom. Računi so pripadali namišljenim 24-letnim moškim, Facebooku pa niso ponudili veliko podatkov, razen lokacije. Na platformi niso všečkali, komentirali in niso sklepali prijateljstev. V treh mesecih so opazili, da so algoritmi začeli prikazovati vsebine z izrazito seksističnimi in mizoginimi temami, kljub odsotnosti kakršnih koli uporabnikovih interakcij.

Predpostavljajo, da smo veseli vsak v svojem mehurčku

Interakcije delovanje algoritmov še dodatno krepijo. Algoritmi na teh platformah namreč delujejo po principu personalizacije, torej ponujanja vsebin glede na naše pretekle izbire. Temeljijo na predpostavki, da nam bo tisto, kar nam je bilo všeč v preteklosti, všeč tudi v prihodnje. Prvi je s tem začel spletni trgovec Amazon, ki je potrošnikom na podlagi njihovih preteklih nakupov ponujal nove produkte, nam je pojasnil prof. dr. Gregor Petrič s katedre za družboslovno informatiko na ljubljanski fakulteti za družbene vede. A če smo nekoč dobivali priporočila o nakupu knjig ali mikrovalovk, nam zdaj s priporočili vsebin, mnenjskih voditeljev in oglasov oblikujejo dojemanje sveta in vplivajo na naše politične in druge izbire.

"Ključna predpostavka je, da uporabnikom niso všeč spremembe, da smo leni in da ne želimo nasprotujočih informacij. Da smo v svojem mehurčku torej veseli in zadovoljni," je strnil Petrič. Algoritmi nam zato ponujajo informacije, za katere predvidevajo, da nas bodo zanimale in nas utrjevale v naših prepričanjih. "V današnjem svetu smo bombardirani z novicami, veliko je slabih novic, ki nas vodijo v kognitivno disonanco, zato se že sami zapiramo v mehurčke. Algoritmi pa te mehurčke še dodatno učvrstijo."

To vodi v družbene konflikte

Kako to vpliva na naše dojemanje sveta? Petrič je slikovit: "Lahko se zgodi, da ljudje delijo isti fizični prostor, a med njihovimi svetovi ni nikakršnega preseka. Vsak živi v svojem mehurčku." Vedno manj smo izpostavljeni različnim informacijam in ljudem drugačnih prepričanj. To onemogoča konstruktivno komuniciranje in soočanje različnih mnenj, spodbuja pa fragmentacijo in polarizacijo, ki vodita v družbene konflikte, prepričanje o lastni nezmotljivosti in podobno. Ti internetni mehurčki pa postanejo tudi socialni mehurčki, je opozoril Petrič, s čimer sta povezani tudi enostavnost širjenja in trdovratnost lažnih novic.

Pripomnil je, da bi bilo v kontekstu razprave o posledicah poslovnih modelov teh podjetij bolj ustrezno govoriti o antisocialnih, namesto o socialnih omrežjih. "Socialno omrežje ima zavajajočo konotacijo skupnosti. V tehničnem smislu so to res omrežja, a koliko je tukaj skupnosti in skupnostnega, je drugo vprašanje."

Postali smo preračunljivi narcisi, vezivno tkivo se rahlja

V tej maniri asocialnosti pa še dodatno krepijo skrb vzbujajoče trende v družbi in šibijo skupnost. "To, da smo postali preračunljivi narcisi, ni samo rezultat algoritmov in omrežij, ampak dlje časa trajajoči trend," je poudaril Petrič. "Prilivajo pa omrežja veliko olja na ta ogenj. Vezivno tkivo med ljudmi se rahlja. Ljudje se obnašajo, kot da so podjetja in med sabo tekmujejo, po logiki, če drugega uničim, bo ostalo več zame. In prav družbeni mediji to zelo podpihujejo."

Pričakovanja so bila pred desetletji povsem drugačna. Ob pojavu spleta in prvih blogov je bilo po sogovornikovih besedah veliko navdušenja nad demokratičnim potencialom teh tehnologij, a izkazalo se je, da se tudi na internetu reproducira neenakost. "Vsa participacija na družbenih medijih tesno sledi pravilu 90 : 9 : 1. 90 odstotkov uporabnikov samo opazuje in ne objavlja nič, devet odstotkov je v interakciji z že obstoječimi vsebinami, zgolj en odstotek, najmočnejša manjšina, pa ustvarja nove vsebine," je še povedal Petrič.

Presojo o verodostojnosti bi prepustili uporabnikom

Z vnovičnim prihodom Donalda Trumpa v Belo hišo se je situacija na družbenih omrežjih še poslabšala, so poudarili naši sogovorniki. Podjetje Meta, ki je imelo utečen sistem preverjanja dejstev, je kmalu po Trumpovi izvolitvi napovedalo, da bo to varovalko ukinilo in uveljavilo sistem skupnostnih zapiskov, po vzoru omrežja X Elona Muska. V ZDA se je ta sprememba že uveljavila, v Evropi še ne, a številne skrbi, da je to le vprašanje časa.

"Omrežje uglednih, kredibilnih institucij je vsako objavo, ki je postala viralna, pregledalo in preverilo, po potrebi so jo opremili s tagi ali jo umaknili," je spomnil Petrič. "Zdaj tega ni več, za verodostojnost naj bi skrbeli uporabniki sami. Če jih bo veliko reklo, da nekaj ni res, bo to pač obveljalo kot neresnično – in obratno."

Algoritmi slonijo prav na tej logiki – izpostavljajo nas vsebinam, ki imajo več odzivov, več všečkov, več delitev. Takšne vsebine veljajo kot bolj veljavne in kredibilne. Po Petričevih besedah se je problematičnost tega pokazala v času epidemije covida-19, ko je obstajala manjšina strokovnjakov, ki so na osnovi znanstvenih virov dokazovali pomen cepljenja, na drugi strani pa je bila večina, ki je temu glasno nasprotovala. Več raziskav je pokazalo, da se je proticepilska propaganda na družbenih omrežjih širila zelo hitro. Mediji so poročali, da so se glede tega vrstila celo opozorila zaposlenih v Facebooku, a da se podjetje na to ni ustrezno odzvalo.

1.200 strani podatkov o enem uporabniku

Za to, da nam družbena omrežja ponujajo vsebine, ki naj bi nam bila všeč, in oglase, ki nas nagovarjajo, nas morajo poznati. In če nas želijo poznati, morajo o nas zbirati podatke. Znan je primer avstrijskega pravnika in aktivista Maxa Schremsa, ki je leta 2011, takrat kot študent prava, od Facebooka zahteval vse podatke, ki jih je ta imel o njem. Od podjetja je prejel več kot 1.200 strani podatkov, vključno s komunikacijo na aplikaciji Facebook Messanger. V dokumentih so bile navedene tudi vsebine, ki jih je Schrems že prej izbrisal.

Na kakšne vse načine nam na družbenih omrežjih in drugih spletnih platformah "prisluškujejo", pravzaprav ne moremo vedeti, saj so tehnološka podjetja, ki so lastniki teh platform, zelo netransparentna, je opozoril dr. Marko Milosavljević, profesor na katedri za novinarstvo na fakulteti za družbene vede v Ljubljani. "Iz preteklih izkušenj pa vemo, da so pogosto skrivala in lagala o svojih strategijah. Sam nimam absolutno nikakršnega zaupanja, da so ta podjetja poštena glede zbiranja in uporabe naših podatkov."

Dokaz za to je bila tudi afera Cambridge Analytica, na katero je leta 2018 opozoril žvižgač iz tega podjetja. Takrat se je izkazalo, da je Facebook s posebno aplikacijo posredno omogočil britanskemu podjetju Cambridge Analytica, da je prišlo do podatkov okoli 50 milijonov njegovih uporabnikov. Podjetje je na podlagi teh podatkov razvilo izjemno učinkovit program, ki predvideva obnašanje uporabnikov na spletu in na ta način omogoča tudi manipuliranje z javnim mnenjem. Uporabili naj bi ga v kampanji pred referendumom o brexitu in pred ameriškimi predsedniškimi volitvami leta 2016.

Znanstveniki centra za psihometrijo na britanski univerzi v Cambridgeu so namreč odkrili, da lahko s spremljanjem obnašanja ljudi na Facebooku in tega, kaj všečkajo, s posebnimi algoritmi ocenijo osebnostne lastnosti uporabnikov precej bolje kot celo njihovi bližnji, je takrat poročal Financial Times.

Kaj bo prinesel poskus regulacije?

"Transparentnost algoritmov je pojem, o katerem je predvsem v zadnjega pol leta veliko govora," je dejal Milosavljević. "EU namreč ugotavlja to, kar je jasno že dlje časa – da smo odvisni od platform in podjetij, ki prihajajo večinoma iz ZDA, delno iz Kitajske. Skupno jim je, da ne podlegajo nacionalni regulaciji v Evropi, pogosto pa tudi ne evropskim vrednotam. To se še posebej jasno vidi v zadnjih mesecih, po ponovnem nastopu ameriškega predsednika Trumpa, ki je temeljito spremenil začrtano ameriško vladno politiko glede regulacije platform pa tudi svobode govora."

V EU naj bi se regulacija – dve desetletji po rojstvu Facebooka – okrepila, v prvi vrsti s sprejetjem akta o digitalnih storitvah. Po Milosavljevićevih besedah se ta sicer v manjši meri loteva vprašanj, povezanih z algoritmi, nekoliko bolj pa se ukvarja s problemom neprimernih vsebin, ki naj bi jih platforme odstranjevale. Ob sprejetju akta leta 2022 so v Guardianu zapisali, da je namenjen "boju proti mizoginiji, zaščiti otrok, preprečevanju goljufij potrošnikov, zajezitvi dezinformacij in zaščiti demokratičnih volitev". Na podlagi akta je Evropska komisija denimo opozorila Meto, da mora pred morebitno ukinitvijo preverjanja dejstev v objavah na svojih družbenih omrežjih pripraviti oceno tveganja in jo predložiti Komisiji.

Na podlagi omenjenega akta je Komisija konec leta 2023 sprožila tudi preiskavo zoper omrežje X glede moderiranja vsebin, tako imenovanih temnih vzorcev, ki naj bi kršila načela transparentnosti in svobodne izbire uporabnika, preglednosti oglaševanja in dostopa do podatkov za raziskovalce, je poročal Euronews.

Za kršitve so predvidene sankcije, v skrajnem primeru celo začasna ukinitev delovanja platforme. Milosavljević je sicer poudaril, da akt, kot mnogi drugi evropski akti, ni najbolj natančen, postopki implementacije pa da se šele razvijajo. Na izvajanje pa vpliva tudi geopolitična situacija in zaostrovanje odnosov med ZDA in EU.

Tako še vedno ni zaključena preiskava Metinega modela "plačaj ali privoli" (angl. Pay or consent). Evropsko komisijo je zmotilo, da je Meta, ki naj bi z novim modelom ugodila evropskim zahtevam o varstvu osebnih podatkov, uporabnikom Facebooka in Instagrama ponudila le dve izbiri: plačilo naročnine za ogled brez oglasov ali uporabo brezplačne različice z zbiranjem njihovih osebnih podatkov za ciljno oglaševanje. Evropska komisija je v preliminarnih ugotovitvah izpostavila, da model ne ustreza aktu o digitalnih storitvah, saj ne ponuja primerljive storitve z manj personaliziranimi oglasi, ki bi bila brezplačna. Preiskava naj bi bila zaključena marca letos, a se to še ni zgodilo. Milosavljević meni, da je akt sicer pomemben korak naprej, a opozarja, da vseh težav ne bo rešil.

Ni se treba prepustiti samo omrežjem

Kje so torej rešitve? In kaj lahko naredimo uporabniki, če sploh kaj? Anže Tomić predlaga "učenje" algoritmov; če določenih vsebin ne želimo gledati, jih dosledno označujmo. To sicer ne bo imelo stoodstotnega učinka, do določene mere pa se bo algoritem vendarle odzval. Marsikdo tudi ne ve, da v nastavitvah na Facebooku lahko najdemo kronološko časovnico, kjer vidimo vsebine prijateljev in strani, ki jim sledimo, urejene po časovnem zaporedju in ne po logiki algoritmov.

Tomić ob tem poudarja, da kakovostne vsebine obstajajo tudi (ali predvsem) izven družbenih omrežij. "Splača se podpreti tiste, ki dobro delajo in ki jim radi sledimo. Če je možno, jih spremljajmo prek novičnika (angl. newsletter) ali spletne strani in ponovno malce potrenirajmo te mišice. Ni se treba prepustiti samo družbenim omrežjem."

Gregor Petrič je opozoril na problem neizobraženosti uporabnikov. "Krivim predvsem politiko, ki ni posvečala nobene pozornosti opismenjevanju, tako v smislu kritičnega razmišljanja kot digitalnega opismenjevanja, vključno z razumevanjem, kaj so Meta, Open AI, algoritmi in tako naprej." Predvsem pa bi po njegovem mnenju morale odigrati vlogo države in vzpostaviti učinkovito regulacijo, pa tudi ponuditi inovacije na tem področju.

Jurij Mihelič vidi delno rešitev v tem, da bi bile uporabljane izvedbe algoritmov odprtokodne. "S tem bi se povečala transparentnost delovanja in zaupanje v podjetja. Dvomim sicer, da bi se to sploh lahko zgodilo, saj so algoritmi pogosto poslovna skrivnost. Prav tako dvomim, da bi to prav bistveno vplivalo na pravičnost, saj srž problema ni v algoritmih, ampak v podatkih, ljudeh itd."