Četrti korak: Zlomi mu zaupanje

Najprej ti povedo, da je problem laž

Seveda laži obstajajo. Propaganda obstaja. Prevara obstaja. Tuje vplivne operacije obstajajo. Lažne zdravstvene trditve lahko škodujejo ljudem. Lažne govorice lahko sprožijo nasilje. Manipulirane fotografije, ponarejeni videoposnetki in koordinirane dezinformacijske kampanje lahko vplivajo na volitve, vojne in javno zdravje. Zato se ideja, da je treba škodljivo dezinformacijo omejevati, na začetku zdi skoraj samoumevna. Problem nastane kasneje. Kdo določa, kaj je dezinformacija? Kdo določa, kdaj je znanstvena razprava zaključena?

Kdo določa, kateri vir je »zanesljiv«? Kdo odloča, ali je nekaj laž, napačna interpretacija, satira, dvom ali preprosto neprijetno vprašanje? In kaj se zgodi, ko se tisti, ki odločajo, zmotijo?

Kar je danes »napačno«, je lahko jutri dovoljeno vprašanje

Med pandemijo je Facebook razvil izjemno obsežen sistem odstranjevanja in zmanjševanja dosega vsebin, ki jih je uvrstil med COVID-19 misinformation. Meta je kasneje sama zapisala, da je odstranila več kot 25 milijonov kosov vsebine in da je njen seznam zajemal okoli 80 kategorij trditev.[1] Ena od trditev, ki jih je sistem sankcioniral, je bila možnost, da je bil virus umetno ustvarjen oziroma izdelan.

26. maja 2021 je Facebook politiko spremenil. Njegova uradna razlaga je bila jasna: zaradi novih preiskav izvora COVID-19 takšne trditve ne bo več odstranjeval.[2] To ne dokazuje, da je laboratorijski izvor COVID-19 resničen. Dokazuje nekaj drugega, kar je za ta članek pomembnejše: platforma je nekaj časa obravnavala določeno trditev kot dovolj napačno za odstranitev, nato pa priznala, da vprašanje ni več dovolj zaprto, da bi takšna prepoved ostala upravičena.

Vmes pa vsebina ni bila samo predmet razprave. Bila je lahko skrita, označena ali odstranjena. To je problem vsakega sistema, ki želi upravljati resnico v realnem času. Znanost se spreminja. Dokazi se spreminjajo. Preiskave odkrijejo nove podatke. Toda cenzurirana razprava ne more za nazaj dobiti nazaj mesecev, v katerih je ni bilo mogoče normalno voditi.

In potem je prišlo priznanje pritiska

Avgusta 2024 je Mark Zuckerberg v pismu ameriškemu House Judiciary Committee zapisal, da so visoki uradniki Bidnove administracije, vključno z Belo hišo, več mesecev pritiskali na Meto glede določenih COVID-19 vsebin, tudi humorja in satire.[3] Zuckerberg je hkrati poudaril dve stvari. Prvič, da je bil pritisk po njegovem mnenju napačen. Drugič, da je bila končna odločitev o odstranitvi ali omejitvi vsebine še vedno Metina.

To je pomembna razlika. Ni treba trditi, da je vlada neposredno upravljala Facebook. Dovolj je videti dokumentirani problem: oblast lahko močno pritiska na zasebno platformo, ki nadzira informacijski tok milijard ljudi, platforma pa se lahko temu pritisku deloma prilagodi. Bela hiša je takrat odgovorila, da je v času smrtonosne pandemije spodbujala odgovorno ravnanje zaradi javnega zdravja in da morajo tehnološka podjetja še vedno sprejemati lastne odločitve o vsebini.[4]

Torej ne gre za preprosto zgodbo z enim stavkom. Toda prav zato je nevarna. Država lahko reče, da samo opozarja. Platforma lahko reče, da odloča sama. Fact-checker lahko reče, da samo dodaja kontekst. Algoritem lahko reče nič, ker algoritem ne govori. Na koncu pa lahko vsebina vseeno izgine iz javnega pogleda.

Vrhovno sodišče ni reklo, da pritisk ni obstajal

Primer Murthy v. Missouri je postal osrednji ameriški spor glede stikov med državnimi uradniki in platformami. Vrhovno sodišče ZDA leta 2024 ni odločilo, da so bile vse oblike takšnih pritiskov ustavne ali da pritisk ni obstajal. Večina je primer rešila predvsem na vprašanju procesne legitimacije in vzročne povezave: tožniki niso dovolj konkretno pokazali, da je določena komunikacija določenega državnega akterja povzročila določeno omejitev njihove konkretne vsebine.[5]

Sodišče je hkrati poudarilo, da imajo platforme lastne interese in lastna pravila moderiranja ter da ni mogoče vsake njihove odločitve avtomatično pripisati državi.[5] To je pomemben pravni popravek pretirano preprosti zgodbi. Toda ne izbriše osnovnega problema. Komunikacijski kanal med oblastjo in zasebnimi upravljavci javnega informacijskega prostora obstaja. Vprašanje zato ni samo, ali je bila določena odstranitev pravno dokazano posledica prisile. Vprašanje je, koliko moči dobi sistem, ko se država, platforma, zdravstvena oblast, fact-checker in algoritem znajdejo v istem informacijskem ekosistemu.

Cenzura prihodnosti ne potrebuje gumba DELETE

Stari model cenzure je bil primitiven. Knjigo prepoveš. Časopis zapreš. Avtorja aretiraš. Radijski oddajnik ugasneš. Digitalni sistem je elegantnejši. Ni vam treba ničesar formalno prepovedati. Vsebini samo zmanjšaš doseg. Ne priporočaš je. Označiš jo. Pred njo postaviš opozorilo. Izločiš jo iz iskanja. Demonetiziraš ustvarjalca. Upočasniš širjenje. Uporabnika začasno blokiraš. Njegovo stran označiš kot ponavljajoč vir »misinformation«. Facebook je leta 2021 sam pojasnjeval, da pri vsebinah, ki jih fact-checkerji ocenijo kot lažne, zmanjša distribucijo, doda opozorila in lahko dodatno zmanjša doseg strani, skupin ter domen, ki takšno vsebino ponavljajo.[6]

Platforma je takrat navedla tudi, da približno 95 % uporabnikov po opozorilnem zaslonu sploh ne klikne naprej do označene vsebine.[6] Pomislite, kaj to pomeni. Ni treba odstraniti knjige iz knjižnice. Dovolj je postaviti vrata, skozi katera skoraj nihče več ne stopi.

Najmočnejši urednik na svetu nima obraza

V preteklosti je urednik časopisa odločal, kaj bo na prvi strani. Danes prvo stran vsakega človeka sestavi drugačen algoritem. Facebook je javno opisoval, da njegov News Feed uporablja tisoče signalov za razvrščanje vsebin.[7] Leta 2021 je začel tudi namerno zmanjševati količino političnih vsebin, ki jih nekateri uporabniki vidijo. Kasneje je globalno zmanjšal težo komentarjev in delitev pri razvrščanju političnih objav.[8] Leta 2025 je nato smer ponovno spremenil in napovedal, da bo politično vsebino spet bolj vključil za uporabnike, ki jo želijo videti.[9]

To je popoln prikaz nove informacijske realnosti. Človek ne izbira samo, kaj bo prebral. Nekdo pred njim izbira, kaj bo sploh dobilo možnost, da se pojavi pred njegovimi očmi. In ta izbor se lahko spremeni čez noč. Ne zato, ker se je svet spremenil. Ampak zato, ker se je spremenila ena vrstica kode, poslovna odločitev ali politika moderiranja.

Tudi platforme danes priznavajo, da so šle predaleč

Januarja 2025 je Meta napovedala konec svojega ameriškega programa zunanjih fact-checkerjev in prehod na Community Notes. Njena lastna razlaga je bila izredno neposredna. Podjetje je zapisalo, da je sistem sčasoma postal preveč omejujoč, da je preveč legitimnega političnega govora dobivalo fact-check oznake, da je prihajalo do preveč napačnih sankcij in da je program, namenjen informiranju, prepogosto postal orodje za cenzuro.[9] Meta je ocenila celo, da je bilo konec leta 2024 med približno enim in dvema od desetih avtomatiziranih oziroma moderatorskih ukrepov morda napačnih.[9]

To ni trditev kritika Facebooka. To je Facebookov lastni popravek lastnega sistema. Aprila 2025 je v ZDA tretjeosebni fact-checking dejansko prenehal delovati, Community Notes pa so ga začele nadomeščati.[10] To ne pomeni, da Community Notes nikoli ne bodo napačne. Pomeni pa, da je eden največjih informacijskih sistemov na svetu po letih uporabe priznal, da je mehanizem, ki naj bi omejeval napačne informacije, začel preveč omejevati tudi legitimni govor.

Resnica se tako spremeni v problem infrastrukture

Tu je naslednji korak poti. Če večina ljudi novice bere skozi nekaj platform, iskalnikov in aplikacij, potem tisti, ki oblikujejo njihove algoritme, ne nadzorujejo samo tehnologije. Nadzorujejo vidljivost. In vidljivost je predpogoj za javno resničnost. Dogodek, o katerem nihče ne sliši, je za večino družbe skoraj enak dogodku, ki se ni zgodil. Mnenje, ki ga algoritem skrije pred 99 % potencialnega občinstva, je formalno dovoljeno. Praktično pa je skoraj nevidno. To je bistvena razlika med klasično in digitalno cenzuro. Ni treba prepovedati govora. Dovolj je nadzorovati njegovo distribucijo.

Toda ali rešitev pomeni pustiti vse brez pravil?

Ne. To bi bila poceni karikatura problema. Platforme vsebujejo prevare, pornografsko izkoriščanje otrok, grožnje, teroristično propagando, lažne finančne sheme, manipulirane posnetke in organizirane vplivne operacije. Nobena resna družba ne more preprosto reči, da je vse dovoljeno in da posledice niso pomembne. Prav zato Evropska unija z Digital Services Actom od velikih platform zahteva ocenjevanje sistemskih tveganj priporočilnih algoritmov, vključno z vplivi na volitve, javni diskurz, duševno zdravje, zasvojljivo uporabo in tako imenovane rabbit holes.[11] Tudi to je legitimno vprašanje. Toda vsaka rešitev ponovno ustvari isto težavo: Kdo bo določal mejo? In kdo bo nadzoroval tistega, ki jo določa?

Najprej uničimo zaupanje. Nato uvedemo certificirano zaupanje.

Tu postane smer res zanimiva. Ko ljudje izgubijo zaupanje v časopise, nastanejo fact-checkerji. Ko izgubijo zaupanje v objave, nastanejo oznake. Ko izgubijo zaupanje v slike, nastanejo sistemi za dokazovanje izvora datotek. Ko izgubijo zaupanje v uporabnike, nastane preverjena digitalna identiteta. Ko izgubijo zaupanje v človeško presojo, pride umetna inteligenca, ki naj bi pomagala filtrirati, povzemati in razvrščati resničnost. Vsak nov sloj naj bi popravil problem prejšnjega.

Toda vsak nov sloj ustvari tudi novo centralno točko zaupanja. Certifikat. Algoritem. Platformo. Identiteto. Model AI. Institucijo. Kaj pa, če je največja posledica informacijske krize prav to, da smo postali pripravljeni zamenjati lastno presojo za sistem, ki nam pove, čemu lahko zaupamo?

Kaj pa, če popolna zmeda ni napaka sistema?

Predstavljajte si družbo, v kateri polovica ljudi verjame, da vsi veliki mediji lažejo. Druga polovica verjame, da so vsi alternativni mediji nevarna dezinformacija. Ena stran verjame zdravstvenim oblastem brez vprašanj. Druga jim ne verjame niti takrat, ko imajo prav. Ena stran vsako cenzuro imenuje varnost. Druga vsako moderacijo imenuje totalitarizem. Nihče več ne posluša nikogar. Kaj dobiš? Ne svobodne družbe. Dobiš družbo brez skupne resničnosti.

In družba brez skupne resničnosti se težko organizira, težko zahteva odgovornost in težko loči resničen škandal od lažnega alarma. Takšna družba je popolno okolje za manipulacijo. Ni treba, da vsi verjamejo isti propagandi. Včasih je dovolj, da nihče več ne verjame ničemur. Takrat človek postane utrujen. Neha preverjati. Neha razmišljati. Neha sodelovati. In začne iskati najlažji odgovor.

Resnice ne potrebuješ prepovedati, če jo lahko utopiš

To je morda sodobnejša metoda od klasične cenzure. Ne odstrani informacije. Okoli nje ustvari milijon drugih. Protiargument. Meme. Lažni posnetek. Komentar. Fact-check. Nasprotni fact-check. Bot. AI-generiran članek. Video brez izvora. Anonimni kanal. »Strokovnjaka« na obeh straneh. Človek ima občutek, da ima dostop do vsega. V resnici pa nima več časa, energije ali znanja, da bi ugotovil, kaj je vredno verjeti. To je informacijski pekel. Ne tišina. Hrup.

Ko izgubiš resnico, izgubiš tudi možnost skupnega odpora

Svobodni ljudje se lahko prepirajo. Toda za skupno ukrepanje potrebujejo vsaj minimalno skupno osnovo. Da je dokument dokument. Da je posnetek resničen. Da se je dogodek zgodil. Da določena številka pomeni isto za obe strani. Ko izgine tudi to, družbe ni več mogoče samo razdeliti. Mogoče jo je paralizirati. Vsak škandal ima dve resničnosti. Vsaka statistika dve interpretaciji. Vsaka vojna dve popolnoma ločeni zgodovini. Vsak dokaz dobi etiketo propagande.

In medtem se sistemi, ki razvrščajo, filtrirajo in certificirajo informacije, samo še krepijo. To je četrti korak. Ne prepričaj človeka samo, da je druga stran zlobna. Prepričaj ga, da resnica sama ni več dosegljiva brez posrednika. Takrat dobi posrednik ogromno moč.

Naslednji korak je skoraj naraven

Človek je prestrašen. Razdeljen. Ne ve več, komu verjeti. Kaj potrebuje zdaj? Nekoga, ki mu bo povedal, kaj je varno. Nekoga, ki mu bo zagotovil hrano. Energijo. Zdravilo. Stanovanje. Kredit. Dostop. Platformo. In čim manj zaupa svetu okoli sebe, tem lažje začne svojo varnost iskati v sistemu, od katerega je že odvisen. Tako četrti korak pripravi petega. Naredi ga odvisnega.