SerijaSkrita moč: rodbine, tajna združenja in nevidni mehanizmi oblasti Del 49 / 55

Digitalni panoptikon

Skrita moč — VII. Psihologija moči in nadzor človeka — SM-49

Uredniška ilustracija vsakdanjih digitalnih sledi; ne prikazuje dejanskega nadzornega sistema.

Skrita moč — VII. Psihologija moči in nadzor človeka — SM-49

Vsakdanji digitalni odtis nastaja iz drobnih dogodkov: iskanja poti, ogleda videa, uporabe kartice zvestobe, klika na oglas ali pogovora z znancem. Vsak dogodek je lahko videti nepomemben. Toda kadar se podatki med seboj povezujejo, lahko nastane slika človeka, ki je sam nikoli ni zavestno sestavil. Kdo to sliko vidi? Kdo jo prodaja, uporablja pri odločanju ali z njo usmerja našo pozornost? In ali se ljudje drugače vedemo že zato, ker vemo, da nas je mogoče opazovati?

Oznaka digitalni panoptikon je privlačna, ker združi vse te skrbi v eno podobo. Hkrati je lahko zavajajoča: spletne platforme, podatkovni posredniki, oglaševalci, državni organi in upravljavci vohunske programske opreme niso ena ustanova. Njihove zmogljivosti se razlikujejo, prav tako pravna pooblastila, motivi in dokazljive posledice. Prav zato je treba raziskovati povezave med njimi, ne pa jih predpostaviti.

Stolp, v katerem opazovalca ni treba videti

Zamisel panoptikona se začne daleč pred računalnikom. Kot pojasnjuje Bentham Project pri University College London, je Samuel Bentham med delom v Rusiji zasnoval načelo osrednjega nadzora dela. Njegov brat Jeremy ga je prilagodil predlogu zapora s celicami okoli osrednjega opazovalnega stolpa. Izvirna pisma so nastajala leta 1786, poznejše dopolnitve v začetku devetdesetih let osemnajstega stoletja. Temeljna ideja ni bila, da upravnik v vsakem trenutku dejansko opazuje vse, temveč da opazovani ne morejo zanesljivo vedeti, kdaj jih gleda. [1]

Zgodovinska črno-bela arhitekturna risba panoptikona: v prerezu so prikazani večnadstropni prostori, pod njimi pa krožni tloris celic okoli osrednjega nadzornega dela.
Načrt panoptikona iz Benthamovih zbranih del (1843; prvotna zasnova 1791). Načelo osrednje opazovalne točke je zgodovinska podlaga metafore, ne dokaz današnjega enotnega sistema nadzora. Slika: Jeremy Bentham / The Works of Jeremy Bentham, vol. IV (1843) / Wikimedia Commons Public Domain (Wikimedia Commons record; Public Domain Mark, not CC license)

Filozof Michel Foucault je kasneje v panoptikonu prepoznal simbol disciplinske moči: zunanje opazovanje se lahko spremeni v notranje samonadzorovanje. Vendar niti zgodovinska stavba niti filozofska interpretacija ne dokazujeta, da današnja družba deluje kot en sam zapor. Metafora je uporabna, če z njo vprašamo, kdo ima možnost gledati, kako je ta možnost razdeljena in ali jo lahko opazovani izpodbija. Ni pa natančen tehnični zemljevid interneta. [2]

Sodobni sistemi imajo še eno pomembno razliko: ne zbirajo le pogledov na ravnanje, temveč iz podatkov izračunavajo verjetnostne sklepe. Predmet nadzora postane lahko profil, ki napoveduje nakup, zanimanje, finančno tveganje ali verjeten odziv. Profil je lahko uporaben, napačen ali krivičen; zaradi tega še ni resnična definicija človeka.

Trg drobcev, iz katerih nastane profil

Ameriška Zvezna komisija za trgovino (FTC) je leta 2014 preučila devet podatkovnih posrednikov. Ugotovila je, da so pridobivali informacije iz trgovinskih in drugih evidenc, spletnih ter nespletnih virov in od drugih posrednikov. Sedem od devetih je podatke izmenjevalo z vsaj enim drugim posrednikom v preučevani skupini. Eden od pregledanih posrednikov je imel podatke o več kot 1,4 milijarde potrošniških transakcij in 700 milijard podatkovnih elementov. To niso podatki o 1,4 milijarde različnih ljudi, temveč o transakcijah oziroma elementih; teh številk ni pravilno prevesti v število opazovanih posameznikov. [3]

Zanimivo je prav kroženje. Kupec lahko neposredno posreduje podatek eni organizaciji, kasneje pa se ta poveže z drugimi zbirkami, na katere nikoli ni pomislil. FTC je opisala tudi sklepanje o starosti, dohodku, naklonjenostih in občutljivih okoliščinah. Podatki sami po sebi pogosto ne povedo, ali je tak sklep pravilen. Kdor je kupil knjigo o bolezni, ni nujno bolan; kdor je odprl politično spletno stran, ni nujno zagovornik njenih stališč. A napačen sklep lahko kljub temu vpliva na ponudbo, razvrstitev ali presojo tveganja.

Tak trg ima tudi legitimne namene, ki pa jih je treba presojati ločeno od konkretnih zbiranj in nadaljnjih uporab. Podatki lahko pomagajo odkriti goljufije, olajšajo storitve in omogočijo uporabniku relevantnejše ponudbe. Vendar korist ne odpravi vprašanja, ali ljudje vedo za uporabo podatkov, ali lahko popravijo napako in kako dolgo so podatki shranjeni. FTC je posebej opozorila na slabo preglednost industrije in nepopolne možnosti nadzora za posameznika. Poročilo opisuje vzorec devetih podjetij v določenem obdobju, ne vseh posrednikov na svetu. [3]

Platforma, ki pozna tudi tisto, česar ji nismo povedali

Ločena študija FTC, objavljena septembra 2024, je preučila prakse devetih velikih storitev družbenih omrežij in videopretočnih platform. Njen izvor so posebne zahteve regulatorja za informacije; ugotovitve niso dokaz, da se vsaka težava pojavlja pri vsakem podjetju v enaki meri. Poročilo opisuje obsežno zbiranje, možnost dolgega hranjenja podatkov o uporabnikih in tudi neuporabnikih, sledenje zunaj same storitve ter uporabo podatkov za oglaševanje, priporočila in avtomatizirano analitiko. [4]

Značilen primer je sledilna koda na tuji spletni strani. Ob obisku lahko določeni tehnološki sistemi pošiljajo informacije platformi, čeprav uporabnik v tistem trenutku ni odprl njene aplikacije. To ne pomeni, da platforma neomejeno vidi celotno življenje ali vse pogovore. Pomeni pa, da človekovega podatkovnega odtisa ni mogoče razumeti samo iz tega, kar sam namerno objavi v svojem profilu.

Pomembna oblika vpliva ni le oglaševanje, temveč tudi izbor, kaj postane vidno. Priporočilni sistemi lahko razvrščajo vsebine po različnih signalih: preteklem zanimanju, odnosih, jeziku, času odziva ali ciljih storitve. Iz tega ne sledi, da je vsak algoritemski izbor politična manipulacija. Razvrščanje je nujno tudi za uporabnost velike količine vsebin. Odločilni vprašanji sta, kdo določi merilo uspeha in koliko uporabnik razume ter nadzoruje učinke tega merila.

Ko profil postane politično orožje

Britanski Information Commissioner’s Office (ICO) je v preiskavi, povezani s Cambridge Analytica, dokumentiral zbiranje informacij o milijonih uporabnikov Facebooka prek aplikacije This Is Your Digital Life in nadaljnjo uporabo podatkov v političnem okolju. ICO opisuje, kako so politični akterji z digitalnimi podatki poskušali doseči majhne skupine volivcev s prilagojenimi oglasi. To je dokaz praks zbiranja, prenosa in ciljanja; ni neposreden dokaz, da je Cambridge Analytica odločila izid volitev ali referenduma. [5]

Raziskava iz leta 2023, objavljena v reviji Proceedings of the National Academy of Sciences (PNAS), je z randomiziranimi eksperimenti preučevala, koliko lahko mikrociljanje poveča prepričevalni učinek. V enem preučevanem okviru so avtorji ocenili občutno prednost pred manj premišljenimi načini izbire sporočil, vendar je bila prednost odvisna od vrste sporočil, primerjalne strategije in dostopnih podatkov. Raziskovalni rezultat zato ni dokaz univerzalnega stroja za oblikovanje politične volje. [6]

Tudi novejši poskusi niso enoznačni. Študija iz leta 2024 o političnem prepričevanju z GPT-4 ni našla statistično značilne splošne prednosti individualiziranega mikrociljanja pred primerljivimi nepersonaliziranimi sporočili. To ne pomeni, da ciljano oglaševanje nikoli deluje; pomeni, da je učinkovitost treba izmeriti v konkretnih pogojih in je ne smemo sklepati že iz tehnološke zmogljivosti. [7]

V tem je razlika med možnostjo doseči določeno občinstvo, možnostjo prilagoditi sporočilo in dokazom, da je sporočilo dejansko spremenilo prepričanje ali ravnanje. Prvi dve možnosti sta tehnični in organizacijski. Tretja je empirično vprašanje. Odprto ostaja tudi vprašanje, kaj se zgodi, ko se množica sporočil, oglaševalskih dražb, družbenih pritiskov in priporočil medsebojno sešteva zunaj nadzorovanega eksperimenta.

Državni nadzor ni enak oglaševalskemu profiliranju

Komercialno sledenje in državno prestrezanje se lahko srečata pri istih podatkovnih infrastrukturi, vendar imata različne pravne režime. Ameriški § 702 zakona FISA je dovoljeval usmerjeno pridobivanje zunanjeobveščevalnih informacij o osebah, ki niso državljani ZDA in za katere je veljalo razumno prepričanje, da so zunaj države. Komunikacije drugih oseb so se lahko znašle v zbirki posredno. Uradna razlaga obveščevalne skupnosti poudarja ciljanje in zaščitne postopke; to stališče je treba brati ob ugotovitvah neodvisnih nadzornih organov, ne namesto njih. [8]

Poročilo osebja ameriškega organa Privacy and Civil Liberties Oversight Board (PCLOB), objavljeno aprila 2026, opisuje spremembe po reformah iz leta 2024, izboljšave postopkov in odprta vprašanja varstva pravic. Navedene pozitivne ocene še ne pomenijo, da je dolgoročni učinek reform v celoti izmerjen. Pomembna omejitev: gre za poročilo osebja, ne za dokument, ki bi ga potrdil sklepčno zaseden odbor. V njem so navedene tudi koristi programa za zbiranje obveščevalnih informacij. Raziskovalna poštenost zahteva oboje: dokumentiranje tveganja za pravice in upoštevanje konkretnih varnostnih namenov. [9]

Leta 2026 je nastala dodatna pravna posebnost. po začasnih podaljšanjih se je zakonska podlaga § 702 12. junija iztekla, toda Congressional Research Service pojasnjuje, da so obstoječe sodne odobritve lahko ostale veljavne do svojega izteka. To ni enako neomejenemu podaljšanju zakona niti takojšnji ustavitvi vsega zbiranja. Stanje morebitne poznejše ponovne odobritve zahteva posebej svežo preverbo pred objavo članka. [10]

Prav tu je izraz »vsevidni nadzor« premalo natančen. Preiskovalec mora vprašati, katera institucija je pridobila katero informacijo, na podlagi katere pristojnosti, kdo je opravil poizvedbo v zbirki in kako je mogoče njeno zakonitost izpodbijati. Če teh razlik ne poznamo, lahko hkrati podcenimo dejanske zlorabe in pretiravamo z domnevami o vseprisotnosti.

Ciljana okužba ni dokaz okužbe vseh

Včasih nadzor ne pomeni postopnega sestavljanja profilov, temveč vdor neposredno v posameznikovo napravo. To je tehnološko in dokazno drugačen mehanizem od zbiranja podatkov za oglaševanje. Citizen Lab je s partnerji februarja 2024 poročal o vsaj 35 osebah iz jordanske civilne družbe, ki so bile med letoma 2019 in septembrom 2023 tarča ali žrtev okužbe z vohunsko programsko opremo Pegasus. Pri 30 primerih je forenzično preverjanje neposredno potrdil Citizen Lab, za pet dodatnih so dokaze analizirali drugi partnerji. Raziskovalci izrecno razlikujejo med potrjeno okužbo in sledovi poskusa ciljanja. [11]

Razlika je bistvena. Če raziskovalci najdejo dokaz poskusa napada, ta ne zagotavlja, da je programska oprema uspešno prevzela telefon. Po drugi strani odsotnost vseh digitalnih sledi ne pomeni nujno, da do okužbe ni prišlo. Takšna preiskava je močna zato, ker jasno pove, katere ugotovitve lahko podpre in katerih ne.

Primeri nadzora aktivistov, novinarjev in odvetnikov kažejo, kakšne posledice ima lahko dostop do občutljivih sporočil, stikov in zasebnih okoliščin. Toda iz dokumentiranega ciljnega vdora ni mogoče preskočiti na trditev, da en sam akter neprekinjeno nadzoruje vsak telefon. Prav tako proizvajalčeva narodnost sama po sebi ni dokaz, kdo je v konkretnem napadu izbral tarčo ali upravljal programsko opremo.

Pravice obstajajo — vendar jih je treba znati uporabiti

Evropska ureditev uvaja drugačno vrsto vprašanja: ne le, kaj je tehnično mogoče, temveč kaj je obdelovalcu podatkov dovoljeno. Splošna uredba o varstvu podatkov (GDPR) v členu 15 ureja pravico dostopa do osebnih podatkov, v členu 21 pravico ugovora pri določenih podlagah obdelave, člen 22 pa določa pogoje in varovalke pri odločitvah, ki temeljijo izključno na avtomatizirani obdelavi in imajo pravne ali podobno pomembne učinke. Nobena od teh določb ne pomeni, da je vsako profiliranje povsem prepovedano ali da je zahtevi posameznika vedno treba ugoditi brez izjem. [12]

Akt o digitalnih storitvah (DSA) določa med drugim preglednost spletnih oglasov, omejitve prikazovanja oglasov na podlagi profiliranja z uporabo posebnih vrst osebnih podatkov ter omejitve profiliranega oglaševanja mladoletnikom, kadar ponudnik z razumno gotovostjo ve, da je uporabnik mladoleten. Za zelo velike platforme predpisuje tudi vsaj eno možnost priporočanja vsebin, ki ne temelji na profiliranju. Te obveznosti niso splošna prepoved priporočilnih algoritmov ali vsakršnega spletnega oglaševanja. [13]

Evropski odbor za varstvo podatkov je leta 2021 objavil smernice o ciljanju uporabnikov družbenih omrežij. Pravna pravila tako obstajajo tudi na ravni odgovornosti platform in oglaševalcev, vendar razdalja med napisano normo, dejansko izvršbo in razumljivo uporabniško izbiro še vedno zahteva preverjanje. [14]

Posameznik lahko zato sprejme konkretne, četudi ne popolne ukrepe: preveri nastavitve oglaševanja in priporočil, omeji nepotrebna dovoljenja aplikacijam, uporablja posodobljene naprave in po potrebi uveljavlja pravico do dostopa, ugovora ali popravka podatkov. Toda zasebnosti ne smemo spremeniti v izključno breme človeka, ki mora sam ugibati, kje so njegovi podatki. Bistveni so še pregledni nadzorni postopki, učinkovite sankcije, neodvisno novinarstvo, odgovorni raziskovalci in možnost javnega preverjanja institucij.

Kdo sme gledati v koga?

Na vprašanje, ali digitalni panoptikon obstaja, ni pošteno odgovoriti niti z lahkotnim zanikanjem niti s podobo enega skritega upravljavca sveta. Obstajajo dokumentirane komercialne mreže za zbiranje in trgovanje s podatki, algoritmično razvrščanje informacij, politično ciljanje, zakonite in sporne oblike državnega prestrezanja ter forenzično dokazani primeri ciljnih vdorov. Dokazi pa ne upravičujejo sklepa, da imajo vsi ti sistemi skupno poveljstvo, da je vsaka naprava nenehno nadzorovana ali da lahko brez omejitev določijo človekovo voljo.

Morda je najpomembnejša posledica digitalnega nadzora manj dramatična, vendar trajnejša: asimetrija vednosti. Institucija lahko o posamezniku sestavlja profile, ki jih on ne vidi, medtem ko posameznik težko izve, na kakšni podlagi je bil razvrščen, ogovorjen ali izključen. Nasproti temu stoji načelo, da mora biti moč, ki zahteva preglednost od ljudi, tudi sama podvržena preverjanju.

Svoboda ne pomeni, da nas nihče nikoli ne vidi, temveč da opazovanje ni samovoljno, da ima razložljiv namen in pravno mejo, da je odločitev mogoče izpodbijati ter da človek ostane več kot skupek podatkovnih napovedi. Teh zahtev ni mogoče izpolniti samo z eno nastavitvijo zasebnosti. Zahtevajo institucije, ki jih je mogoče nadzorovati, in ljudi, ki se ne odpovedo lastni presoji.

Viri in nadaljnje branje

  1. University College London, Bentham Project. The Panopticon. vir Vir
  2. Stanford Encyclopedia of Philosophy. Jeremy Bentham (pregled zgodovine in filozofskih interpretacij). vir Vir
  3. Federal Trade Commission (27. 5. 2014). FTC Recommends Congress Require the Data Broker Industry to be More Transparent and Give Consumers Greater Control Over Their Personal Information; povzetek študije Data Brokers: A Call for Transparency and Accountability. vir Vir
  4. Federal Trade Commission (2024). A Look Behind the Screens: Examining the Data Practices of Social Media and Video Streaming Services (staff report, september 2024). vir Vir
  5. Information Commissioner's Office. Cambridge Analytica raids (uradni retrospektivni pregled preiskave, začete 2017). vir Vir
  6. Raziskovalni članek (2023), Quantifying the potential persuasive returns to political microtargeting, Proceedings of the National Academy of Sciences 120(25), e2216261120. vir Vir
  7. Raziskovalni članek (2024), Evaluating the persuasive influence of political microtargeting with large language models, Proceedings of the National Academy of Sciences, DOI 10.1073/pnas.2403116121. vir Vir
  8. Office of the Director of National Intelligence / Intelligence.gov. Incidental Collection in a Targeted Intelligence Program (uradna razlaga izvršne veje). vir Vir
  9. Privacy and Civil Liberties Oversight Board (2. 4. 2026). Report on the Surveillance Program Operated Pursuant to Section 702 of FISA, poročilo osebja (brez potrditve sklepčnega odbora). vir Vir
  10. Congressional Research Service (22. 6. 2026). The Impact of FISA Section 702's Repeal, Legal Sidebar LSB11444 (javno dostopna zrcalna objava poročila). vir Vir
  11. The Citizen Lab (1. 2. 2024). Confirming Large-Scale Pegasus Surveillance of Jordan-based Civil Society (v sodelovanju z Access Now in partnerji). vir Vir
  12. Evropski parlament in Svet EU (2016). Uredba (EU) 2016/679, Splošna uredba o varstvu podatkov (GDPR), zlasti členi 15, 21 in 22. vir Vir
  13. Evropski parlament in Svet EU (2022). Uredba (EU) 2022/2065, Akt o digitalnih storitvah (DSA), zlasti členi 26 in 38. vir Vir
  14. European Data Protection Board (13. 4. 2021). Guidelines 8/2020 on the targeting of social media users — Final version. vir Vir