R343 SerijaPot v brezno Del 1 / 17

Pot v brezno

Zemljevid poti od svobodnega človeka do popolnega nadzora

Nihče vam ne bo nekega jutra povedal, da ste izgubili svobodo. Ne bo fanfar. Ne bo uradnega razglasa. Ne bo človeka v uniformi, ki bo potrkal na vrata in vam povedal, da od danes naprej niste več gospodar svojega življenja. Če se bo zgodilo, bo prišlo drugače. Po koščkih. En del svobode boste zamenjali za varnost. Drugega za zdravje. Tretjega za udobje. Četrtega zato, ker bo tako lažje. Petega zato, ker bodo to počeli že vsi okoli vas. Šestega zato, ker ne boste želeli biti označeni kot problematični. Sedmega zato, ker ne boste imeli več praktične alternative. Vsak posamezni korak bo dovolj majhen, da se zaradi njega ne bo zdelo vredno vstati.

In prav zato je pot nevarna. Ne zato, ker bi bil vsak korak sam zase pekel. Ampak zato, ker vsi skupaj lahko vodijo vanj.

Najprej pride strah

Svoboden človek je nepredvidljiv. Prestrašen človek je mnogo lažje vodljiv. Zgodovina vedno znova kaže, da ljudje v času vojne, epidemije, terorističnega napada, gospodarskega zloma ali druge velike krize sprejmejo ukrepe, ki bi jih v mirnem obdobju verjetno zavrnili. Nadzor se razširi. Izredna pooblastila postanejo sprejemljiva. Svoboda gibanja, zasebnost, denar, komunikacija ali telesna avtonomija lahko nenadoma postanejo predmet državne presoje. Razlaga je vedno podobna: »Samo začasno je.« »Za vašo varnost je.« »Za skupno dobro je.« Toda začasni sistemi imajo nenavadno lastnost. Radi ostanejo.

Nato ljudi razdeliš. Ljudje, ki stojijo skupaj, predstavljajo težavo za vsak sistem, ki želi koncentrirati oblast. Ljudje, ki drug drugega sovražijo, predstavljajo veliko manjšo. Zato je sodobna družba vse pogosteje videti kot neskončen seznam nasprotujočih si plemen. Levi proti desnim. Moški proti ženskam. Domačini proti migrantom. Cepljeni proti necepljenim. Verniki proti ateistom. Mladi proti starim. Mesto proti podeželju. Ena rasa proti drugi. Vsaka nova tema dobi dva tabora. Vsak tabor svojo resnico. Vsaka stran svojega sovražnika. Medtem ko ljudje kričijo drug na drugega, se vprašanje, kdo pridobiva več moči, pogosto izgubi v hrupu.

Morda je prav to ena najstarejših političnih lekcij v zgodovini: razdeljene množice ni treba premagati. Premaga se sama.

Nato človeka izoliraš. Razdeljen človek ima lahko še vedno družino, prijatelje, sosede, lokalno skupnost, društvo ali verski prostor, kamor se lahko umakne pred pritiskom sistema. Zato je naslednji korak, da te vezi postanejo redkejše, bolj krhke in bolj posredovane skozi zaslone. Ko neposredni odnosi oslabijo, človek vse več osnovnih potreb — pomoč, pripadnost, informacije, družbo in občutek varnosti — išče pri institucijah in platformah. Sistem ne potrebuje prepovedi skupnosti. Dovolj je, da skupnost počasi postane nekaj, česar človek ne zna več zgraditi brez posrednika.

Nato zlomiš zaupanje

Ko ljudje ne verjamejo več vladi, medijem, znanosti, institucijam, strokovnjakom ali drug drugemu, nastane informacijski kaos. Toda kaos ni nujno konec nadzora. Lahko je njegov začetek. Človek, ki ne ve več, kaj je resnično, začne iskati nekoga, ki mu bo resničnost ponovno uredil. Algoritem. Platforma. Država. »Zaupanja vreden vir.« Preverjevalec dejstev. Umetna inteligenca. Organ, ki bo določal, katera informacija je varna in katera nevarna. Tako se nekaj, kar se začne kot boj proti laži, lahko postopoma spremeni v infrastrukturo za odločanje, katere informacije sploh pridejo do človeka. Najnevarnejša cenzura prihodnosti morda ne bo brisanje knjig.

Morda bo zgolj to, da določene stvari nikoli več ne pridejo pred vaše oči.

Nato človeka narediš odvisnega. Svoboda ni samo pravica, zapisana na papirju. Svoboda je tudi sposobnost preživeti, kadar rečeš ne. Človek, ki ne zna pridelati ničesar, ne poseduje ničesar, nima prihrankov, je zadolžen, ne more popraviti ničesar, ne pozna svojih sosedov in za vsak temeljni del življenja potrebuje kompleksno infrastrukturo, je lahko formalno svoboden. Praktično pa je vse bolj odvisen. Od banke. Od energetskega sistema. Od platform. Od trgovske verige. Od farmacije. Od državnih transferjev. Od digitalnih storitev. Od infrastrukture, ki je sam ne nadzoruje. In čim več stvari, brez katerih ne more živeti, nadzoruje nekdo drug, tem manj je pomembno, koliko svobode mu teoretično zagotavlja ustava.

Nato mu vzameš zasebnost

Telefon ve, kje ste. Ura ve, kako spite. Avtomobil ve, kam vozite. Trgovec ve, kaj kupujete. Banka ve, kje porabljate denar. Platforma ve, kaj gledate. Iskalnik ve, česa vas je strah. Zdravstveni sistem pozna vaše telo. Algoritem lahko iz vseh teh drobcev sestavi človeka, ki ga morda pozna bolje, kot se pozna sam. To ni več znanstvena fantastika. To je poslovni model digitalnega sveta. In ko je človek dovolj natančno izmerjen, ga ni mogoče samo opazovati. Mogoče ga je napovedovati. Usmerjati. Spodbujati. Kaznovati. Filtrirati.

Nato identiteta postane ključ. Digitalna identiteta je lahko izjemno uporabna. Hitrejši dostop do storitev. Manj papirjev. Varnejša avtentikacija. Digitalni podpisi. Preprostejše poslovanje. Toda infrastruktura, ki potrjuje, kdo ste, lahko nekoč potrjuje tudi, kaj smete. To je meja, ki jo mora razumeti vsakdo. Dokler digitalna identiteta zgolj dokazuje identiteto, je orodje. Če se začne povezovati z dovoljenji, finančnimi storitvami, zdravstvenimi pogoji, potovanjem, delom ali družbenim dostopom, postane nekaj precej večjega. Današnje varovalke so pomembne. Toda zakoni niso naravni zakoni. Lahko se spremenijo.

In infrastruktura, ki obstaja, lahko nekoč dobi funkcije, ki jih njeni prvi uporabniki nikoli niso pričakovali.

Nato pride denar

Gotovina ima eno neprijetno lastnost za sistem popolnega nadzora: ne potrebuje dovoljenja tretje osebe za vsako majhno transakcijo. Digitalni denar je drugačen. Lahko je hitrejši, učinkovitejši in udobnejši. Lahko pa je tudi popolnoma sledljiv. In tehnološko je mogoče denar povezovati s pravili. Kje. Kdaj. Za kaj. Komu. Koliko. Današnji evropski projekti digitalnega denarja imajo omejitve in varovalke. To je treba povedati jasno. Toda vprašanje serije ni samo, kaj sistem omogoča danes. Vprašanje je: kaj postane mogoče, ko gotovina izgine in je vsak gospodarski odnos odvisen od digitalnega dovoljenja? Človek, ki mu lahko nekdo s pritiskom na tipko onemogoči uporabo lastnega denarja, ima zelo drugačen odnos do oblasti kot človek z gospodarsko avtonomijo.

Nato začneš meriti vedenje. Koliko energije porabite? Koliko ogljika ustvarite? Kako pogosto letite? Kaj jeste? Kako daleč vozite? Koliko vadite? Koliko zdravstvenih priporočil upoštevate? Tehnokratski sistem obožuje številke. Kar lahko izmeri, lahko primerja. Kar lahko primerja, lahko oceni. Kar lahko oceni, lahko rangira. Kar lahko rangira, lahko nagradi ali omeji. Osebne ogljične kvote so bile že raziskovane. Mesta so modelirala radikalne spremembe prehrane, mobilnosti in potrošnje. Sistemi za trgovanje z emisijami se širijo v nove dele gospodarstva. Danes to še ni sistem osebnega socialnega kredita. Toda infrastruktura merjenja vedenja se širi.

Vprašanje je, kje bomo postavili mejo.

Nato lastništvo zamenjaš z dostopom. Nekoč si nekaj kupil in je bilo tvoje. Danes vse pogosteje plačuješ, da lahko nekaj uporabljaš. Programska oprema. Glasba. Film. Avtomobil. Telefon. Shramba podatkov. Funkcija v avtomobilu. Digitalna knjiga. Nekega dne morda veliko več. Sistem dostopa je udoben. Toda obstaja pomembna razlika med: to je moje in trenutno imam dovoljenje uporabljati to. Lastništvo daje človeku določeno stopnjo neodvisnosti. Dostop ustvarja odnos med ponudnikom in uporabnikom. In ponudnik lahko spremeni pogoje.

Nato nadzor narediš prijeten. To je ključni trenutek. Popoln nadzor ne bo zmagal zato, ker bo ljudem všeč nadzor. Zmagal bo, če jim bo všeč udobje, ki pride skupaj z njim. Telefon, ki ve vse o vas, je priročen. Biometrija je hitrejša od gesla. Digitalni ID je lažji od papirjev. Brezgotovinsko plačilo je hitrejše od bankovca. Pametna hiša je udobnejša. Algoritem vam pokaže točno tisto, kar vas zanima. AI vam prihrani delo. Vsak korak ima popolnoma racionalno razlago. In prav zato lahko pride tako daleč. Pekel prihodnosti morda ne bo videti kot zapor. Morda bo imel brezhiben uporabniški vmesnik.

Nato sistem vstopi v telo

Tu se začne meja, ki je človeštvo še nikoli ni prečkalo v sedanjem obsegu. Nosljive naprave že merijo telo. Implantati obstajajo. Možgansko-računalniški vmesniki se razvijajo. DARPA je raziskovala neposredno dvosmerno komunikacijo med možgani in stroji. Neuralink vstavlja elektrode v človeške možgane. Internet of Bodies ni izraz kritikov tehnologije. O njem odkrito govorijo mednarodne organizacije, raziskovalci in industrija. Za paraliziranega človeka je lahko takšna tehnologija čudež. Toda ista tehnologija odpira vprašanje, ki ga človeštvo ne sme preskočiti: kje se konča zdravljenje in začne spreminjanje človeka v del omrežja?

Kaj se zgodi, ko digitalni sistem ne pozna več samo naših dejanj, ampak tudi signale našega telesa? In nekoč morda celo naših možganov?

Končna postaja nima rešetk

Predstavljajte si človeka prihodnosti. Njegova identiteta je digitalna. Njegov denar je digitalni. Njegova komunikacija je nadzorovana prek platform. Njegova potovanja so zabeležena. Njegove zdravstvene informacije so povezane. Njegova poraba energije je izmerjena. Njegove preference so algoritmično znane. Večine stvari ne poseduje, ampak jih uporablja kot storitev. Za delo, plačilo, komunikacijo in sodelovanje v družbi potrebuje dostop do infrastrukture, ki je ne nadzoruje. Nima verig. Nima stražarja. Nima zaporniške številke. Morda ima lepo stanovanje, hitro internetno povezavo, dostavo hrane in popolnoma avtomatiziran dom.

In vendar lahko praktično vsak pomemben del njegovega življenja obstaja samo toliko časa, dokler mu sistem omogoča dostop. Je to svoboden človek?

Največja prevara bi bila, da krivimo samo »njih«. Ker nobena takšna pot ne obstaja brez nas. Vsaka nova stopnja potrebuje milijone majhnih soglasij. »Saj je samo aplikacija.« »Saj nimam ničesar skrivati.« »Saj je samo začasno.« »Saj je bolj varno.« »Saj vsi uporabljajo.« »Saj ne morem ničesar spremeniti.« »Saj bo nekdo drug poskrbel za to.« Tako se ne gradi samo politični sistem. Tako se gradi kultura poslušnosti. Najlažje je kriviti politike, korporacije, banke, organizacije, milijarderje in tehnokrate. Veliko težje je pogledati vase in se vprašati: Kaj sem sam pripravljen storiti za svobodo, o kateri tako rad govorim?

Ali znam živeti brez neprestanega udobja? Ali poznam svoje sosede? Ali znam nekaj ustvariti? Ali nekaj posedujem? Ali znam reči ne? Ali preverjam informacije? Ali vzgajam otroke tako, da bodo znali misliti brez dovoljenja? Ali je moje življenje dovolj samostojno, da me ni mogoče prisiliti samo z grožnjo izgube udobja?

Načrt Benthamovega panoptikona iz izdaje njegovih del iz leta 1843; zasnova izvira iz leta 1791.
Panoptikon kot zgodovinski model nadzora. Benthamov načrt, zasnovan leta 1791 in objavljen v tej obliki leta 1843, organizira zaporni prostor okoli možnosti centralnega opazovanja. Gre za arhitekturni koncept zapora, ne za dokaz, da so sodobni digitalni sistemi njegovo neposredno nadaljevanje. Slika: Jeremy Bentham / Wikimedia Commons Public domain

Pot še ni cilj

To ni prerokba, da se mora vse to zgoditi. Je opozorilo. Veliko elementov te poti že obstaja. Nekateri so koristni. Nekateri nevarni. Nekateri šele nastajajo. Pri nekaterih še ni jasno, kam bodo vodili. Toda smeri ne smemo presojati samo po naslednjem koraku. Pogledati moramo, kam vodi celotna cesta. Kajti nobena generacija ne dobi svobode v trajno last. Vsaka jo dobi samo v začasno skrbništvo. In vsaka se mora odločiti, koliko je pripravljena predati v zameno za strah, varnost in udobje. Brezno se ne začne na dnu. Začne se s prvim korakom, za katerega smo si rekli, da ni dovolj pomemben, da bi se mu uprli.

Pot po korakih

  1. Prvi korak: Prestraši človeka
  2. Drugi korak: Razdeli ga
  3. Tretji korak: Izoliraj ga
  4. Četrti korak: Zlomi mu zaupanje
  5. Peti korak: Naredi ga odvisnega
  6. Šesti korak: Vzemi mu zasebnost
  7. Sedmi korak: Spremeni identiteto v dovoljenje
  8. Osmi korak: Spremeni denar v nadzorno točko
  9. Deveti korak: Izmeri njegovo vedenje
  10. Deseti korak: Zamenjaj lastništvo z dostopom
  11. Enajsti korak: Naredi nadzor udoben
  12. Dvanajsti korak: Vstopi v telo
  13. Trinajsti korak: Zamenjaj človeka
  14. Štirinajsti korak: Normaliziraj nesvobodo
  15. Končna postaja: Človek brez verig
  16. Izhod iz brezna

O dokumentacijski podlagi

Ta članek je zemljevid celotne serije. Dokumenti, zakoni, uradne strategije, sodni in regulatorni primeri ter drugi preverljivi precedensi so navedeni ob posameznih korakih v nadaljnjih člankih. Kjer pot preseže dokumentirano sedanjost, besedilo zavestno preide v opozorilno vprašanje: ne zato, da bi hipotezo razglasilo za dokazano dejstvo, ampak da bi pokazalo, kam lahko že obstoječa infrastruktura vodi, če se pravila, interesi ali politične razmere spremenijo.