Šesti korak: Vzemi mu zasebnost

Nadzor prihodnosti ne izgleda kot človek v plašču

Stari nadzor je bil drag. Potreboval je policista, agenta, telefonski prisluškovalni sistem, fizično kartoteko, sodni nalog, človeka, ki je spremljal človeka. Novi nadzor je avtomatiziran. Človek sam nosi senzor v žepu. Sam ga polni vsak večer. Sam poskrbi, da ima mikrofon, kamero, GPS, Bluetooth, Wi‑Fi in stalno povezavo v omrežje. Sam vanj vnese kontakte, fotografije, koledar, sporočila, zdravstvene podatke, plačilne kartice in svojo zgodovino iskanja.

Sistem je zato lahko neprimerno večji od vsega, kar so si prejšnje generacije oblasti sploh lahko predstavljale. To ne pomeni, da vsak telefon nekdo osebno spremlja. Pomeni nekaj učinkovitejšega. Telefon lahko proizvaja dovolj podatkov, da človeka ni treba osebno spremljati.

Lokacija ni samo pika na zemljevidu

Natančna geolokacija lahko razkrije mnogo več kot naslov. Pove, kje človek spi. Kje dela. Kam hodi ob nedeljah. Katero kliniko obiskuje. S kom preživlja noč. Kako pogosto gre v bar. Ali obiskuje terapevta. Ali se ustavlja pred centrom za zdravljenje odvisnosti. Ali obiskuje politični shod. Ali hodi v cerkev, mošejo ali sinagogo. To ni hipotetična nevarnost. Ameriška Federal Trade Commission je leta 2024 podjetju X-Mode oziroma njegovemu nasledniku Outlogic prepovedala prodajo občutljivih lokacijskih podatkov, potem ko je regulator ugotovil, da je podjetje prodajalo natančne lokacijske podatke, iz katerih je bilo mogoče sklepati na obiske zdravstvenih in reproduktivnih klinik, verskih objektov in zatočišč za žrtve nasilja.[1]

To pomeni, da je infrastruktura, ki lahko iz telefona naredi sledilno napravo, že obstajala kot komercialni trg. Ni bilo treba zgraditi ministrstva za sledenje. Obstajal je trg. In na trgu so bili podatki. To je pomembna lekcija celotne poti: nadzor ni nujno državni, da bi bil nevaren. Včasih ga najprej zgradi oglaševalska industrija. Država lahko pride kasneje.

Tudi zaščitnik zasebnosti lahko prodaja vašo zgodovino

Leta 2024 je FTC dokončno ukrepala tudi proti podjetju Avast. To je posebej poučen primer, ker Avast uporabnikom ni prodajal storitve z imenom »predajte nam svojo zasebnost«. Prodajal je protivirusno in zasebnostno zaščito. FTC je ugotovila, da je podjetje zbiralo podrobne podatke o brskanju uporabnikov in jih prek hčerinske družbe prodajalo več kot sto tretjim osebam. Podatki so lahko razkrivali verska prepričanja, zdravstvene skrbi, politične preference, lokacijo, finančni položaj in druge občutljive informacije.[2]

Podjetje je moralo plačati 16,5 milijona dolarjev in dobilo prepoved prodaje oziroma licenciranja podatkov o brskanju za oglaševalske namene. Ironija je skoraj popolna. Orodje, ki naj bi človeka ščitilo pred sledenjem, je postalo vir podatkov o njem. To ni razlog za sklep, da vsaka digitalna storitev laže. Je pa dovolj dober razlog, da razumemo nekaj osnovnega: obljuba zasebnosti ni isto kot tehnična nezmožnost nadzora. Če sistem podatke lahko zbira, obstaja vprašanje, kdo jih lahko uporabi jutri.

Avtomobil ni več samo avtomobil

Sodobni avtomobil je računalnik na kolesih. FTC je leta 2024 javno opozorila, da lahko povezani avtomobili zbirajo biometrične podatke, geolokacijo, telematiko, video in druge osebne informacije. To pomeni, da predmet, ki je bil nekoč predvsem mehanski stroj za premik od točke A do točke B, postaja še ena podatkovna platforma. Ve, kje ste bili. Kdaj ste bili tam. Kako ste vozili. Kateri telefon je bil povezan.[3]

V nekaterih sistemih ve celo, kdo sedi v vozilu. In ko je enkrat podatkov dovolj, se meja med varnostno funkcijo in vedenjskim profilom hitro zabriše. Za zavarovalnico je podatek o načinu vožnje lahko koristen. Za proizvajalca je lahko dragocen. Za oglaševalca zanimiv. Za policijo uporaben. Za hekerja nevaren. Za avtoritarno oblast prihodnosti pa neprecenljiv. Ni treba trditi, da je bil avtomobil zato ustvarjen. Dovolj je vprašati: kaj vse je mogoče narediti s podatki, ko so enkrat zbrani?

Obraz je geslo, ki ga ne morete zamenjati

Geslo lahko spremenite. Kartico lahko prekličete. Telefonsko številko lahko zamenjate. Obraza ne morete. Prstnih odtisov prav tako ne. Biometrija je zato uporabna in nevarna hkrati. Lahko močno izboljša varnost identifikacije. Toda ko biometrični podatki enkrat uidejo iz nadzora, človek ne more izdati novega obraza tako, kot izda novo bančno kartico. Evropski odbor za varstvo podatkov je pri uporabi prepoznavanja obrazov v kazenskem pregonu zato pripravil posebne smernice in poudaril občutljivost biometričnih podatkov.[4]

To je pomembno. Če je tehnologija tako občutljiva, da zahteva posebne evropske smernice, potem vprašanje množičnega biometričnega sledenja ni paranoja. Je legitimna politična in civilizacijska meja. Kdaj identifikacija postane sledenje? Kdaj sledenje postane profiliranje? Kdaj profiliranje postane predvidevanje? In kdaj predvidevanje postane razlog, da sistem človeka začne obravnavati drugače, še preden je karkoli storil?

Najbolj dragocen podatek je vzorec

Posamezen podatek pogosto ni posebej zanimiv. En nakup. Ena lokacija. En video. En klik. En obisk zdravnika. En večerni sprehod. Problem nastane, ko se tisoči majhnih podatkov sestavijo v vzorec. Takrat sistem ne ve več samo, kaj ste naredili. Začne sklepati, kaj boste naredili. Oglaševalski sistemi že desetletja poskušajo ocenjevati, kaj boste kupili. Platforme ocenjujejo, katera vsebina vas bo zadržala na zaslonu. Zavarovalnice lahko ocenjujejo tveganje.

Banke ocenjujejo kreditno sposobnost. Varnostni sistemi ocenjujejo sumljivo vedenje. Umetna inteligenca lahko vse te procese še pospeši. To je prelomna točka. Sistem, ki človeka samo opazuje, je nadzorni sistem. Sistem, ki ga lahko dovolj dobro napove, je že nekaj več. Lahko začne oblikovati okolje, v katerem bodo določene odločitve bolj verjetne od drugih.

Ni treba, da vas nekdo prisili

Najbolj učinkovit nadzor je pogosto tisti, pri katerem človek sam spremeni vedenje. Če ve, da je opazovan, začne paziti, kaj reče. Če ve, da se zapisuje, kaj kupuje, začne premišljevati, kaj bo kupil. Če ve, da je njegovo gibanje vidno, začne razmišljati, kam bo šel. Če ve, da lahko objava vpliva na službo, račun, zavarovanje ali družbeni položaj, začne filtrirati samega sebe. Takrat nadzornik ne potrebuje več toliko kazni. Človek postane lasten nadzornik. To je veliko bolj učinkovito od grožnje. In veliko ceneje.

»Nimam ničesar skrivati« je napačno vprašanje

Pravo vprašanje ni: Kaj skrivam? Pravo vprašanje je: Kdo sme vedeti kaj o meni, za kakšen namen, koliko časa in s kakšno možnostjo, da rečem ne? Človek ima zavese na oknih, ne zato ker je kriminalec, ampak zato ker dom ni javni trg. Zapre vrata kopalnice, ne zato ker skriva zločin, ampak ker ima dostojanstvo. Pogovor s prijateljem ni avtomatično namenjen delodajalcu. Zdravstveni podatek ni namenjen trgovcu.

Versko prepričanje ni namenjeno oglaševalcu. Lokacija otroka ni blago. Zasebnost je meja med človekom in sistemom. Ko meja izgine, človek ne postane nujno takoj nesvoboden. Postane pa popolnoma izpostavljen možnosti prihodnje nesvobode.

Najprej podatke zberemo. Namen pride kasneje.

To je eden največjih problemov digitalnega sveta. Podatek je mogoče zbrati danes zaradi udobja in uporabiti jutri zaradi popolnoma drugega razloga. Aplikacija za zdravje je danes lahko namenjena štetju korakov. Jutri so lahko podatki zanimivi zavarovalnici. Lokacijska storitev danes pomaga najti restavracijo. Jutri lahko njena zgodovina razkrije obisk klinike. Povezan avtomobil danes pomaga pri navigaciji. Jutri lahko podatki vplivajo na oceno tveganja. Biometrija danes odklene telefon.

Jutri lahko ista tehnologija identificira človeka v množici. To ne pomeni, da se bo vsak tak scenarij zgodil. Pomeni, da je zbiranje podatkov nepovratna odločitev veliko pogosteje, kot se zdi v trenutku klika na “I agree”.

Kaj pa, če je cilj popoln profil?

Kaj pa, če končni sistem prihodnosti ne bo potreboval ene ogromne centralne baze z napisom »DOSJE DRŽAVLJANA«? Kaj pa, če bo dovolj, da se podatki nahajajo v različnih sistemih, vendar jih je mogoče povezati, ko je potrebno? Identiteta na enem mestu. Denar na drugem. Zdravje na tretjem. Gibanje na četrtem. Komunikacija na petem. Nakupi na šestem. Biometrija na sedmem. Družbena mreža odnosov na osmem. Umetna inteligenca pa med njimi poišče vzorce.

Tak sistem ne potrebuje človeka, ki bere vaš dosje. Lahko ga bere stroj. In stroj lahko odloči, kaj je pomembno. To je točka, kjer zasebnost ni več samo osebna pravica. Postane vprašanje razmerja moči med posameznikom in infrastrukturo.

Svoboda potrebuje območje, ki ni izmerjeno

Popolnoma transparenten človek pred popolnoma netransparentnim sistemom ni svoboden človek. Če sistem ve skoraj vse o posamezniku, posameznik pa skoraj nič o algoritmih, ki ga ocenjujejo, razmerje ni enakovredno. Človek postane berljiv. Sistem ostane neberljiv. In ko je človek dovolj berljiv, je pripravljen na naslednji korak poti. Takrat ni več dovolj samo vedeti, kdo je. Njegova identiteta lahko postane ključ. Ključ do banke. Do zdravstvenih storitev.

Do potovanja. Do pogodbe. Do državne storitve. Do dela. Do digitalnega prostora. In ko se identiteta spremeni iz odgovora na vprašanje »kdo si?« v odgovor na vprašanje »kaj ti je dovoljeno?«, smo že na naslednji postaji. Najprej človeka opazuješ. Nato ga poznaš. Nato ga lahko razvrstiš. In šele potem začneš odločati, katera vrata se mu bodo odprla.