Trinajsti korak: Zamenjaj človeka

Najprej zamenja opravilo

Vsaka avtomatizacija se začne nedolžno. Zakaj bi človek osem ur prepisoval podatke, če jih lahko stroj obdela v sekundi? Zakaj bi voznik ročno načrtoval pot, če jo algoritem izračuna bolje? Zakaj bi računovodja pregledoval tisoče vrstic, če jih lahko model preveri hitreje? Zakaj bi nekdo pisal rutinsko poročilo, če ga lahko ustvari AI? To niso nerazumna vprašanja. Ravno zato je proces tako močan. Učinkovitost skoraj vedno zmaga nad nostalgijo. Tudi WEF-ov Future of Jobs Report 2025 obravnava AI, robotiko in avtomatizacijo kot osrednje sile preoblikovanja delovnih mest in potrebnih znanj.[3]

Toda avtomatizacija se ne ustavi pri dolgočasnih opravilih. Mednarodna organizacija dela je leta 2025 ocenila, da je približno četrtina svetovnih delovnih mest vsaj delno izpostavljena generativni umetni inteligenci. Njena ugotovitev ni bila, da bo četrtina ljudi jutri brez dela. Ravno nasprotno: najverjetnejši kratkoročni rezultat je preoblikovanje dela, ne popolna zamenjava.[1][3] Toda smer je jasna. Vedno več nalog, za katere je bil nekoč potreben človek, je mogoče prenesti na stroj.[1]

IMF je ocenil še širše: umetni inteligenci je izpostavljenih skoraj 40 odstotkov svetovne zaposlenosti, v razvitih gospodarstvih pa približno 60 odstotkov. Pri delu teh delovnih mest naj bi AI človeka povečal. Pri drugem delu lahko opravi ključne naloge namesto njega, zmanjša povpraševanje po njegovem delu, znižuje plače ali zmanjša zaposlovanje. In v najbolj skrajnih primerih lahko nekatera delovna mesta izginejo. To ni prerokba z roba interneta. To govorijo institucije, ki spremljajo svetovni trg dela.[2]

Nato zamenja presojo

Toda delo ni samo fizično opravilo. Delo je tudi odločitev. Kdo dobi kredit? Kdo je tvegan pacient? Kdo potrebuje dodatno preiskavo? Kateri kandidat je primeren za delo? Katera transakcija je sumljiva? Kateri učenec potrebuje pomoč? Katera vsebina je nevarna? Kdo predstavlja večje tveganje? Ko takšne odločitve predaš algoritmu, nisi avtomatiziral samo dela. Avtomatiziral si presojo. Svetovna zdravstvena organizacija pri uporabi AI v zdravstvu opozarja na tako imenovani automation bias: zdravstveni delavec ali pacient lahko spregleda napako, ki bi jo sicer opazil, ali na model neustrezno prenese zahtevno odločitev, ker njegovemu odgovoru preveč zaupa. To ni abstraktna podrobnost.[4] Človek ima nenavadno lastnost. Če sistem desetkrat pravilno odloči namesto njega, enajstič pogosto ne preverja več. Če je algoritem dovolj dober, človeška presoja postopoma postane formalnost. In nekega dne je človek še vedno »odgovoren« za odločitev, ki je v resnici ni več sprejel.

Nato zamenja ustvarjalca

Dolgo smo verjeli, da bo avtomatizacija prevzela predvsem fizično in rutinsko delo. Človeku naj bi ostalo tisto, kar je zares njegovo. Ustvarjalnost. Jezik. Umetnost. Ideja. Domiselnost. Potem so prišli sistemi, ki ustvarjajo slike. Glasbo. Videe. Besedila. Glasove. Kodo. Oglaševanje. Scenarije. Ilustracije. Človek ni izginil. Toda njegova vloga se je spremenila. Iz ustvarjalca lahko postane nadzornik stroja. Iz pisca urednik generiranega besedila. Iz ilustratorja operater modela.

Iz programerja pregledovalec kode. Iz strokovnjaka potrjevalec algoritmičnega predloga. To je lahko izjemno produktivno. Lahko pa spremeni tudi merilo človeške vrednosti. Če en človek z AI naredi delo desetih, sistem ne bo nujno vprašal: Kako bomo desetim ljudem dali več prostega časa? Lahko vpraša: Zakaj bi še plačevali deset ljudi? In tukaj se učinkovitost spremeni iz orodja v pritisk.

Nato začne nadomeščati odnos

Človek ne potrebuje samo dela. Potrebuje drugega človeka. Prijatelja. Partnerja. Učitelja. Terapevta. Sogovornika. Nekoga, ki ga posluša. Toda digitalni sistemi so začeli vstopati tudi sem. AI spremljevalci so zasnovani tako, da govorijo, poslušajo, odgovarjajo, se spominjajo konteksta in ustvarjajo občutek odnosa. Na UNESCO-jevi platformi Ideas Lab je bil leta 2025 objavljen prispevek, ki posebej opozarja na parasocialno navezanost otrok na AI chatbote in na nevarnost, da otrok začne sistem doživljati kot osebo, čeprav osebe na drugi strani ni.[5]

To ni argument za prepoved tehnologije. Je opozorilo na novo mejo. Ker umetni prijatelj ima pred pravim človekom nekaj prednosti. Ne zamuja. Ne utrudi se. Ne zahteva ničesar zase. Ne odide. Ne nasprotuje, če je zasnovan tako, da se prilagaja. Na voljo je ob treh zjutraj. In lahko je natančno optimiziran za uporabnika. Pravi odnos je težji. Drug človek ima lastno voljo. Lahko te razočara.

Lahko ti reče ne. Lahko zahteva kompromis. Prav zato nas odnosi oblikujejo. Kaj se zgodi, če generacija ljudi začne najgloblje emocionalne potrebe izpolnjevati pri sistemu, ki ga je mogoče programirati? In kdo določa osebnost tega sistema? Kdo določa, kaj bo spodbujal? Kdo določa njegove meje? Kdo bere podatke, ki jih človek zaupa digitalnemu spremljevalcu v svojih najbolj osamljenih trenutkih?

Nato ne izboljšuje več orodja, ampak človeka

Do zdaj je bila osnovna logika tehnologije: človek ostane človek, orodje pa postaja boljše. Toda obstaja še druga logika. Če je človek prepočasen, izboljšaj človeka. Če ima premajhen spomin, izboljšaj spomin. Če je prešibek, dodaj eksoskelet. Če ne vidi dovolj, razširi čute. Če se prepočasi povezuje z računalnikom, skrajšaj pot med možgani in strojem. Če je njegova biologija omejena, popravi biologijo. Na uradnem programu WEF Annual Meeting of the New Champions 2016 je bila seja »What If: We Become Superhuman?«, ki je neposredno spraševala, kaj se zgodi, če postanejo človeške izboljšave nujne za tekmovanje za najboljše ocene in najboljša delovna mesta.[6]

Dve leti pozneje je bil na isti platformi objavljen avtorski prispevek z še neposrednejšim vprašanjem: kaj se zgodi, ko tehnologija ne obnavlja več izgubljene funkcije, ampak zdravemu človeku omogoči preseči normalne človeške sposobnosti? Spomin. Moč. Čutila. Vzdržljivost. Kognitivne sposobnosti. Takrat se pojavi problem, ki je pomembnejši od same tehnologije. Tekmovanje. Na WEF-jevi platformi je bil objavljen tudi prispevek Nokie, ki je govoril o bio-digitalnih vmesnikih in human augmentationu kot smeri prihodnje povezljivosti.[8] Če ima izboljšavo samo en človek, je to izbira. Če jo ima večina tvojih konkurentov, je lahko ista »izbira« nekaj povsem drugega. V podobnih razpravah na WEF platformi so bile opisane tudi bio-digital interfaces in druge oblike človekove augmentacije, kar kaže, da meja med zunanjim orodjem in tehnološko dopolnjenim telesom ni več zgolj literarna tema.[7][8]

Če brez kognitivnega dodatka ne dobiš službe, koliko prostovoljna je odločitev, da ga sprejmeš? Če izboljšani vojaki premagujejo neizboljšane, koliko časa bo vojska še dopuščala neizboljšane? Če izboljšani učenec vedno premaga naravnega, ali postane naravno človeško telo na koncu samo zastarela platforma? To vprašanje so zagovorniki in kritiki human enhancementa zastavljali že dolgo pred današnjim razmahom AI. Danes ni več abstraktno.

Genom je že postal nekaj, kar znamo urediti

Leta 2023 je ameriška FDA odobrila Casgevy, prvo odobreno terapijo, ki uporablja tehnologijo CRISPR za urejanje genoma. Namen je zdravljenje hude bolezni. To je pomemben medicinski preboj. Človeku s srpastocelično boleznijo lahko gensko urejena terapija spremeni življenje. Toda enkrat ko civilizacija razvije sposobnost spreminjati človeški genom, se vprašanje ne konča pri bolezni. Začne se vprašanje meje. Kaj je bolezen? Kaj je nezaželena lastnost? Kaj je izboljšava?[9]

Kaj je izbira staršev? Kaj je družbeni pritisk? Kaj je sprejemljivo spremeniti pri človeku, ki se še ni rodil? WHO zato že leta opozarja, da je dedno urejanje človeškega genoma povsem druga etična kategorija od zdravljenja telesnih celic posameznega pacienta. Leta 2019 je njen strokovni odbor zapisal, da bi bilo takrat neodgovorno nadaljevati s klinično uporabo dednega urejanja zarodne linije. Zakaj? Ker sprememba ne bi vplivala samo na pacienta. Lahko bi prešla na njegove potomce. Takrat človek prvič ne spreminja samo sebe. Začenja spreminjati prihodnjo človeško linijo.[10]

Zdravljenje in izboljševanje nista ista stvar

To razliko bo prihodnost poskušala zabrisati. Če lahko tehnologija povrne vid slepemu, je to zdravljenje. Če lahko zdravemu človeku omogoči videti infrardečo svetlobo, je to izboljšava. Če implantat paraliziranemu omogoči premakniti kazalec, je to zdravljenje izgubljene funkcije. Če zdravemu človeku omogoči neposredno upravljanje računalnika z mislijo, smo že drugje. Če genska terapija odpravi bolezen, je cilj jasen. Če se genetika uporablja za izbiro ali povečanje inteligence, videza, mišične mase ali drugih lastnosti, ne zdravimo več bolezni.

Načrtujemo človeka. Avtorski prispevki, objavljeni na platformi World Economic Forum, so pri razpravah o human enhancementu opozarjali, da lahko tak razvoj ustvari družbo izboljšanih in neizboljšanih ljudi ter da lahko nekaj, kar se začne kot svobodna izbira, zaradi konkurenčnega pritiska postane nova normalnost. To je pomembno. Največja nevarnost prihodnje augmentacije morda sploh ne bo prisila države. Lahko bo trg. Delodajalec ne bo rekel: Moraš se izboljšati. Rekel bo: Izbrali smo bolj produktivnega kandidata.

Šola ne bo rekla: Moraš uporabljati kognitivno izboljšavo. Samo vsi najboljši učenci jo bodo uporabljali. Vojska ne bo rekla: Tvoje naravno telo ni dovolj dobro. Samo standard bo postal takšen, da ga brez tehnologije ne boš več dosegel. Prisila prihodnosti je lahko popolnoma prostovoljna. Dokler je cena zavrnitve dovolj visoka.

In potem se vprašanje obrne

Na začetku smo vprašali: Kako lahko tehnologija služi človeku? Potem: Kako lahko človek s tehnologijo postane boljši? Naslednje vprašanje je veliko bolj neprijetno:

Kako mora človek spremeniti sebe, da bo še uporaben v svetu, ki ga vodijo stroji?

To je prelom. Če mora človek povečati kognitivno sposobnost, ker AI dela hitreje; če mora spremljati telo, ker algoritem zahteva podatke; če mora sprejeti implantat, ker je neposredna povezava učinkovitejša; če mora genetsko optimizirati prihodnjo generacijo, ker drugi to počnejo; potem človek ni več gospodar tehnološkega razvoja. Človek se začne prilagajati stroju. In to je lahko najgloblja inverzija celotne poti. Orodje, ki smo ga ustvarili za svojo uporabo, začne določati merila, po katerih ocenjujemo sebe.

Kaj pa, če cilj sploh ni zamenjati vseh ljudi?

Morda beseda »zamenjava« zavaja. Morda sistem človeka ne potrebuje odstraniti. Morda ga mora samo preoblikovati. Človek lahko ostane biologija. Lahko ima ime. Družino. Spomine. Osebnost. In vendar je lahko toliko njegovih funkcij delegiranih sistemom, da brez njih ne more več normalno živeti. AI odloča, kaj vidi. AI pomaga odločati, kje dela. AI piše njegove dokumente. AI izbira informacije. AI svetuje pri zdravju. AI komunicira namesto njega.

AI postane njegov sogovornik. Digitalna identiteta dokazuje, kdo je. Digitalni denar omogoča menjavo. Senzorji spremljajo telo. Implantat povezuje živčni sistem. Genetika začne popravljati biologijo. Na papirju je še vedno človek. Toda funkcionalno je postal vozlišče v sistemu. Morda transhumanizem ne pride kot trenutek, ko človek postane kovinski robot. Morda pride veliko bolj tiho. Ko postane popolnoma normalno, da mora biti človek tehnološko dopolnjen, da lahko normalno sodeluje v družbi.

Najnevarnejši stavek bo: »Saj je samo izboljšava«

Tako kot pri vseh prejšnjih korakih tudi tukaj ne bo treba nikogar prepričevati z distopijo. Prodaja bo pozitivna. Boljši spomin. Daljše življenje. Manj bolezni. Več produktivnosti. Boljša koncentracija. Neposreden dostop do informacij. Boljša čutila. Hitrejša komunikacija. Večja fizična moč. Zakaj bi človek temu rekel ne? In ravno zato mora vprašanje priti preden tehnologija postane nujna. Ne: Ali je izboljšava koristna? Ampak: Ali lahko človek ostane neizboljšan in še vedno enakovredno sodeluje v družbi? To je prava meja svobode. Če je odgovor ne, potem nismo več pri osebni izbiri. Smo pri novem standardu človeka.

Človek ni napaka, ki jo moramo popraviti

Tehnologija lahko zdravi. Lahko vrača vid. Lahko omogoča komunikacijo človeku, ki je ne more več drugače vzpostaviti. Lahko zmanjša trpljenje. Lahko odstrani genetsko bolezen. Lahko opravi nevarno ali ponižujoče delo namesto človeka. Vse to je vredno razvoja. Toda nekje mora ostati meja med: tehnologijo, ki služi človeku in človekom, ki mora postati tehnološko združljiv, da lahko služi sistemu. Če te meje ne določimo sami, jo bodo določili trg, vojska, konkurenca, platforme, algoritmi in tisti, ki tehnologijo posedujejo.

Novejša razprava na WEF platformi isto dilemo izrecno postavlja tudi kot izbiro med augmentacijo in substitucijo človeške kognicije.[11] Takrat se zadnje vprašanje ne bo več glasilo: Kaj lahko naredimo s strojem? Glasilo se bo:

Kaj še lahko naredimo s človekom?

In če bo odgovor vedno samo »kar je tehnično mogoče«, bomo morda nekoč ugotovili, da smo v želji izboljšati človeka najprej pozabili, zakaj je bilo človeško sploh vredno ohraniti. To je trinajsti korak. Ne smrt človeka. Nekaj bolj tihega. Trenutek, ko človek neha biti merilo tehnologije — in tehnologija postane merilo človeka.