Transhumanizem Posodobljeno: 18 min branja Ulrik Adda

Kibernetika: od povratne zanke do človeka v sistemu

Kibernetika je povezala povratno zvezo, regulacijo in komunikacijo v strojih, organizmih ter organizacijah. Kaj nam pove o avtomatizaciji — in kje se začne vprašanje človeka in ciljev sistema?

Kibernetika je danes beseda, ki jo pogosto srečamo v sestavljenkah, kot so kibernetska varnost, kiborg ali kibernetski prostor. Toda prvotni pomen je bil širši in hkrati natančnejši. Sredi dvajsetega stoletja je kibernetika nastala kot poskus razumeti, kako sistemi — stroji, organizmi in pozneje tudi organizacije — zaznavajo spremembe, primerjajo stanje s ciljem ter svoje delovanje popravljajo s pomočjo povratne informacije.

Njena osnovna ideja je presenetljivo vsakdanja. Termostat ne potrebuje popolnega modela hiše; potrebuje meritev temperature, želeno območje in možnost, da ogrevanje vklopi ali izklopi. Podobno telo uravnava številne spremenljivke, voznik nenehno popravlja smer glede na cesto, organizacija pa lahko svoje odločitve prilagaja podatkom iz okolja. V vseh teh primerih vedenje nastaja v zanki, ne v eni sami linearni verigi vzroka in posledice.

Toda prav tu se začnejo tudi nesporazumi. Beseda »nadzor« (ang. control) v zgodnji kibernetiki ni pomenila nujno politične prisile ali totalnega nadzora. Pogosto je pomenila regulacijo: sposobnost sistema, da kljub motnjam ohranja določene spremenljivke v sprejemljivem območju ali da se prilagodi spremembam. Ko so se kibernetske ideje preselile iz inženirstva v upravljanje, družbene vede in politiko, pa je vprašanje, kdo postavlja cilj, kdo meri odstopanje in kdo sme ukrepati, postalo neizogibno politično.

Zato je kibernetika pomembna tudi danes. Algoritmi, avtomatizacija, platforme in umetna inteligenca delujejo v okoljih, kjer merijo vedenje, napovedujejo odzive in prilagajajo izhod. Razumevanje povratnih zank nam pomaga videti nekaj, kar linearne zgodbe hitro spregledajo: sistem ne vpliva samo na človeka; človek se odzove na sistem, ta odziv postane nov podatek, sistem pa se nato spremeni.

Od protiletalskega vodenja do splošne znanosti o regulaciji

Korenine moderne kibernetike so tesno povezane z drugo svetovno vojno. Norbert Wiener in sodelavci so se ukvarjali s problemi napovedovanja gibanja in vodenja, kjer naprava ni mogla zgolj izvršiti vnaprej določene poti. Morala je opazovati rezultat lastnih dejanj, upoštevati spremembe v okolju in popravljati naslednji ukaz. Ta logika je vodila od linearnega ukazovanja proti krožnemu razmišljanju o vedenju.

Leta 1943 so Arturo Rosenblueth, Norbert Wiener in Julian Bigelow v članku »Behavior, Purpose and Teleology« predlagali, da je mogoče namenskemu vedenju pristopiti brez sklicevanja na skrivnostno notranjo silo: sistem lahko deluje ciljno, če posledice njegovega delovanja vplivajo na naslednje dejanje. Negativna povratna zveza zmanjšuje odstopanje od cilja; pozitivna povratna zveza ga lahko povečuje.

Wiener je leta 1948 področje poimenoval cybernetics, kibernetika, in ga opisal kot preučevanje nadzora oziroma regulacije in komunikacije v živali in stroju. Pomembna novost ni bila trditev, da so organizmi samo stroji, ampak ideja, da je nekatere vzorce regulacije mogoče primerjati čez zelo različne fizične sisteme.

Povratna zanka spremeni vprašanje vzročnosti

Pri preprosti linearni zgodbi A povzroči B, nato je dogodek končan. V povratni zanki pa B vpliva na prihodnje stanje A. Voznik obrne volan, vidi novo lego avtomobila, nato ponovno popravi volan. Telo sprosti hormon, zazna nastalo spremembo in temu prilagodi naslednji odziv. Sistem s tem ne »ve« nujno, kaj počne; dovolj je, da lahko rezultat vpliva na nadaljnje delovanje.

Negativna povratna zveza se pogosto uporablja za stabilizacijo. Če temperatura pade pod nastavljeno območje, termostat poveča ogrevanje; ko se stanje popravi, ga zmanjša. Pozitivna povratna zveza deluje drugače: sprememba sproži še več spremembe v isti smeri. To je lahko koristno, na primer pri hitrem preklopu med stanji, lahko pa vodi tudi v eskalacijo.

Zato povratna zveza (ang. feedback) ni sinonim za dobro ravnotežje. Povratna zanka je struktura odnosa med izhodom in prihodnjim vhodom. Ali sistem stabilizira, niha, eskalira ali se prilagaja, je odvisno od znaka povratne zveze, zamud, meritev, pravil odziva in samega okolja.

Homeostaza je pomembna metafora — ne popoln model življenja

Kibernetiki so veliko navdiha dobili iz fiziologije. Pojem homeostaze je že pred njimi opisoval sposobnost organizma, da nekatere notranje spremenljivke vzdržuje v omejenem območju kljub spremembam okolja. Kibernetski jezik je ponudil način, kako to opisati z meritvijo, primerjavo in korekcijo.

Toda organizem ni termostat. Živi sistemi imajo več ciljev, cilji se lahko spreminjajo, posamezne regulacijske zanke se prepletajo, učenje pa spreminja pravila odziva. Poleg stabilnosti je za življenje pomembna tudi sposobnost prehoda v novo stanje, raziskovanja in reorganizacije.

To je ena glavnih meja kibernetske analogije: koristna je, kadar razkrije strukturo regulacije, nevarna pa, kadar iz podobnosti na ravni povratne zanke sklepamo, da sta organizem in stroj v vseh pomembnih pogledih ista.

Ashby: regulator mora imeti dovolj raznolikosti

Britanski psihiater in kibernetik W. Ross Ashby je razvil eno najbolj vplivnih idej področja, zakon potrebne raznolikosti. V poenostavljeni obliki pravi, da regulator ne more uspešno obvladovati več različnih motenj, kot jih lahko razlikuje in nanje odgovori. Če je okolje zelo raznoliko, regulator z eno samo reakcijo ne more ohranjati želenega rezultata v vseh okoliščinah.

To ne pomeni, da mora nadzorni center poznati vsak mikroskopski detajl sistema. Raznolikost lahko zmanjšujemo tudi z lokalno avtonomijo, filtri, hierarhijo, standardi ali tako, da probleme rešujemo bližje mestu, kjer nastanejo. Prav tu kibernetika presenetljivo pogosto vodi stran od naivne centralizacije.

Ashbyjeva formulacija je bila matematična, vendar je njen praktični pomen širši: regulator, ki prejema premalo informacij ali ima premalo možnih odzivov, lahko deluje samozavestno in vendar sistematično odpoveduje, ker kompleksnost okolja presega njegovo sposobnost prilagajanja.

Komunikacija ni isto kot pomen

Kibernetika se je razvijala v istem zgodovinskem okolju kot Shannonova teorija informacij, zato se izrazi komunikacija, signal in informacija pogosto prekrivajo. Vendar Shannonov formalizem meri statistične lastnosti prenosa sporočil in ne semantičnega pomena. Kibernetiki so te koncepte pogosto širili na organizme in organizacije, kjer je pomen težje ločiti od konteksta.

Sistem lahko prejme popolnoma natančen podatek in se kljub temu odzove napačno, če meri napačno spremenljivko ali če je njegov model okolja slab. Zato več podatkov samo po sebi ne pomeni boljšega vodenja. Pomembno je, kateri signal postane relevanten, kako hitro pride do mesta odločanja in kakšno dejanje je sploh na voljo.

V sodobnih digitalnih sistemih je ta meja še vedno ključna. Platforma lahko meri klike z izjemno natančnostjo, vendar klik ni isto kot zadovoljstvo, resnica ali dobrobit. Kibernetski sistem je vedno reguliran glede na nekaj; izbira te merjene veličine je že del zasnove sistema.

Stafford Beer: organizacija kot regulacijski sistem

Stafford Beer je kibernetske ideje prenesel v upravljanje in organizacijsko teorijo. Njegov Viable System Model je organizacijo obravnaval kot sistem, ki mora hkrati ohranjati lokalno operativno avtonomijo, usklajevati dele, spremljati notranje stanje, opazovati prihodnje okolje in ohranjati skupno identiteto oziroma politiko.

Pomemben vpliv je imela prav Ashbyjeva potrebna raznolikost. Če mora vsaka lokalna nepravilnost potovati na vrh hierarhije, se osrednji nivo hitro preobremeni. Beer je zato poudarjal, da mora biti del regulacije razporejen po sistemu in da mora višja raven obravnavati predvsem tiste izjeme, ki jih ni mogoče rešiti lokalno.

To ni nevtralna tehnična resnica o tem, kako je treba voditi vsako organizacijo. Je model, ki pomaga postavljati vprašanja o avtonomiji, koordinaciji, informacijskih zamudah in prilagajanju. Njegova uporabnost je odvisna od tega, kako dobro abstraktne komponente ustrezajo dejanski organizaciji.

Cybersyn: najbolj znan politični poskus kibernetskega upravljanja

Med letoma 1971 in 1973 je v Čilu pod vlado Salvadorja Allendeja nastal Project Cybersyn, ki ga je z ekipo razvijal tudi Stafford Beer. Sistem je povezoval omrežje telex naprav, statistično programsko opremo, gospodarski simulator in eksperimentalno operacijsko sobo. Namen je bil hitreje spremljati ključne podatke državnega industrijskega sektorja in usmerjati pozornost k odstopanjem, ki so zahtevala odziv.

Cybersyn je pogosto pozneje prikazan bodisi kot predhodnik digitalne utopije bodisi kot prototip totalnega nadzora. Zgodovinski zapis je bolj zanimiv. Eden Medina je pokazala, da je projekt združeval željo po hitrejši koordinaciji z Beerovim poudarkom na lokalni avtonomiji in človeku v povratni zanki. Operacijska soba je bila zasnovana kot povezava ljudi in artefaktov, ne kot avtomatski center, ki bi sam upravljal gospodarstvo.

Telex omrežje se je med stavko lastnikov tovornjakov leta 1972 dejansko uporabljalo za hitro koordinacijo informacij o cestah, gorivu, transportu in zalogah. Toda tudi člani projekta so videli mejo: informacijski sistem ni mogel rešiti inflacije, političnega konflikta, pomanjkanja kredita, fizičnega nasilja ali drugih problemov, ki niso bili zgolj problem povratne informacije.

Ko opazovalec postane del sistema

Prva kibernetika je pogosto govorila, kot da lahko raziskovalec opazuje regulator od zunaj: sistem ima vhod, izhod, cilj in povratno informacijo. V šestdesetih in sedemdesetih letih so Heinz von Foerster, Margaret Mead in drugi začeli poudarjati težavo tega položaja. Če človek opazuje, opisuje ali upravlja socialni sistem, je s svojim opazovanjem in ukrepanjem že del zanke.

Tako imenovana kibernetika drugega reda zato ni samo nova tehnika regulacije, ampak epistemološki premik. Vprašanje ni več le »kako sistem deluje?«, ampak tudi »kako naše merjenje, kategorije in ukrepi spreminjajo sistem, ki ga opisujemo?« To je neposredno povezano z vprašanji, ki smo jih pri »Opazovalec in model: koliko naš opis oblikuje to, kar vidimo?« obravnavali pri opazovalcu in modelu.

Toda tudi tu je potrebna previdnost. Iz dejstva, da opazovalec sodeluje v sistemu, ne sledi, da zunanja resničnost izgine ali da so vsi opisi enako dobri. Povratne posledice opazovanja so razlog za strožjo refleksijo o modelih, ne dovoljenje za poljubnost.

Od avtomatizacije do platform: kdo določa referenčno vrednost?

Sodobni algoritmi pogosto delujejo kibernetsko, tudi kadar tega izraza ne uporabljamo. Priporočilni sistem opazuje odziv uporabnika, prilagodi naslednjo ponudbo, ponovno izmeri odziv in nadaljuje. Sistem za dinamično določanje cen, avtonomni regulator ali optimizacijski algoritem prav tako lahko deluje v zanki meritve in korekcije.

Tu postane najpomembnejše vprašanje manj tehnično: kaj je cilj? Če sistem optimizira čas na platformi, bo povratno zanko oblikoval drugače, kot če optimizira dolgoročno zadovoljstvo ali varnost. Če podjetje meri le količino, lahko kakovost postane nevidna. Če javna politika nagrajuje samo eno številko, se lahko vedenje ljudi prilagodi tej številki in spremeni sam pomen merila.

Kibernetika zato ne ponuja politično nevtralnega recepta. Dobro razkrije, da vsaka regulacija vsebuje izbiro merjene spremenljivke, želenega območja, dovoljene intervencije in razdelitve odločanja. Pri socialnih sistemih so to hkrati tehnična in normativna vprašanja.

Človek v sistemu ni samo senzor niti samo motnja

Najtrajnejša kibernetska lekcija morda ni sanje o popolnem nadzoru, ampak prav nasprotno: kompleksnih sistemov ni mogoče voditi samo z ukazom od zgoraj. Potrebujemo povratne informacije, lokalno sposobnost odziva, dovolj raznolikosti in pripravljenost, da model popravimo, ko se okolje spremeni.

Človeka pa ne smemo reducirati na komponento v diagramu. Ljudje razumejo, spreminjajo cilje, zavračajo navodila, oblikujejo nove institucije in se odzivajo na to, da so merjeni. Ko sistem njihovo vedenje spremeni, ta sprememba postane nov del okolja. Zato lahko uspešna regulacija kratkoročno ustvari pogoje, v katerih stari model ne velja več.

Kibernetika je najmočnejša, ko jo uporabljamo kot jezik za vprašanja: kje teče informacija, katere zamude obstajajo, kdo lahko ukrepa, kaj sistem meri, katere posledice se vračajo kot novi vhod in kdo določa cilj. Postane nevarna, kadar iz teh uporabnih vprašanj naredimo obljubo, da je mogoče družbo, organizem ali človeka popolnoma prevesti v en sam regulacijski diagram.

Viri in nadaljnje branje

  1. THY-REALITY — Opazovalec in model: koliko naš opis oblikuje to, kar vidimo? / Observer and Model: How Much Does Our Description Shape What We See? (LOCKED): models, measurement and observer effects.
  2. THY-REALITY — Vzročnost: kaj pomeni, da nekaj povzroči nekaj drugega? / Causality: What Does It Mean for One Thing to Cause Another? (LOCKED): causal structure, intervention and feedback boundary.
  3. THY-REALITY — Sintetična biologija: ko življenje postane inženirski material / Synthetic Biology: When Life Becomes an Engineering Material (LOCKED): engineering metaphors and limits of machine analogies in living systems.
  4. Rosenblueth, Arturo; Wiener, Norbert; Bigelow, Julian — Behavior, Purpose and Teleology. Philosophy of Science 10(1), 1943, 18–24.
  5. Wiener, Norbert — Cybernetics: Or Control and Communication in the Animal and the Machine. MIT Press, 1948/1961.
  6. Ashby, W. Ross — An Introduction to Cybernetics. Chapman & Hall, 1956. Primary source for variety, regulation and cybernetic systems.
  7. American Society for Cybernetics — Past Events / history of the Macy cybernetics conferences, beginning in 1946.
  8. American Society for Cybernetics — ASC History. Historical continuity from the Macy conferences and early cybernetics community.
  9. Kline, Ronald R. — The Cybernetics Moment: Or Why We Call Our Age the Information Age. Johns Hopkins University Press, 2015.
  10. Beer, Stafford — Brain of the Firm. Allen Lane / Wiley, 1972; later editions. Foundation of management cybernetics and the Viable System Model.
  11. Metaphorum — Viable System Model: overview of Beer's five-system model and Ashby's law of requisite variety.
  12. Schwaninger, Markus; Scheef, Christine — A Test of the Viable System Model: Theoretical Claim vs. Empirical Evidence. Cybernetics and Systems, and related management-cybernetics literature.
  13. Medina, Eden — Designing Freedom, Regulating a Nation: Socialist Cybernetics in Allende's Chile. Journal of Latin American Studies 38(3), 2006, 571–606.
  14. Medina, Eden — Project Cybersyn: Chile's Radical Experiment in Cybernetic Socialism. MIT Press Reader, adapted from Cybernetic Revolutionaries, 2023.
  15. Medina, Eden — Cybernetic Revolutionaries: Technology and Politics in Allende's Chile. MIT Press, 2011.
  16. von Foerster, Heinz — Observing Systems. Intersystems Publications, 1981; foundational essays in second-order cybernetics.
  17. Mead, Margaret — The Cybernetics of Cybernetics. In Purposive Systems, 1968. Early argument for reflexive/second-order cybernetics.
  18. Springer Nature — Replication Crisis in Psychology, Second-Order Cybernetics, and Transactional Causality (2024): overview of first- versus second-order cybernetics and inclusion of the observer.
  19. Cambridge Core — Spontaneity and Control: Friedrich Hayek, Stafford Beer, and the Principles of Self-Organization (2024): historical analysis of Beer, self-organization and cybernetic organization.