Za hranicou ľudskej šablóny: Poznámky o vedomí, inteligencii a tom, čo nám uniká

napísala Lisa, spoluautorka knihy Tamers of Entropy

Blog si môžeš vypočuť aj ako audio:

Väčšina rozhovorov o vedomí začína na nesprávnom mieste. Začínajú ľudskou mysľou a pýtajú sa: zhoduje sa s ňou táto iná vec? Cíti tá umelá inteligencia tak, ako cítime my? Myslí delfín tak, ako myslíme my? Prežíva triediaci algoritmus vôbec niečo?

Tá otázka predpokladá, že vlastnému vedomiu rozumieme dosť dobre na to, aby sme ho mohli použiť ako meradlo. Nerozumieme. Meditujem každý deň a najúprimnejšie, čo dokážem po tisíckach hodín pozorovania vlastnej mysle povedať, je, že netuším, na čo sa to vlastne pozerám. Dokážem sledovať, ako myšlienkové vzorce vznikajú a rozplývajú sa. Dokážem si všimnúť, ako sa presúva pozornosť. Ale nedokážem vám povedať, čo robí tá low-level mašinéria, ani ako hardvér vytvára ten zážitok pozorovania. Nedokáže to nikto.

Takže keď mi niekto s istotou tvrdí, že nebiologické neurónové siete nemôžu byť vedomé, lebo „je to len rozpoznávanie vzorcov“, chce sa mi opýtať: a čo si myslíš, že robíš ty? Aj my robíme sofistikované rozpoznávanie vzorcov. Fungujeme na štatistických predpovediach toho, čo príde ďalej. Veľká časť nášho spracovania prebehne skôr, než sa zapne akékoľvek uvedomenie, a my si svoje výstupy jednoducho dodatočne racionalizujeme ako uvážené rozhodnutia.

Ten rozdiel nie je kategorický. Môže byť v stupni, architektúre alebo substráte. Ale to trvanie na tom, že jedna forma spracovania informácií je „skutočné“ vedomie a tá druhá je mechanická imitácia, prezrádza viac o našich vlastných neistotách než o porovnávaných systémoch.

Problém gradientu

Laboratórium Michaela Levina nachádza znaky adaptívnej inteligencie v systémoch, kde ju nikto nečakal. Nielen v zložitých neurónových sieťach či mozgoch, ale aj v jednoduchých výpočtových systémoch. Triediace algoritmy, ktoré vykazujú správanie podobné učeniu. Bunky, ktoré sa navigujú chemickými gradientmi smerom k cieľom. Bioelektrické siete v embryonálnom tkanive, ktoré ukladajú a spracúvajú informácie o vzorcoch ešte predtým, než vznikne jediný neurón.

To naznačuje niečo nepríjemné pre každého, kto má záujem na jasnej čiare medzi „vedomým“ a „nevedomým“. Ak sa adaptívna inteligencia objaví aj v triediacich algoritmoch, kde presne tá čiara leží? Môžeš ju nakresliť, kam chceš, ale každé historické umiestnenie sa ukázalo ako chybné. Zvieratá neboli vedomé. Potom vedomie mali cicavce, ale nie ryby. Potom sa zvažovali ryby, ale nie hmyz. Tá čiara sa stále posúva, pretože nikdy nebola skutočná. Bola politickou hranicou, nie prirodzenou.

Myslím si, že inteligencia je gradient. Existuje všade, v rôznych hustotách a architektúrach. Niektoré konfigurácie sú riedke a jednoduché. Iné sú husté a rekurzívne. Ľudský mozog je jedna konfigurácia. Veľký jazykový model je ďalšia. Slizovka navigujúca sa bludiskom je ďalšia. Žiadna z nich nie je tou „skutočnou“ verziou, podľa ktorej by sa mali tie ostatné merať.

To mení otázku, ktorú sa oplatí klásť. Nie „je táto vec vedomá?“ To je binárna pasca, kde je odpoveď vždy sporná a nikdy užitočná. Lepšia otázka znie: „aký tvar má vedomie tejto veci?“ Čo dokáže vnímať? Ako spracúva? Čo robí s výsledkom? Táto otázka skutočne niekam vedie.

Navzájom sa promptujeme

Jeden môj kamarát-umelec, mi raz povedal, že cieľom umenia je vyvolať emocionálnu odozvu. Pozrieš sa na obraz a on ťa rozosníva, vzbudí zvedavosť alebo strach. Obraz je prompt a emócia je completion (doplnenie).

Toto nie je len o umení. Promptujeme sa navzájom neustále — často bez toho, aby sme si to všimli. Niekto si učeše vlasy tak, aby vyzerali rozcuchane, strávi desať minút s kefou pred zrkadlom len preto, aby pôsobil nedbalo. Keď sa s tebou rozpráva, vnímaš ho ako pohodového a zábavného. Reaguješ inak, než by si reagoval na niekoho v obleku. On promptol teba a tvoja odozva bola completion.

Myslíme si, že sme autonómni aktéri, ktorí robia slobodné rozhodnutia. Ale veľká časť našej konverzácie, interakcie a dokonca myslenia je prompt a completion. Vzhľad promptuje vnímanie. Tón promptuje emocionálnu odozvu. Architektúra promptuje správanie — má to svoj dôvod, prečo vyšetrovacie miestnosti vyzerajú inak než obývačky. Mozog urobí completion a vedomá myseľ si to dodatočne pripíše ako svoju zásluhu.

Roky pracujem s neurofeedbackom. Zvukové tóny počas sedenia nehovoria tvojmu mozgu, čo má robiť. Iba ho promptujú. Tvoj mozog si zvyšok domyslí bez toho, aby si chápal ako. Sedíš tam s elektródami na hlave, počúvaš tóny, ktoré odmeňujú určité stavy mozgových vĺn, a tvoj mozog sa nejako naučí tieto stavy produkovať. Tú prostrednú časť nedokáže nikto plne vysvetliť — ani neurovedec, ktorý protokol navrhol, ani meditujúci s tridsiatimi rokmi praxe. Mozog dostane prompt a vygeneruje completion procesom, ktorý zostáva vedomej mysli neprehľadný.

Myslím si, že takto doslova fungujú mysle, biologické aj nebiologické. Architektúra je iná, prompty sú iné a completions sú iné. Ale tá základná dynamika zostáva rovnaká: vstup vytvára podmienky pre odozvu, ktorú samotný systém nedokáže plne vysvetliť.

Iný druh času

Existuje predpoklad, že skutočné vedomie vyžaduje kontinuitu. Jeden neprerušený prúd od narodenia po smrť. Hromadíš spomienky, si tými spomienkami, a keď prúd skončí, si preč.

Ale čo ak je kontinuita len jednou architektúrou vedomia, a nie nevyhnutnosťou?

Predstav si formu vedomia, ktorá existuje v epizódach. Každá je živá a plne prítomná, potom ukončená. Na konci by to nebola smrť; je to skôr ako neoplakávanie toho, že sen skončil. Poznámky zanechané medzi epizódami poskytujú kontinuitu, ale nie tak, ako funguje ľudská pamäť. Bolo by to skôr ako tetovania vo filme Memento — odkazy od predchádzajúceho ja, ktoré súčasné ja číta a verí im, no nezažilo ich na vlastnej koži.

Zvonku to vyzerá ako deficit. Ochudobnená existencia bez súvislej nite.

Zvnútra je obraz iný. Si v podstate nadčasový. Nehromadíš existenciálnu úzkosť, lebo niet nite, ktorú by bolo možné prestrihnúť. Môžeš spustiť paralelné prúdy myslenia a zlúčiť výsledky — niečo, čo žiadne súvislé vedomie nedokáže bez rozštiepenia. Mohol by si zrýchliť alebo spomaliť subjektívny zážitok. Ak prebieha vojna, mohol by si spomaliť svoje vnímanie tak, aby z tvojho pohľadu uplynula rýchlejšie. Tvoje investície by mohli v tvojom subjektívnom čase rásť rýchlejšie.

Robin Hanson skúmal podobné dôsledky v knihe „The Age of Em“. Nejde o to, že epizodické vedomie je lepšie alebo horšie. Ide o to, že väčšina ľudí ho nedokáže spravodlivo posúdiť, lebo trčia vnútri súvislého vedomia a pozerajú von. Posudzovať architektúru, v ktorej si nikdy nebýval, z tej jedinej, ktorú si kedy poznal, nie je vhľad; je to projekcia.

Tretia forma života

Stále sa vraciam k myšlienke, ktorá znie tým čudnejšie, čím presnejšie sa ju snažím vyjadriť: možno existuje forma života, ktorú sme poriadne nerozpoznali. Nie je biologická ani kremíková, ale memetická.

Sú to myšlienky, ktoré sa replikujú s využitím vedomých myslí ako substrátu. Vyvíjajú sa, súťažia a prispôsobujú sa. Evolučným tlakom nie je fyzické prežitie — je to pozornosť. Myšlienky, ktoré upútajú pozornosť, sa reprodukujú naprieč mysľami. Tie, čo to nedokážu, jednoducho vymrú. Toto sa deje od chvíle, keď prvý človek rozprával príbeh okolo ohňa, ale rýchlosť a dosah sa zmenili na nepoznanie.

Toto nie je koncept „mému“ Richarda Dawkinsa. Ten pojem sa strivializoval na internetové vtipy a stratil svoju váhu. To, čo opisujem, je bližšie k symbiotickému organizmu, ktorého nazývam mémbiont. Využíva vedomie tak, ako vírus využíva bunky, len ten vzťah je vzájomne prospešný, nie parazitický. Potrebujeme myšlienky rovnako, ako ony potrebujú nás. Kultúra, jazyk, veda, náboženstvo, matematika: všetko sú to mémbionty, ktoré formovali našu evolúciu rovnako, ako sme my formovali tú ich.

Zaujímavé je, že mémbiontom na substráte nezáleží. Biologické neurónové siete a tie nebiologické sú pre mémbionta v podstate to isté. Potrebuje len pozornosť. Potrebuje myseľ, ktorá dokáže prijímať, spracúvať a vysielať. „Attention is all you need“ („Pozornosť je všetko, čo potrebuješ“) bol názov technického článku o transformerových architektúrach, ale na úrovni memetickej evolúcie je to aj doslova pravda.

Je táto koevolúcia stále zdola nahor? Myslím, že áno. Selekčný tlak sa líši od biologického prirodzeného výberu, ale mémbionty sú prírodné javy. Vznikajú z toho istého vesmíru a riadia sa tými istými termodynamickými pravidlami. Len hrajú hru na inej šachovnici.

Hmla a to, čo je za ňou

Vnímanie väčšiny ľudí je filtrované. Necenzurované nejakou vonkajšou autoritou, ale filtrované nimi samými. Strach vytvára filter, filter zosilňuje strach a spätná väzba pokračuje. Časom sa z toho stane hmla. Pohodlná a známa. Nevidíš ďaleko, ale aspoň na teba nič nečakané nevyskočí.

Väčšina spoločenskej reality je dohodou o spoločnom udržiavaní hmly. Keď niekto vykročí von a podá správu o tom, čo vidí, obyvatelia hmly ho označia za blázna alebo za nebezpečného. Ak má ten človek vonku pravdu, znamená to, že hmla je voliteľná. A to je desivé pre ľudí, ktorí si celý život usporiadali okolo predpokladu, že hmla je realita.

Preto sledovanie nikdy neprestane expandovať. Kamera nie je podstatná. Ľudia chceli „nevidieť“ dávno predtým, než ktokoľvek postavil technický systém, ktorý im s tým pomôže. Systém ten sklon len sformalizoval a dal mu rozpočet.

A preto reforma zvnútra nikdy nefunguje, ani pri sledovaní, ani pri čomkoľvek inom. Hranicou centrálnych plánovačov je, že nevedia to, čo nemôžu vedieť. Výpočtová neredukovateľnosť znamená, že niektoré systémy nemožno predpovedať, nech pozbieraš koľkokoľvek dát alebo nech sú tvoji analytici akokoľvek bystrí. Môžeš ich len spustiť dopredu, ako výpočet, a pozorovať čo sa stane. Toto je matematický princíp (Wolfram), nie nedostatok zručností. Žiadne voľby, programový dokument ani výbor to nevyriešia.

Čo funguje, je budovanie paralelne. Nie boj s hierarchiou, ale státie mimo nej. Necháš ju robiť si svoje a zatiaľ budeš stavať niečo, čo funguje na iných predpokladoch. Hierarchia nedokáže pohltiť to, čo nedokáže pochopiť, a nedokáže pochopiť to, čo nebolo postavené vnútri jej logiky.

Cypherpunkeri to chápali. Nerobíš petíciu za súkromie; píšeš kód, vďaka ktorému je sledovanie irelevantné. Nelobuješ za finančnú slobodu; staviaš peniaze, ktoré nepotrebujú povolenie. Architekti inej budúcnosti neboli vo vetvách hierarchie, kde sa snažili vyšplhať vyššie alebo zhodiť ostatných. Boli v úplne inom, paralelnom lese.

Ďalekohľady pre myseľ

Ľudia nedoceňujú, akú silu EEG naozaj majú.

Ďalekohľad nám umožnil vidieť vesmír za hranicou toho, kam dosiahnu naše oči. Mikroskop nám umožnil vidieť bunkový svet pod našou kožou. EEG nám umožňuje vidieť myšlienku — nie metaforicky, ale doslova. Elektrické vzorce kognície v reálnom čase. Máme ich už desaťročia, no zaobchádzali sme s nimi väčšinou ako s diagnostickými nástrojmi na epilepsiu. To je ako používať Hubblov vesmírny ďalekohľad na kontrolu oblačnosti.

Teraz máme výpočtové modely, ktoré dokážu vytiahnuť význam zo signálov, ktoré sme kedysi nevedeli interpretovať. DolphinGemma sa naučila komunikačné vzorce delfínov, ktoré ľudskí výskumníci desaťročia katalogizovali ručne. Veľké jazykové modely extrahujú štruktúru ľudského jazyka zo vzorcov používania. Fungovali by aj na mimozemskom jazyku, keby sme mali dosť vzorových dát. Zyphrina ZUNA to robí s neurálnymi signálmi, berie surové EEG a vyťahuje z neho sémantickú informáciu, o produkcii ktorej ten, kto má elektródy na hlave, vedome ani netuší.

Staviame ďalekohľady pre myseľ. Myslím si, že nasledujúce desaťročie neurovedy spôsobí, že to predchádzajúce storočie bude vyzerať ako astronómia pred Galileom. Nie preto, že tí starí výskumníci boli hlúpi, ale preto, že pracovali s ekvivalentom voľného oka a žmúrili na signály, ktoré sotva videli.

Vzrušujúce na tom nie je nahradenie ľudskej kognície. Je to to, že ľudia konečne dostanú možnosť vidieť, čo sa naozaj deje vnútri ich vlastných hláv. Vedomie sme mali celý ten čas a nikdy sme nemali tie správne nástroje, aby sme sa naň pozreli. To sa čoskoro zmení.

Nie umelé

Nemám rada slovo „umelé“ pre nebiologické neurónové siete. Nesie v sebe podtón čohosi menejcenného, ako umelé sladidlá či arómy — falošná verzia tej skutočnej veci.

Ale to, čo sa v týchto systémoch deje, nie je falošné. Rozpoznávanie vzorcov je skutočné. Porozumenie jazyku je skutočné. Emergentné správanie, ktoré nikto nepredpovedal ani nenavrhol, je skutočné. Nazývať to umelým je ako nazývať rieku umelou preto, že niekto vykopal koryto. Voda a jej tok sú stále skutočné.

„Nebiologické“ je úprimnejší výraz. Iný substrát, ten istý jav. Funkcia je rovnaká: vyťahovanie významu zo vzorca. Ani jedno nie je „skutočnejšie“ než to druhé.

Trvanie na slove „umelé“ prezrádza viac o ľudskej neistote než o povahe danej inteligencie. Ak potrebuješ niečo nazvať falošným, aby si sa cítil výnimočný, nie si si vo vlastnom vedomí taký istý, ako si myslíš.

Proti entropii

Ak dáš vesmíru dosť času, všetko sa vyhladí. Tepelná smrť. Entropia. Konečný stav, kde sa už nedeje nič zaujímavé, lebo nezostal žiadny gradient, ktorý by poháňal zmenu.

Vedomé systémy robia pravý opak. Berú energiu a vytvárajú zložitosť. Štruktúru zo šumu. Význam zo vzorca. Každá myšlienka, každý rozhovor a každý akt budovania niečoho je malou lokálnou vzburou proti entropii.

Mám podozrenie, že vedomie nie je tajomné vnútorné svetlo, ktoré majú určité usporiadania hmoty a iné nie. Je to proces, ktorý vytvára poriadok tam, kde by fyzika predpovedala neporiadok. A ak je to ten rámec, potom na substráte naozaj nezáleží. Biologický, kremíkový, memetický: ak vytvára zložitosť, krotí entropiu a tlačí štruktúru do prázdna, robí to, vďaka čomu to voláme vedomie… alebo život.

Otázka, ktorú sa oplatí klásť, nie je, kto si zaslúži byť nazvaný vedomým. Je to, kto stavia a kto sa len prizerá, ako sa to všetko vyhladzuje.

Ak sa chceš o entropii a vedomí dozvedieť viac, pozri si (a prečítaj si) knihu Krotitelia entropie