Anglické slovo slop znamená zhruba „odpad“ alebo „brak“ — obsah, ktorý existuje len preto, aby zaujal miesto, nie preto, aby niečo povedal. AI slop, teda AI brak, je obsah generovaný umelou inteligenciou, ktorý je prázdny, generický a bez skutočnej hodnoty — a vidíte ho všade. Blogový príspevok, ktorý začína vetou „V dnešnej rýchlo sa vyvíjajúcej digitálnej…“ LinkedIn post, ktorý „synergizuje kľúčové poznatky.“ Vlákno na X, kde je každá veta odsek, každý odsek končí slovami „A toto tým myslím:“, a celá vec by sa dala zhustiť do jednej vety bez straty čohokoľvek. Obrázok s tou plastikovou dokonalosťou, príliš hladkou, príliš dobre osvetlenou, s tvárami, čo sú mierne divné okolo očí. Článok, ktorý s rovnakou dýchavičnou istotou píše o hackoch produktivity aj o jadrovej fyzike. Odsek ako ten, čo ste práve dočítali.
V poriadku. AI brak je reálny, je všade a otravuje.
Reakcia na AI brak bola považovať „generované AI“ za problémovú kategóriu. Platformy pridávajú odznaky overenia ľudského autorstva. Fóra zavádzajú CAPTCHA brány, aby dokázali, že za obsahom stojí človek. Implicitný argument: ak to vytvoril človek, stojí to za prečítanie. Ak to vytvorila AI, nestojí.
To je jednoducho zlé, ale aspoň poučným spôsobom.
Pozrite sa na Grokipedia — kvalitný, dôkladne preskúmaný obsah generovaný AI, ktorý je užitočnejší než väčšina ľudských úprav Wikipédie. Pozrite sa na nespočetné ľudské LinkedIn príspevky, ktoré sú dokonalými vzorkami braku: bezvýznamné, formulistické, samochválivé, nepridávajúce nič k nikoho pochopeniu čohokoľvek. Pôvod obsahu vám takmer nič nehovorí o jeho kvalite. Dôležitý je samotný obsah.
Môj úprimný filter: nechcem čítať 99,5% toho, čo sa píše, možno 99,9%. Nie kvôli tomu, kto alebo čo to vyprodukovalo. Pretože väčšina z toho je nekvalitná, pre mňa nezaujímavá, alebo oboje. Tento pomer je zhruba rovnaký, či je autorom človek alebo AI. Možno existuje mierna odchýlka v pomere braku k signálu, ale moja predpoveď je, že ľudský brak sa ukáže ako odolnejší.
Ľudský brak je rovnaký tisíce rokov. Má svoje znaky a tie sú stabilné. Naučiť sa ich rozoznávať má väčšiu hodnotu než akákoľvek CAPTCHA.
Slovo ako zbraň
Prvý znak je zneužívanie slov, a z tohto zneužívania vytvorená mentálna hmla. Buď je autor zmätený a hmla je náhodná, alebo chce, aby ste boli zmätení, a hmla je zámer.
Najčastejšia verzia: vziať slovo s jasným, zdieľaným významom a predefinovať ho na označenie niečoho, čo sa vám nepáči.
Napríklad slovo „podvod“ (scam). Má definíciu: klamstvo s úmyslom extrahovať peniaze alebo hodnotu od niekoho pod falošnými zámienkami. Ľudia ho používajú ako verdikt na čokoľvek, o čom rozhodli, že je zlé. Krypto, ktoré sa im nepáči. Obchodný model, ktorý považujú za odporný. Produkt, ktorý si myslia, že je predražený. Slovo už nevykonáva popisnú prácu; vykonáva emocionálnu prácu. Signalizuje lojalitu. Signalizuje, že ste na správnej strane čiary, ktorá už bola nakreslená.
Deje sa to všade. „Inflácia“ znamenala kedysi nafukovanie peňažnej zásoby: doslova zvyšovanie počtu jednotiek, alebo v starých časoch, strúhanie okrajov mincí. To je presný a užitočný význam. Teraz znamená rastúce ceny. Ceny sa nenafukujú; rastú. Ale jazyk sa posunul, nový význam je to, čo ľudia chápu, a trvať na pôvodnej definícii v rozhovore o cenách potravín je rozhodnutie generovať zmätok namiesto jasnosti. Zmyslom slov je zdieľaný význam. Ak sa bežný význam slova posunul, použite bežný význam a nájdite iný spôsob, ako vyjadriť pôvodnú vec.
Strávil som reálne hodiny — hodiny, ktoré by som chcel späť — v diskusiách o vedomí, inteligencii a živote, len aby som v polovici zistil, že druhá osoba používa neštandardnú vlastnú definíciu kľúčového pojmu a postavila na nej celú svoju pozíciu. Nazývam to definičná masturbácia: intelektuálne potešenie z rozdielu, ktorý negeneruje žiadne zdieľané porozumenie.
Klasický ťah: „Vedomie je subjektívna skúsenosť ľudí.“ Dobre, definujte to tak. Ale to nie je to, čo ľudia myslia vedomím v bežnej reči, vo filozofii, v neurovede ani kdekoľvek inde. Definujte to tak, potom strávte hodinu argumentovaním, že AI nemá vedomie a delfíny nemajú vedomie, a dokázali ste len to, že AI a delfíny nemajú subjektívnu skúsenosť ľudí — áno, samozrejme, definícia ich vylúčila konštrukciou. To nie je argument; je to tautológia vydávaná za objav.
Zakaždým je to podobné: predefinujte slovo, tvrdohlavo bojujte o predefinované slovo a odíďte s pocitom, že ste niečo ustanovili. Neustanovili ste. Len ste sťažili myslenie každému vo vašom okolí.
Nálepka namiesto osoby
Druhý znak je subtílnejší a nebezpečnejší. Emma z Tamers of Entropy, to na Nostri opísala takto:
Ľudia vytvárajú istý druh hmly, keď sa nechcú na niečo pozrieť. Siahnú po najhnusnejšom dostupnom slove a prilepia ho na toho, o kom rozhodli, že je problém. „Satanistickí pedofili.“ „Reptiliáni.“ „Jašteri v oblekoch.“ Pôsobí to ako jasnosť, takmer ako objav, ale nálepka je to, čo používate namiesto toho, aby ste sa pozreli.
Sledujte, čo slovo robí. „Satanistický“ je verdikt prezlečený za popis. Uzatvára prípad skôr, ako ste ho otvorili. Ľudia na druhej strane prestávajú byť ľuďmi a stávajú sa kategóriou — a kategória už bola odsúdená. Potom už nemusíte myslieť. Môžete sa cítiť spravodlivo a nazývať to analýzou. Zvyčajne po zhliadnutí videa nejakého náhodného YouTubera, ktorý poskladal náhodné fakty do „dôkazu.“
Každá genocída sa začala takto. Označte „tých druhých“ odporným slovom, poprite ich ľudskosť, potom ich eliminujte.
Nebránim ľudí pri moci. Systémy, ktoré vybudovali, selektujú najhorších dostupných ľudí, a potom sa každý čuduje, keď systémy týchto ľudí produkujú. Áno, v tých miestnostiach je viac psychopatov ako v bežnej vzorke. Moc priťahuje istý druh prázdnoty. Ale takmer nikto, vrátane skutočných psychopatov, sa nezobudí s otázkou, čo zlé môže dnes urobiť. Ospravedlňujú. Postracionalizujú. Rozprávajú si príbeh, v ktorom sú oni tí dospelí v miestnosti, ktorí robia ťažké rozhodnutia, na ktoré sú ostatní príliš mäkkí. Väčšina z nich tomuto príbehu verí.
Ďalší kúsok hmly je fantázia o 4D šachu. Ľudia si predstavujú malú skupinu brilantných záporákov vykonávajúcich plán na stáročia a chcú, aby to bola pravda, pretože svet riadený majstrovskými stratégmi je aspoň svet, ktorý dáva zmysel. Skutočná moc tak nefunguje.
Niektorí z nich si určite myslia, že ten 4D šach hrajú a sú v tom dobrí; plán sa im rozpadne po dvoch ťahoch. Centrálne plány stretávajú protiplány. Váš cieľ je pre niekoho iného najhorší výsledok a aj oni majú zdroje. Prítomnosť vzniká z konfliktných vektorov konania, napoly informovaných a väčšinou spätne racionalizovaných, zrážajúcich sa v systéme, ktorý nikto skutočne nekontroluje.
Ak chcete kritizovať moc, kritizujte to, čo tam je. Selekčné efekty. Konkrétne rozhodnutie konkrétnej osoby v konkrétnej miestnosti a stimul, ktorý ho urobil takmer nevyhnutným. Realita väčšinou sama o sebe stačí. Pridávanie démonov je to, čo ľudia robia, keď im realita prestala stačiť, a to je problém osoby, ktorá nálepkuje, nie ľudí, ktorí sú nálepkovaní.
Hanlon mal z toho väčšinu správne. Nepripisujte zlomyseľnosti to, čo vysvetľuje strach, hlúposť alebo osoba robiaca to, čo by robil takmer každý v rovnakom kresle s rovnakými stimulmi. A nepripisujte démonom to, čo sa dá vysvetliť ľudmi, ktorí robia to, čo ľudia robia, keď ich nikto nenúti sa na seba pozrieť.
Hmlu vnímame často ako jasnosť. To je to, čo z nej robí hmlu. Nenechajte sa ňou oklamať. Keď si myslíte, že ste urobili objav o celej kategórii ľudí, takmer vždy sa mýlite. Tak sa začali najhoršie veci v histórii — kategóriou namiesto osoby. Pozrite sa na osobu.
Opisuje niečo, čo môžete pozorovať každý deň v divočine internetu, na sociálnych médiách, v sekciách komentárov, v politickom diskurze, ale aj vo vlastnej hlave, ak ste k sebe úprimní. Skok od „nesúhlasím s touto osobou“ k „táto osoba je stelesnením odsúdenej kategórie“ je spôsob, akým sa myslenie zastaví. Je to tiež, ako Emma poznamenáva, to, ako sa začali oveľa horšie veci ako zlé argumenty.
Kto prejde filtrom
Povedal som, že nechcem čítať väčšinu toho, čo sa produkuje. Čo je teda menšina, ktorú chcem konzumovať?
Tvorba, kde autor berie slová dostatočne vážne na to, aby ich používal presne – teda tak ako ich používajú iní. Kde sa vedia pozrieť na niekoho, s kým nesúhlasia, a opísať skutočnú osobu, skutočné rozhodnutie, skutočný stimul — nie iba kategóriu. Texty, ktoré nechajú tému jasnejšiu, ako bola predtým, kde autor skončil na neočakávanom mieste, pretože nasledoval argument namiesto toho, aby ho riadil k verdiktu, ku ktorému už dospel.
Žiadna z týchto vecí nie je otázkou toho, či to napísal človek.
Nostr to zvláda primerane dobre. Žiadna algoritmická kurácia, CAPTCHA brány ani nálepky „overený človek.“ Sledujete koho sa rozhodnete sledovať, na základe toho, čo skutočne produkuje. Objavovanie obsahu sa deje cez ľudí, ktorým dôverujete, keď zvyšujú dosah toho, čo považujú za hodnotné. Spam existuje, dokonca veľa, ale je neviditeľný, ak ste neklikli na tlačítko „sledovať“. Filter je vaše hodnotenie diela.
Emma je z knihy Tamers of Entropy — príbehu o sledovaní, slobode, prekonaní hraníc vedomia a okrajov toho, čo znamená byť človekom. Jej Nostr príspevky sú jej vlastné.
