🩳 Nexus: zničí nás nelidská entita, nebo to zvládneme sami?

Kevin Kelly, zakládající redaktor časopisu Wired, vzpomíná, jak se v roce 2002 během jednoho večírku ve společnosti Google dal do řeči s Larrym Pagem. „Larry, pořád to nechápu. Existuje tolik společností zabývajících se vyhledáváním. Vyhledávání na webu zdarma? Co z toho budete mít?“ Page mu vysvětlil, že Google se vůbec nezaměřuje na vyhledávání. „Ve skutečnosti pracujeme na umělé inteligenci,“ odpověděl Larry. Stvořit AI je totiž daleko jednodušší, když máte k dispozici velké množství dat. A umělá inteligence je tu pak od toho, aby přeměnila obrovskou hromadu dat v obrovskou moc. 
— kniha Nexus, Yuval Harari

Asi víte, že jsem fanoušek digitálních vynálezů a tzv. geek. Vystudoval jsem informatiku na Masarykově univerzitě a znovu tam ze zájmu studuji; machine learning (viz 34. Q&A call v čase 1:37:51, kde vysvětluji, proč je i v padesáti skvělé chodit na vysokou). Rád používám nástroje AI, tu a tam včetně generativních modelů jako chatGPT – stěží mě tedy obviníte ze zpátečnictví.

Poslední měsíce přesto cítím potřebu zastavit se a poodstoupit. Nejde jen o zamyšlení se nad nástrahami používání generativní AI v našich životech. Palčivější otázkou je, zda je AI revoluce jen dalším updatem lidstva, nebo je od základu bezprecedentní změnou; a pokud ano, jak to přežít?

A tak jsme v Melvilovi vydali knihu, z níž na začátku cituji, a která tyto otázky rozpracovává z historické perspektivy: Nexus. Získat práva na překlad novinky slavného Yuvala Harariho nebylo snadné ani levné, ale chtěli jsme být u toho, když se v Česku formuje debata na toto téma pro další roky a desetiletí.

Kniha mě místy rozčilovala a určitě nejsem sám. Autor nabízí sociálně-historický pohled na roli informace v dějinách a moc se s tím nepárá. Pracuje s úhlem pohledu, kdy bere informaci jako nástroj pro budování společenských struktur nezávisle na její pravdivosti. Pojetí informace jako nositele pravdy a věrného odrazu reality (kdy by nás víc informací mělo přiblížit pravdě a moudrosti) označuje Harari za naivní koncept. Lež a smyšlené příběhy byly vždy efektivním způsobem udržení řádu a moci a vypadá to, že tomu tak bude i nadále.

Argumentuje, že populisté a oportunisté pravdu nepotřebují; stačí, že správně pečují o své informační sítě, jak ukazuje na příbězích z dávné i nedávné minulosti. „Čí pravdu máte na mysli?“ ptají se populisté s úšklebkem. Autokrati se už tisíce let pokoušejí centralizovat informace, stát se jejich středobodem, nexem. Harari varuje, že donedávna to bylo jen částečně efektivní, protože sběr, uchovávání a zpracování informací naráželo na lidské limity. Jenže limity padly: moderní technologie a AI zpracují donedávna nemyslitelné.

Fikce má nad pravdou navrch: 1. může být jednoduchá jako facka, 2. dá se skvěle přizpůsobit tak, aby nebolela, což u pravdy nejde.

Podle Harariho není informace nástrojem pravdy, ale spojení. Informace (např. příběhy) vytvářejí nové „intersociální skutečnosti” spojením různých bodů do jedné sítě. Podle Harariho není homo sapiens nejrozvinutější proto, že měl víc moudrých informací, ale protože ... se je naučil propojovat.

Co z toho tedy plyne? Máme síťový problém, protože lidstvo vytváří obrovské informační sítě, které neumí moudře používat. Demokracie vyžadují dialog, ale my přestáváme mít schopnost spolu mluvit: necháváme si do toho kecat nelidské entity. A což teprve, až je necháme za nás rozhodovat.

Dalo se vyhnout druhé světové a mohli se Němci vyhnout „Nazi experimentu“? Podle Harariho ano, protože historie není deterministická, nýbrž je výsledkem toho, v jaké příběhy většina lidí uvěří.

Jsme ztraceni? Dá se to změnit? Dokážeme nepřenechat vládu těm, kteří už před lety věděli, že bezplatné vyhledávání je zástěrka pro cestu k ultimátní moci? Můžeme zabránit „datovému kolonialismu” (nové podobě exploatace národů a komunit), digitálním autokraciím či vysoce pravděpodobné zkáze, když se do sebe pustí dvě znepřátelné AI?

Možná ano, možná ne: to je na nás – i na vás. Nejvlivnější současný historik Yuval Harari nabízí spoustu myšlenkových experimentů a možností vývoje. Možná vás to bude bavit a dráždit jako mě (protože Nexus zvedá z gauče). Zkuste to tady a zapojte se do diskuse.

Nexus – Stručná historie informačních sítí od doby kamenné po AI

Světový bestseller slavného historika Yuvala Harariho právě vyšel. Titul, který osobně považuji za naprosto zásadní – v dnešní době, kdy využíváme nástrojů, jimž pořádně nerozumíme, abychom porozuměli světu, jemuž jsme nerozuměli nikdy. Fascinující a varovné čtení. Jsme odsouzeni k zániku, ptá se Harari?

POZOR! NEPROŠVIHNĚTE AKCI u příležitosti vydání Nexusu:
▶︎ při použití kuponu NEXUS25
▶︎🦉 25% SLEVA na vše od Melvila (kromě Nexusu)
▶︎ poštovné ZDARMA

OBJEDNAT (tištěnou/e-knihu | audio brzy)

Poznámka pod čarou o poznámkách: jak pracuji s informacemi z knih?

Při tvorbě článku jsem namísto AI použil svůj první a taky druhý mozek. S oběma denně pracuji. V druhém mozku Roam Research se mi výpisky a poznámky z četby (dík Readeru) hezky agregují, semináhodně „objevují“ a propojují.

Na začátku přemýšlení o textu jsem si v pravém panelu Roamu otevřel svou kartu poznámek k Nexu, scroloval a postupně „házel“ některé z nich do levého panelu (viz obrázek) na plátno k vizuálnímu promyšlení.

Poté už to šlo snadno – poznámky vytvořené k jednotlivým pasážím během čtení knihy jsem pak začal uspořádávat a sázet do textu, přičemž jsem je lehce upravil a rozšířil. Nemusel jsem je psát úplně odznova, ale současně na ně zůstala zachována interní reference. Kdybych o tématu někdy znovu mluvil či psal (což je jisté), v Roamu uvidím, kdy jsem kde co použil a citoval. Můžu tak například ohlídat, abych se neúmyslně neopakoval či náhodně objevit nové souvislosti.

Celé své čtecí/psací workflow popisuji v záznamu webináře, který najdete zde.