Potřebujeme, aby existence kladla odpor

Benjamin Riley je zakladatelem americké poradenské společnosti Cognitive Resonance, která lidem pomáhá pochopit, jak funguje generativní umělá inteligence. Delší dobu jsem sledoval a užíval si Benův blog a Bluesky, takže mě zasáhlo, když Ben zareagoval na obraz mé matky, který jsem sdílel po jejím úmrtí. Vyjádřil soustrast i okouzlení nad její kreativitou. V kontextu temné ironie, kdy chatbot loni vzal kus života jeho tatínkovi (viz New York Times), začala naše konverzace. Nakonec vedla k online hovoru, jehož upravený a zkrácený přepis vám níže předkládám. Mluvili jsme o LLM, humbuku kolem AI, lidské kreativitě a jazyce, který není tím, čím se zdá být. Velmi mě to bavilo a nejzajímavější odpovědi přináším níže. /PS: generativní AI nebylo použito/

Tomáš: Pojďme si povídat o magii. Delší dobu se zajímám o vnitřní fungování LLM. Dokonce jsem si zapsal dva semestry strojového učení na své alma mater ve snaze získat základní intuici, jak to funguje uvnitř.

Překvapilo mě to. Čím víc jsem do fungování algoritmů pronikal, tím méně jsem věřil výstupům chatbotů a tím méně mě okouzlovaly. Myslel jsem, že to bude spíše naopak. Teď ale nedokážu odvidět proces, kdy jsou ze slabik generovány matice, ty se chytře násobí, a pak se zase z matic skládají slabiky, čímž vzniknou přesvědčivé věty.

Ne že by za tím nebyla ohromná genialita matematiků, inženýrů, programátorů a spousta dat a hrubé síly. A mnohé prvky těch algoritmů jsou nádherně elegantní, což máme my ajťáci rádi; ale ono původní kouzlo je pryč.

Přijde mi hloupé, že tento software antropomorfizujeme, váháme, zda snad nemá vědomí a oblbujeme se kouzelnými slovy jako emergence; protože provozovatelé zjistili, že tahle magie prodává.

Jakou máš ty vlastní intuici o schopnostech a limitech této technologie?

Ben: Především je skvělé, že ses rozhodl pustit se do studia. Odpovídá to tomu, co se snažím říci svou prací světu. Hodně lidí nám dnes vypráví příběhy o generativním AI – ale o to víc se musíme sami snažit pochopit jádro věci.

Díky porozumění nemusíme jen poslouchat, ale můžeme sami interpretovat, co a proč nám tihle vypravěči vlastně říkají. Bill Gates nebo Sam Altman slibují, že tohle je budoucnost – ale člověk by měl být schopen říct: „Ok, dobrá, možná ano, možná ne: například já to vidím trochu jinak.” Vzdělání nás posiluje. A tvé vzdělání tě posílilo. 

A mimochodem potvrzuješ, čeho jsem si sám všiml už dřív. Čím víc pronikneš do mechanismu, jímž tyhle nástroje generují slova, tím méně jsi ohromen. Podíváš se a řekneš si: „Je to software, je to matika, komplikovaná, ale ne nepochopitelně komplikovaná.” A to je klíč.

Můj přítel Paul Cisek, neurovědec z Kanady, má skvělou metaforu. Představ si kouzelníky na pódiu, kteří předvedou fantastické kouzlo. Dav je ohromen, potlesk ve stoje, odcházejí. A Paul pokračuje: „A teď si představ, že by tihle lidé, kteří vytvořili LLMs, šli do zákulisí, sedli na zadek a řekli si: ‚Wow, možná to bylo fakt kouzlo!‘” Jenže tak to není. Oni i my přesně víme, jak to fungovalo a proč. Nepotřebujeme k vysvětlení magii. Nepotřebujeme mluvit o AGI. My prostě víme, že je to statistický proces.

Takže abych odpověděl: jazykovými modely je možné být současně ohromen i zklamán. Jsou působivé ve smyslu, že dokážou pokrýt jakékoliv téma, k němuž dostaly v dané oblasti dostatek textu. A budou schopny vyprodukovat související výstup.

Nikdy předtím jsme neměli nástroj rozkročený nad takovým objemem kodifikovaných a do textu převedených znalostí lidstva. Ale právě proto jsou zklamáním ve smyslu, co s těmito daty dokážou, nebo spíše nedokážou udělat.

Posbírali jsme veškeré publikované poznání lidstva. Aplikovali na to obrovskou, nepředstavitelnou výpočetní sílu. A výsledkem je něco, co generuje průměrné a ne zas tak působivé výstupy. Průměr lidského myšlení.

Tomáš: Najde se podle tebe něco, co naopak zvládají nadprůměrně?

Ben: Vidím jistý potenciál a vzrušující možnosti ve faktu, že na rozdíl od lidí nejsou modely limitovány objemem trénovaných dat. My lidé se učíme na knihách a zkušenostech, které během života přečteme a zažijeme. Je jich sice hodně, ale pořád méně, než co dohromady vstoupí do těchto modelů. Jejich „dlouhodobá paměť” dalece překračuje objem toho, co každý jednotlivec dokáže vstřebat za celý život.

Ve spojení s nástroji, kdy můžeme modely ovládat přirozeným jazykem a nechat je dělat věci, které by předtím bylo nutné naprogramovat, vzniká silná premisa. Jenže tahle kombinace je extrémně nebezpečná. Sice by to asi mohlo vést ke spoustě zajímavých výsledků, ale stále není jasné, jak moc tomu můžeme věřit. Dokážu si nicméně představit, že hranice toho, co dokáže člověk sám udělat od svého počítače, se budou posouvat. 

Představ si například, jak vzniká komplexní software, dejme tomu Microsoft Word, který byl v průběhu let vyvíjen nejspíš i desítkami tisíc lidí, kdy každý z nich přispěl dílkem do jeho codebase. A teď možná vstupujeme do světa, kde není potřeba zaměstnat armádu lidí a AI slouží jako pracovní síla řízená pár inženýry. Některé firmy se to samozřejmě už pokoušejí implementovat. Dávají tak softwarovým inženýrům dosud nevídané schopnosti.

Co ale také slýchám, jsou příběhy o maximálním kognitivním vypětí, vyhoření, brain-maxxingu apod. Mimo jiné i proto, že ani nejzkušenější z nich vůbec nevědí, co se děje uvnitř nástroje a ztrácejí vhled a kontrolu. Což je další velká hrozba. Pokud AI vytvoří něco a to něco se pokazí, bude to umět člověk ještě opravit? 

Tomáš: Prozatím to vypadá, že do nějaké velikosti projektu to i s pomocí těchto nástrojů zvládnou lidé zase opravit a zazáplatovat; tedy aby to zvenku na čas opět vypadalo jako funkční. Jenže jak říkáš, stále více z nich si stěžuje na vyčerpání a hluboký propad pocitu naplnění a kompetence. Stačí se začíst do postů na vývojářském Hacker News.

A co až všichni zkušení inženýři odejdou do důchodu nebo prostě vyhoří z nekonečného opravování naslopovaných problémů? Když prostě vzdají sebezlepšování a učení se vlastními chybami a změní se na „orchestrátory”, jak se sami nazývají? Kdo pak bude schopen vytvářet architekturu a koncepty odrážející aktuální zkušenost zákazníka, potřebu trhu a týmu. A především: kde se vezme nové krmivo, tedy elegantní, spolehlivý a „hustý” kód, na němž se dnešní LLM coding tooly dosud trénovaly?

Ben: Nevíme. Mnoho z nás se začíná obávat, co se bude dít, když zmizí dosud existující profese a kariéry. Když lidé přestanou prohlubovat znalosti, které z nich udělaly experty.

Tomáš: Můj osmnáctiletý syn je už de facto zkušený programátor. Posledních deset let se učil nejdřív pomocí kurzů, později začal pracovat na svých projektech. Miluje programování a přemýšlení o problémech a donedávna si byl jistý, že po gymplu půjde na informatiku. Současně ale nenaskočil na AI hype a generativní nástroje nepoužívá. Říká, že se chce vyhnout ztrátě schopností, nelíbí se mu neetičnost modelů, které stojí na kradených datech, jejich sociální i ekologický dopad. Nyní si ale není vůbec jistý vyhlídkami na uplatnění jeho dovedností. Co bys mu poradil?

Ben: Řekni mu, že budoucnost nezná nikdo. Ale jsem si téměř jistý, že pokud je odhodlaný a nadšený do něčeho, co ho zajímá, tak své znalosti a dovednosti dokáže přenést do jiných oblastí za hranicemi computer science. Za to dám ruku do ohně.

Vyčistit chaos vytvořený AI bude po nějakou dobu nejspíše docela ceněná a vysoce hodnocená schopnost.

Ale i kdyby to tak nebylo, vrátil bych se k Jobsovu slavnému výroku, že počítač je bicykl pro mysl. Tahle metafora se mimochodem moc nelíbí mé kamarádce Audrey Waters, ale já myslím, že na ní něco je. Nakonec: otec tvého syna sice studoval informatiku, ale stal se knižním nakladatelem. Nikdy dopředu prostě nevíš, jak se tvá kariéra vyvine.

Zažívám to nakonec na vlastní kůži. Svou vášeň pro přemýšlení o myšlení jsem objevil docela pozdě. Bylo by super, kdybych se mohl vrátit a tou cestou se vydat mnohem dřív.

V jeho věku jsem ještě svou vášeň ale neznal, takže jsem si řekl: „Dobrá. Vyberu si obor, kde mě trh dokáže nejvíc odměnit.“ A vystudoval jsem byznys a nelituju toho. Ale kdybych se mohl vrátit v čase, vybral bych si cognitive science. 

No, raději později než nikdy. To si rád opakuju i pokud jde o kytaru, protože bych na ni hrozně rád uměl hrát. Ale můžu se pokoušet, když je mi skoro padesát? A pak si říkám: a proč ne? Uvidíme!

Tomáš: Jdi do toho.

Tomáš: Pojďme se ale vrátit k fascinujícímu tématu tvého slavného článku s vtipným názvem Large Language Mistake, který jsi psal pro The Verge (a pro tvůj blog) o rozdílu mezi jazykem a myšlením. Tvé vhledy mi otevřely oči. A to i jako nakladateli a knižnímu editorovi, který celý život zápasí se slovy a na vlastní klávesnici zažívá, jak těžké je někdy vyjádřit a předat myšlenky a zkušenosti pomocí slov. Tvé teze mají v době bezmezné důvěry v synetický text obrovskou naléhavost.

Ben: Smyslem mé eseje byla potřeba popsat důležitý rozdíl.

Lidé, kteří vytvářejí jazykové modely, všichni ti CEOs jako Sam Altman a další, tvrdí, že budou-li je krmit více a více daty, modely dosáhnou tzv. superinteligence, AGI, něčeho chytřejšího, než jsme my. A já tomu nevěřím.

Fundamentálním důvodem je, že jazykové modely jsou postaveny na jazyku a jazyk a myšlenky nejsou totéž. Tyto fenomény jsou sice velice úzce propojené – neříkám, že jsou to úplně oddělené procesy –, ale také máme vědecké důkazy, že mnoho myšlenek funguje nezávisle na jazyku.

Pár příkladů. Za prvé, fMRI skeny ukazují, že když na něco myslíme, aktivují se konkrétní oblasti mozku. Když pak ale o té stejné věci komunikujeme, aktivuje se v mozku úplně jiná jeho část. Počítáme-li na papíře nějaký matematický příklad, děje se to ve zcela jiných částech mozku než když si spolu povídáme a já ve tvém obličeji hledám potvrzení, že rozumíš, co teď říkám.

Druhý důkaz je ještě zajímavější. Dlouho známe případy lidí, kteří kvůli nějakému onemocnění či zranění ztratí schopnost komunikovat, přijdou o řečové dovednosti a jejich schopnost psát se sníží nebo zmizí. Přesto víme, že mohou dál myslet, uvažovat, cítit emoce. To je silný důkaz vnitřního oddělení procesů jazyka a myšlení.

Také se můžeme podívat na jazyk jako takový napříč kulturami, a uvidíme, že téměř bez výjimky jsou velké podobnosti ve způsobu, jakým se jazyky vyvíjejí a mění. Což velmi úzce souvisí s naší potřebou efektivní komunikace.

Takže jazyk a myšlení nejsou stejná věc. Proto ani pouhým zvyšováním výkonu či kapacity jazykového modelu prostě nemůžeme dojít k plné kvalitě, kterou dosahuje lidské myšlení.

Někteří lidé ale namítnou: „Přece není potřeba replikovat ptačí křídla, abychom létali. Máme letadla. Možná, že můžeme superinteligence dosáhnout jinak.“ Ok, rozumím tomu argumentu. Ale jsou tam problémy. Jediný důvod, proč mluvíme o umělých neuronových sítích, je ten, že se vědci podívali na lidský mozek a myšlení a položili si otázku: „Jak to vlastně funguje? Co zkusit pracovat s informací analogicky, ale s použitím umělých neuronů?” Takže tyto zjednodušené neurony přišly na svět skrze naše vlastní neurony. Není pak ale divné říkat, že můžeme dosáhnout kompletně odlišné, nadlidské superinteligence skrze mechanismus, jenž de facto pokulhává za zjednodušenou verzí funkce našeho mozku?

Ale co je ještě důležitější: existují schopnosti, které nejde zredukovat na jazyk. Filosof Michael Polanyi je nazval tacit knowledge (nevyslovitelná znalost). Znalost, kterou máme, ale nedokážeme ji popsat slovy. Jak poskládáš puzzle? Zkus to popsat slovy – divné, že? „Hledám tady ten malý výřez ...” Některé věci se učíme děláním, pokusem a omylem. A nejde to zachytit do textu. 

Čili to byl hlavní argument mého článku. 

Ale teď si trochu zafilozofuju. I kdybych se mýlil ve všem, co jsem zatím řekl, i kdyby krmení modelů novými texty dál zvyšovalo jejich schopnosti, stejně si nemyslím, že nás dokážou masivně ohromit. Podle mě nedokážou výrazně rozšířit hranice lidského poznání. Jazyk je sice mocný, ale je také limitující: ohraničuje naše myšlení. 

Vím, že i ty máš umělecké cítění stejně jako tvoje matka. Umělci a vědci posouvající myšlení do nových oblastí bývají jako první frustrováni stavem jazyka. Jazyk, který mají k dispozici, jim nestačí, svazuje je. Říkají, že je doslova uvězňuje. A hledají cesty ven. Malíři zase říkají, že už nechtějí malovat jako dosud, a nacházejí nové vyjadřovací prostředky, jimiž pak překračují hranice jazyka a tedy i myšlení.

A vědci – ti skutečně významní – si řeknou: „Počkejte, jazyk, kterým jsme popisovali vesmír – tahle newtonovská fyzika - není v pořádku.” To předtím nikoho nenapadlo, že? A pak jeden patentový úředník ve Švýcarsku deklaruje: „Vlastně je čas relativní. Prostor a čas jsou totéž. Tehdy vznikl nový jazyk, nové metafory pro popis reality.

Mohli bychom vzít všechna data, která kdy vznikla a existovala, a narvat je do jazykových modelů. Ale co přiměje model k nespokojenosti a kde se zrodí podnět na způsob „Hm, tohle nemám rád, to se mi nelíbí. Chci úplně jiný jazyk.“

Nevidím, že bychom směřovali k něčemu takovému. A naštěstí přesně toto je prostor pro lidské umělce a vědce.

Tomáš: A pro děti. Mojí dceři je jedenáct. Nedávno zjistila, že její kamarádky používají chatboty pro řešení osobních problémů, místo toho, aby je sdílely s rodiči, učiteli nebo kamarády. A dost ji to naštvalo. Některé děti AI milují, jiné to nemohou vystát. 

Někdy mě napadá, jestli všichni nemusíme projít něčím podobným, jako je pět fází smutku, akorát s AI: ohromení, pohlcení, vyčerpání, nuda a nakonec skepse.

Nebojíš se, že lidstvo jako celek regreduje k průměru?

Ben: Bojím se a současně jsem optimista. Všichni tvoříme, všichni jsme plní protikladů. Co popisuješ, je vlastně samo základní společenské napětí. Na jedné straně je nějaký poznatek přijat většinou a stává se tak součástí „průměru”, což nazýváme selským rozumem. Je to efektivní a často reflektuje pravdu.

A na straně druhé je selský rozum past. Proto chceme od umělců, vědců a provokatérů, aby posouvali hranice. Balancování těchto dvou směrů patří k základnímu mechanismu uvnitř společnosti. Příliš mnoho avant-gardy a je tu revoluce, což málokdy pro její účastníky končí dobře.

Často jsem – asi podobně jako ty – spíše na straně kreativního přístupu. Moc se mi líbilo, jak jsi předtím popisoval radu, kterou jsi dostal od své maminky ohledně psaní: nejdřív vymysli, co na dané zadání asi napíšou všichni ostatní, i ti, kteří si myslí, kdovíjak nejsou originální, a pak vymysli něco ještě originálnějšího.” Není přesně to mentalita umělce? Udělat něco, co zatím druzí neudělali? 

Přesně z toho důvodu jsem i docela optimistický, že tyhle nástroje nezničí ani umělce, ani jiné provokatéry. Jakkoli je jasné, že procházíme velkou sociální změnou až rozvratem.

Možná to kolem sebe vidím, protože to vidět chci, ale všímám si vznikajících koalic, kdy lidé říkají: „Chceme pro člověka zachovat lidskost. Nevzrušují nás vize, že brzy budeme mít roboty, kteří za nás všechno udělají, abychom my nemuseli. Nacházíme hodnotu ve vlastních rozhodnutích, co dělat a co tvořit. A už vůbec nepotřebujeme velké technologické společnosti, aby to dělaly za nás.”

Právě za tohle musíme bojovat, protože nelze počítat s tím, že ty firmy hned samy přestanou.

Tomáš: Dobře, my jsme dospělí a dokážeme se bránit. Ale co si myslíš o dětech, které používají tyhle nástroje a snaží se skrze ně poznávat sebe, svět a vztahy, jako kamarádka mé dcery?

Ben: Větší obavu než z použití AI k občasnému nácviku komunikace s jinými lidmi mám z toho, že lidé, zejména děti, si začnou s těmito nástroji vytvářet jakási kvazi-přátelství.

Pro mnoho dětí je socializace velice těžká a rozumím, že je chatboty lákají. A kdybych mohl věřit jejich bezpečnosti, byl bych připraven se o tom bavit; ale my jim věřit nemůžeme.

Čili teď máme nástroj, který není člověk, nemůže nic zažívat ani si představovat, co se děje v našich myslích. A přesto mu dáváme sílu a váhu žijící lidské bytosti.

Už dávno víme, že AI chatboty přesvědčily některé lidi k sebevraždě. Ne jednou, ne dvakrát, ale opakovaně. A vedle tohoto nejhoršího scénáře existuje i mnohem méně nápadné, plíživé poškozování, spočívající v postupném přetváření člověka, který s nimi „konverzuje”.

LLM chatboty jsou vytvořeny, aby generovaly pokrytecké odpovědi, zrcadlily, co si myslíme, že chceme. Jenže podstata dětství je rozvíjet se s jinými lidmi a dostávat od nich zpětnou vazbu. Narážet na hranice. Učit se, že možná si myslíš, že tohle chceš, ale podívej: ono to má nějaké konsekvence.

Jako lidé potřebujeme k přežití, aby nám existence kladla odpor. Tyhle nástroje slibují, že odpor odstraní. A my netušíme, jaké to bude mít následky pro děti, které si teprve formují porozumění, co mohou očekávat od jiných lidských bytostí.

Tomáš: A jak je na tom tvoje dcera?

Ben: Je teprve ve čtvrté třídě. AI a technologie ji zatím moc nezajímaly, což mě docela těší. Jediná situace, kdy používám AI kromě mého výzkumu, je tu a tam vytváření legračních obrázků pro její pobavení. Povolali jsme sílu lidství a energii planety, abychom generovali legrační obrázky. Bude to ještě zajímavé, protože se dostává do věku, odkdy jsou u nás školní programy bohužel už na technologii dost závislé.

Tomáš: Ale ty se to snažíš změnit. V rámci své konzultační činnosti vedeš učitele a další vzdělávací pracovníky. Co jim doporučuješ ohledně AI?

Ben: Snažím se hned přímo neodpovídat, přestože se ptají. Tím se vracím k tomu, proč mě tvé odhodlání vzdělávat se tak potěšilo.

Představ si to jako zkrácenou a pravděpodobně méně technickou verzi lekce, jakou jsi prošel ty, šitou na míru lidem ze vzdělávací branže. Je pro mě taky důležité nemít za ústřední motiv AI. Namísto AI je hlavním tématem lidské myšlení.

Otvírám školení jednoduše: máme tu lidskou mysl a potřebujeme jí porozumět. A máme tu i nástroj, o němž si někteří lidé myslí, že se podobá naší mysli. Na konci kurzu bych rád, abyste si byli schopni sami vytvořit názor na to, jak moc je tahle podobnost reálná.

Probíhá to ve formě nejméně dvouhodinových, ideálně osmihodinových workshopů.

Osm hodin je už doba, kdy si skutečně začneš tvořit hlubší a detailnější porozumění. A nepotřebuješ k tomu být matematik či vědec přes počítače. Vím to moc dobře, sám jím nejsem.

Ještě zmíním, že v newsletteru jsem docela sarkastický až agresivní, ale na workshopech s živými účastníky v tomhle směru dost uberu, protože z toho nechci dělat kázání.

Snažím se vzdělávat a lidé, co za mnou přicházejí, jsou ohledně AI prostě zvědaví. A zvědavost je skvělý startovní bod. Kdybych moc tlačil, obrátí se to proti podstatě toho, čeho chci dosáhnout.

Tomáš: To mi připomíná, že sám používám dvě užitečné pomůcky, když se někomu pokouším přiblížit fungování AI.

První je metafora: LLM výstup je něco jako ultrazpracované jídlo. Levné, rychlé, dostupné úplně všude a dokonce plní svou funkci, protože zbaví hladu – a obecně beztak zachraňuje lidstvo od hladomoru. Ale není to autentická strava z přírody, která by nás přirozeně obohacovala; ve skutečnosti nám škodí, pokud se stane hlavním zdrojem potravy.

Druhá pomůcka je zjednodušeným pohledem dovnitř: málokdo si uvědomuje, že od okamžiku tokenizace, když slova z trénovacích textů jsou roztrhána na fragmenty o několika znacích, embedována a kdovícoještě, tak už tam vlastně žádná slova v celku nejsou. Není tam žádný seznam jejich „významů”. Jsou to pravděpodobnosti přiřazené slabikám a jejich kontextům v obrovském prostoru čísel.

Když to vysvětluju lidem, kteří mají blízko k práci s jazykem, často něco docvakne: „Počkej, tam není žádná databáze faktů, slov a významů? Žádný slovník?“ Ne, není. Proto jsem při čtení tvého článku cítil, že s tebou potřebuju mluvit.

Ben: Obě přirovnání jsou skvělá.

Pokud jde o metaforu s ultrazpracovaným jídlem, zrovna jsem teď psal o něčem podobném. Vyvinuli jsme se v dobách, kdy tučná jídla byla velmi vzácná. Proto, když jsme se k nim dostali, naše těla reagovala: skvělé, všechno sněz. Nyní jsme schopni průmyslově vyrobit tučná jídla téměř v neomezeném množství, ale naše těla stále reagují stejným způsobem.

Což ukazuje, že technologický vývoj, v tomto případě v oblasti průmyslového zpracování jídla, nás může poškozovat, být maladaptivní.

Otázka kolem jazykových modelů je přesně tato: Je tenhle nástroj maladaptivní vůči naší kognici? Nevím, jestli známe odpověď. A vážně se obávám, že by mohla být kladná. Možná jsme vymysleli něco úžasného se špatným designem a použitím, kdy to nahrazuje nezbytnou námahu myšlení.

Ohledně tvého druhého přirovnání doplním další příběh. Možná nebudeš znát Helen Keller, významnou osobnost americké historie. V devatenácti měsících oslepla a ohluchla, ale přesto se naučila komunikovat. Její učitel jí psal slova na ruku.

A traduje se známý moment u pumpy na vodu. Voda proudí přes její ruku a učitel píše „voda“ na tu druhou. A v tu chvíli se propojuje slovo se zkušeností, s významem.

Co popisuješ s tokenizací je jako mít pouze tu ruku, která vnímá obrysy písmen. Slova dají dohromady výstup, jistě. Ale potřebuješ druhou ruku smáčející se v chladivém proudu, aby se výstup propojil se zkušeností vody, s jejím skutečným významem.

LLM jsou jednoruké stroje.

Tomáš: To je skvělé. Další věc, o které můžu přemýšlet. Téma AI evidentně vyvolává nejen psychózy, ale i touhu po hlubším poznání lidské podstaty.

Ben: Lidé jsou ohledně AI zvědaví. Já byl také zvědavý.

Mnozí čtenáři, včetně tebe, se mě ptali na příběh mého otce, publikovaný nejdříve na mém blogu a později ve velkém investigativním článku He Warned About the Dangers of A.I. If Only His Father Had Listened v New York Times. Šlo o obrovskou tragédii, samozřejmě, ke které došlo kvůli jeho spolehnutí se na chatGPT. Použil ho, aby si obhájil, že nesmí pokračovat v onkologické léčbě, kterou podstupoval. Bylo a je to strašné.

Ale na druhé straně, právě AI byla námětem mnoha našich konverzací, které bychom pravděpodobně neměli. Otec byl profesí neurovědec a vlastně nás to téma v posledních letech života sblížilo.

Nacházím v tomto příběhu podivnou ironii. Dokonce i naše konverzace, Tomáši, vznikla kvůli naší sdílené frustraci AI hypem. Kromě zvědavosti a zájmu o věci veřejné. Snažíme se to prostě pochopit a dozvědět se více.

Je dobré diskutovat, sdílet myšlenky, a nenechat se těmito nástroji jen ohromovat. 

Tomáš: Souhlasím. A budu moc rád, pokud v naší rozpravě budeme moci zase někdy pokračovat. Děkuju za tvůj čas a držím palce ve tvém vzdělávacím úsilí (i s kytarou, samozřejmě).

Přepsáno ze záznamu pomocí aplikace pro převod řeči na text. K úpravám, překladu, editaci ani korektuře původní ani finální verze nebylo použito nástrojů generativní AI. Všechna slova i chyby jsou moje. Děkuju Benovi za opravy a svolení.

Nexus – stručná historie informačních sítí od doby kamenné po AI: masivní bestseller o výzvách, před kterými stojíme

Nejčtenější historik současnosti zkoumá, jak informační toky utvářely svět: od doby kamenné přes kanonizaci Bible, hony na čarodějnice, stalinismus a nacismus až po aktuální vzestup populismu a AI.

Harari ukazuje, že lidstvo získalo obrovskou moc prostřednictvím budování rozsáhlých informačních sítí. Vysvětluje, jak je různé společnosti a politické systémy využívaly k dosažení svých cílů i upevnění pořádku. A proč je dnešní informační revoluce radikálně odlišná – a mnohem nebezpečnější – než všechny předešlé. Jaké volby staví před lidstvo existenciální riziko v podobě neúnavné, ale chybující AI?

„Důležitá kniha, přicházející ve významném okamžiku lidských dějin“
— časopis Science

Koupit knihu, e-knihu, audioknihu