Nemůžu si odpustit pár poznámek ke způsobu, jímž některé osobnosti dělají tzv. osvětu v oblasti generativní AI. Je mi líto všech jednotlivců, firem i institucí, kteří jim na to nekriticky skočí. Zlobím se i na práci novinářů a influencerů, kteří to pak přebírají a vyvolávají atmosféru strachu – ať už z vlastní naivity, neznalosti, pohodlnosti či chamtivosti. Co se mi na komunikaci kolem AI ve veřejném prostoru nelíbí:

  • Nasazení generativní a agentické AI téměř do všech oblastí lidské činnosti co nejrychleji a za každou cenu není nevyhnutelnou cestou člověka do budoucnosti, jak nám tvrdí. Tvoření pocitu „nevyhnutelnosti” (inevitability) je záměrná manipulace neeticky se chovajících firem snažících se zachránit svůj zatím zcela nefunkční byznysmodel. Navíc se jim reálné výsledky pořád zhoršují kvůli všeobecně známé nespolehlivosti LLM. O tom, jací jsme jako lidé, jaká bude naše budoucnost, dokážeme rozhodovat sami. V demokracii se můžeme zapojit nejen do voleb, ale i do veřejné diskuse.
  • Rozdělování společnosti nálepkováním a povyšováním je kontraproduktivní. Dělení na „nás” a „ty druhé” je velmi špatná a hloupá cesta. Na nás, kteří „se adaptujeme a přežijeme” (= rutinně používáme software nafouknutých firem namísto mozku) vs. „na ty druhé, zabedněné 'škarohlídy', co si to nechtějí přiznat” (= lidé v používání zdrženlivější či k němu dokonce kritičtí, které AI prostě neohromilo, např. raději čtou knihy a namáhají šedé závity mozkové). Je-li důvodem takového povyšování naivita a nevzdělanost nositelů, budiž, ale je-li za vším agenda, je podle mě neetická, protože jen polarizuje společnost, rozsévá strach a nepřináší nic dobrého.
  • Antropomorfizace (polidšťování) slovníku kolem AI (v komunikaci těchto lidí i firem, i v médiích) je dalším ze způsobů, jak se nám vnucuje pocit přátelskosti, věrohodnosti. To pak prohlubuje emocionální či kognitivní závislost. Ne, že by to bylo něco nového, nicméně nyní se podařilo efekt dotáhnout do dokonalosti. Už pojem „strojové učení” je poněkud problematický, protože stroje se neučí, jen zpracovávají data. Autoři této skvělé studie (jen v AJ) rozebírají několik kategorií antropomorfizace. Neskákejme na slova jako „reasoning”, „chatbot se se mnou hádá”, „můj Claude vymyslel” či dokonce „naslouchá” či „cítí”. Neříkejme to, a už vůbec ne dětem. Nelžeme jim. Nic z toho se tam neděje. Uvnitř se počítá, statisticky modeluje a generuje.
  • A konečně: práci lidem nesebere AI, ale zaslepení lidé, kteří budou AI věřit víc než člověku (volně parafrázuji Michala Pěchoučka z rozhovoru níže).
Neříkám, že se svět, v němž žijeme, se nemění – ujišťuju vás, že je to raketa! A přesto vám nic neuteče.

Věřím, že podkladové technologie, které tady souhrnně označujeme jako AI, mohou sloužit rozvoji humanity. (Od dětství miluju algoritmy ve službě lidstva.) Ale to neznamená, že se kvůli této lásce odevzdám napospas evangelistům AI pokroku, přepnu mozek na volnoběh a přestanu se kriticky zabývat ekonomickými, bezpečnostními, etickými, enviromentálními, kulturními, kognitivními a mezilidskými riziky těchto změn. Že se přestanu ptát, proč?, a co je uvnitř?

Nyní krátký úryvek z fascinujícího a velmi lucidního rozhovoru s Michalem Pěchoučkem, rektorem ČVUT (pro jistotu zdůrazním, že to „T” je od slova „technické”, troufnu si napsat „pro-Technologické”).

  • Kam byste AI nikdy nepustil?
    • Já už nemám malé děti, ale to je přesně oblast, kam bych ji nepustil. Neposadil bych je před tablet, ať se zabaví povídáním si s chatbotem, aby nezlobily. To mi přijde jako obrovské riziko.
  • Hloupneme kvůli AI? 
    • Podle mě to tak je.
  • Co s tím máme dělat?
    • Číst knihy. Schopnost dočíst knihu, která má víc než sto stránek, je velmi důležitá výbava. Udržet pozornost, to by děti měly cvičit, měly by číst, psát rukou. Měly by umět argumentovat, psát eseje bez AI. Že méně čteme, je právě symptom hloupnutí. Takže knihy, dlouhé podcasty, long-ready v novinách. I vyhledávání kvalitní žurnalistiky považuji za hodně důležité.

Celý rozhovor tady: https://forbes.cz/o-praci-neprijdete-kvuli-ai-ale-lidem-aneb-deset-myslenek-o-ai-michala-pechoucka/

Co myslíte?

Tipy na další mé články na toto téma

Věděli jste, že AI nemusíte používat?
Už delší dobu sbírám podklady na článek o „dobrém a špatném” užití generativní AI. Když jsem ale před pár dny narazil na úderný článek profesorky Joanny Bryson, rozhodl jsem se jej převzít. Od autorky jsem dostal svolení k překladu a publikování. Níže předkládám výsledek. Přeji poučné čtení.
Lifehacky.czTomáš Baránek
PROMPT_
AI or die? Jak ne/používám nástroje umělé inteligence.
Lifehacky.czTomáš Baránek
🩳
Tento post je tzv. „kraťas“ – nejde o plný článek, ale o malou poznámku, nápad, myšlenku, postřeh, recenzi, na niž by se velký článek nehodil. Kraťas často vznikne jako rozšířená verze suprkraťasu, tedy postu na instagramu Lifehacky.cz. Všechny kraťasy najdete pod odpovídajícím štítkem (nebo přes menu nahoře).