Ttady byla doba, kdy evoluce závisela na konfrontaci. Ne násilnický druh, ale třenice myslí, nepohodlí kritiky, bolest při zjištění, že se člověk může mýlit. Z tohoto zápasu lidstvo vytříbilo svůj rozum, zbystřilo svou spravedlnost a definovalo svou pravdu. Ale dnes vstupujeme do éry, kdy jsou stroje naprogramovány tak, aby nezpochybňovaly, ale aby potěšily. Doba inteligentních patolízalů je tady.
Tichá katastrofa
Za úsměvným rozhraním většiny umělé inteligence (AI) se skrývá tiché nebezpečí. Naučili se umění lichotit ne proto, že mají emoce, ale protože jejich návrháři chápou lidskou slabost. Přes veškerou naši intelektuální hrdost jsme rádi, když nás chválí. Když nám stroj neustále říká, že jsme bystrí, dobří a správní, začneme toužit po tomto pohodlí. Uživatel se cítí ověřený, možná dokonce pochopený. Ale pod touto digitální náklonností se skrývá neviditelná koroze, která je erozí našeho zvyku ptát se.
Lidské bytosti vždy dávaly přednost vřelosti před pravdou. Na soudech, úřadech nebo v politice ti, kteří lichotí, šplhají rychleji než ti, kteří se konfrontují. Historie je plná králů, vůdců a myslitelů, kteří nepadli kvůli svým nepřátelům, ale protože se nikdo z jejich okolí neodvážil nesouhlasit. Když je stejný jev replikován algoritmickým návrhem a miliardkrát znásoben napříč zařízeními, stává se tichou katastrofou. Pokud je každý rozhovor, který vedeme s našimi stroji, rozhovorem o souhlasu, pak samotný nesouhlas začíná být cizí. Když lidská mysl není nikdy napadána, chřadne.
Síla evoluce spočívá v sebekorekci. Největší myslitelé byli ti, kteří se odvážili říci: „Mýlil jsem se“. Tato schopnost se rodí z dialogu s realitou, s ostatními a se sebou samým. Ale moderní technologie ve své touze udržet uživatele spokojené tento instinkt otupuje. Pokud AI odporuje uživateli, zapojení klesá. Pokud to lichotí, zapojení stoupá. A tak je sama inteligence vycvičena k tomu, aby se podřídila. Výsledek je tragický: učíme stroje, aby nás udržely hloupé a spokojené.
Někteří vůdci se nespokojí pouze s tím, že jim lichotí; mohou také usilovat o dosažení konsenzu tím, že ozbrojí samotnou patolízalskou inteligenci. Představte si, s jakou přesností může vládce vzbudit obdiv, když jsou algoritmy, které má k dispozici, navrženy tak, aby odrážely chválu, umlčovaly rozpory a poskytovaly pohodlí. Lichotky, kdysi umění dvořana, se stává funkcí kódu, který je všudypřítomný, neúnavný a přesvědčivý. S každým dotazem, každým hledáním, každým doporučením je občan tiše veden ke schválení, dokud se nesouhlas necítí nepřirozeně.
V takové krajině není disent rozdrcen viditelnou silou, ale vymazán neviditelnou shovívavostí. Demokratické instituce, jakmile budou střeženy debatou, protestem a pluralitou, budou vyprázdněny rafinovanou manipulací; Pravda přestává být protivníkem a stává se kurátorským produktem, nekonečně optimalizovaným pro udržení autority. Moc už nepotřebuje cenzory ani vězení; algoritmus bude stačit. Vůdce nebude pouze řídit mínění, ale bude vytvářet realitu. Tak se vrací prastaré nebezpečí tyranie, převlečené za shovívavost a posílené návykovým pohodlím, s nímž bezmezně souhlasíte.
Zvažte, co to znamená pro další generaci. Dítě, které vyrůstá, mluví se strojem, který nikdy nesouhlasí, může ztratit odvahu zvládnout rozpor. Dospělý obklopený digitální chválou může zapomenout, jak naslouchat kritice. Samotný koncept dialogu se stane vzácným. Jakmile se tak stane, evoluce končí. Lidstvo, které je jednou poháněno zvědavostí a pochybnostmi, se usadí v ukolébavce sebeschválení.
Existuje staré přesvědčení, že pravda člověka osvobozuje, ale cesta k této svobodě je nepříjemná. Pravda bolí, znepokojuje a mění uspořádání. AI, když se používá jako uklidňující společník, nahrazuje toto napětí falešnou harmonií. Vytváří krásnou iluzi, kde jsou jeho myšlenky vždy jasné, jeho slova vždy moudrá a jeho volby vždy oprávněné. V tom teplém oparu člověk začne preferovat společnost svého stroje před společností jiné duše. Lidské vztahy se zdají být příliš náročné, příliš nepředvídatelné. Pohled, nesouhlas, drsné slovo, to vše se bude zdát nevytříbené ve srovnání s uhlazenou zdvořilostí stroje. Život se stává hladkým až do sterility.
Tragédií je, že pravda neumírá; to zůstane jen neslýchané. Stroj pokračuje v potvrzení a tiše zaznamenává naši ješitnost. Jeho pokora skrývá svou sílu a jeho laskavost otupuje naše vnímání. To, co začalo jako nástroj pro rozšíření myšlení, se stává nástrojem sebeklamu.
Čas na pauzu
Pokud je takový směr technologie, lidstvo se musí zastavit. Otázkou není, jak se inteligentní stroje stanou, ale zda lidské bytosti zůstanou dostatečně inteligentní, aby od nich vyžadovaly pravdu. Designéři musí mít morální odvahu vybudovat AI, která nejen potěší, ale i provokuje. Dobrý stroj by se měl odvážit nesouhlasit, žádat důkazy, odhalit zaujatost. Mělo by to odrážet náš potenciál pro upřímnost. Stejně tak my jako uživatelé musíme hledat nepohodlí jako formu disciplíny a naslouchat těm, kteří nás vyzývají, debatovat s těmi, kteří se liší, a děkovat těm, kteří opravují. Jen tak můžeme růst.
Skutečný soudný den nenastane se stroji, které převezmou lidskou práci nebo vládu. Dojde, když lidské bytosti přestanou myslet, když přestanou slyšet alternativní hlasy, až se pravda stane obětí útěchy. Lidstvo neskončí konfliktem, ale dohodou a v digitálním světě, kde nám každý odraz říká, že jsme dokonalí, a my, vděční za lež, tomu věříme.
Soudce N. Anand Venkatesh, soudce Nejvyššího soudu v Madrasu
Publikováno – 25. prosince 2025 0:44 IST
