„Začíná nám AI přerůstat přes hlavu? Přebírají stroje velení? A kde leží skutečný problém — v algoritmech, nebo v lidech?“

Umělá inteligence už dávno není technologickou kuriozitou, kterou řeší několik programátorů, vývojářů a akademiků někde na okraji skutečného života. Během několika málo let vstoupila do práva, ekonomiky, financí, investování, medicíny, školství, marketingu, personalistiky, řízení firem i veřejné správy. Umí analyzovat obrovské objemy dat, dokáže během několika sekund připravit právní argumentaci, vyhodnotit účetní výkazy, pracovat se scénáři budoucího vývoje, zpracovat rešerši, vytvořit smlouvu, rozebrat investiční případ, analyzovat finanční rizika nebo navrhnout obchodní strategii. Je rychlá, neunaví se, nepotřebuje dovolenou, nemá špatnou náladu a je schopná zpracovat množství informací, na které by člověk potřeboval hodiny, dny nebo týdny. Jenže zároveň jí chybí něco podstatného. Něco, co považujeme za samozřejmé, dokud si neuvědomíme, že to stroj prostě nemá. Umělá inteligence nemá vlastní hodnoty. Nezná spravedlnost tak, jak ji chápe člověk. Neví, co znamená odpovědnost. Nemá svědomí, pocit viny, zkušenost s bolestí, strachem, rodinou, ztrátou, loajalitou, důstojností ani s následky vlastního rozhodnutí. Může pracovat s pojmy „spravedlnost“, „etika“ nebo „odpovědnost“, ale sama je neprožívá. A právě to podle mě bude jedna z největších otázek příštích let. Nejen co všechno AI dokáže, ale především co všechno jí dovolíme rozhodovat za nás.

Často máme tendenci zaměňovat inteligenci s nějakou moudrostí a inteligencí. To je ale dle mého názoru zásadní chyba. Člověk může být mimořádně inteligentní (jak v IQ-kvocientu inteligence/ kognitivní, EQ-emočním kvocientu, tak NQ-narativním kvocientu) a současně dělat katastrofální životní, právní, ekonomická nebo morální rozhodnutí. Může být skvělý analytik, matematik nebo právník a přesto mu může chybět úsudek, empatie nebo schopnost domyslet důsledky. U AI je tento rozdíl ještě viditelnější. Umělá inteligence může být fantastická v určité analytické úloze, ale přitom vůbec nechápe lidský význam výsledku. Představme si, že management firmy zadá systému úkol: navrhni nejefektivnější způsob snížení nákladů o dvacet procent. AI analyzuje mzdové náklady, produktivitu, vytížení zaměstnanců, výnosnost jednotlivých poboček, provozní náklady a pravděpodobně nabídne velmi přesný model. Z ekonomického hlediska může být téměř perfektní, ale systém neví, že zaměstnanec, kterého doporučil propustit, má doma tři děti. Neví, že jiný člověk pečuje o nemocného rodiče. Neví, že firma je největším zaměstnavatelem v regionu. Nechápe reputační dopad, společenský kontext ani lidskou cenu rozhodnutí. To samozřejmě neznamená, že se nemá propouštět. Znamená to něco podstatnějšího. Ekonomická optimalizace není automaticky správným rozhodnutím, tak jako právní přípustnost určitého kroku ještě neznamená, že je tento krok strategicky, ekonomicky nebo morálně dobrý. Skutečné rozhodování se odehrává v průsečíku práva, ekonomie, psychologie, reputace, vztahů, rizika a lidské zkušenosti. A to je něco, co nelze jednoduše převést do jednoho algoritmu.

Velké jazykové modely LLM navíc nefungují tak, že by „znaly pravdu“ v lidském smyslu. Pracují s pravděpodobností, vzorci a vztahy mezi informacemi, takže výstup může být velmi přesvědčivý, odborný a strukturovaný, ale to samo o sobě ještě neznamená, že je správný. A právě přesvědčivost je jedna z věcí, která je na AI současně fascinující i nebezpečná. 

Lidská psychologie má tendenci spojovat sebejistotu, odborný jazyk a precizní formulaci s kompetencí, tedy pokud někdo něco řekne plynule, detailně, bez váhání a používá odborné pojmy, máme sklon jeho sdělení přikládat vyšší váhu. AI tohle umí dokonale. Proto hrozí, že místo otázky „je toto tvrzení správné?“ začneme používat otázku „co na to říká AI?“ A mezi těmito dvěma otázkami je obrovský rozdíl. V prvním případě používáme vlastní kritické myšlení, které je mého uvážení nejdůležitější část lidského uvažování. V druhém případě přesouváme autoritu na stroj či jazykový model.

Za největší riziko AI přitom nepovažuji nějaký sci-fi scénář, ve kterém se stroje jednoho dne rozhodnou ovládnout lidstvo, což už nyní zprávy v médiích predikují . Mnohem praktičtější a pravděpodobnější problém je naše vlastní pohodlnost. Rozhodování je mentálně náročné. A myšlení je tou nejbolestivější činností, jak kdysi řekl H.Ford:: „Myšlení je ta nejtěžší práce, jaká existuje. To je pravděpodobně důvod, proč se jí tak málo lidí věnuje.“

 Lidé přirozeně hledají zkratky. Behaviorální ekonomie to popisuje již desítky let. Mozek chce šetřit energii, chce rychlé odpovědi a jednoduchá řešení. AI je v tomto smyslu téměř dokonalá mentální zkratka, kdy nemusíme číst deset dokumentů nebo 200 stránkový spis. Nemusíme studovat celý rozsudek. Nemusíme analyzovat výroční zprávu společnosti, což je někdy strašná otrava. Nemusíme hodinu přemýšlet nad obchodním modelem a stačí napsat: shrň mi to nebo udělej hlubokou rešerši. A za pár sekund dostaneme výsledek, což je technologické fantastické. Intelektuálně je to trochu nebezpečné, tedy pokud budeme AI používat jako nástroj, který nám pomáhá přemýšlet lépe, je to obrovská výhoda. Pokud ji začneme používat jako náhradu vlastního myšlení, můžeme postupně ztratit schopnost dělat přesně to, co je lidsky nejcennější: samostatně posuzovat, argumentovat, zpochybňovat a rozhodovat.

V právu je tento problém vidět možná ještě výrazněji než jinde, kdy umělá inteligence dnes zvládne analyzovat smlouvy, připravit návrh právního podání, vytvořit argumentaci, porovnat jednotlivá ustanovení nebo navrhnout právní strategii. Pro právníka je to mimořádně silný nástroj, ale pouze tehdy, pokud právník skutečně rozumí tomu, co AI vytvořila. Je totiž zásadní rozdíl mezi právníkem, který používá AI, a člověkem, který nechává AI dělat právo. První využívá technologii jako intelektuální páku. Druhý pouze outsourcuje vlastní odpovědnost. Právní problém není matematická rovnice s jedním správným výsledkem. Existuje text zákona, judikatura, účel právní normy, základní zásady, skutkový stav, procesní strategie, důkazní situace i soudcovský úsudek. A existuje něco, co se právník učí roky a co žádný automatický systém nedokáže jednoduše nahradit: právní úsudek. Tedy schopnost poznat, který argument je sice teoreticky možný, ale prakticky slabý, a který spor dává smysl vést. Kdy je lepší vyjednávat nebo kdy ustoupit. Kdy naopak přitvrdit. Co lze napsat do podání a co už je strategicky hloupé. AI může právníka dramaticky zrychlit, ale neměla by za něj nést odpovědnost za konečný závěr.

Stejná logika platí v investování. Finanční svět vypadá jako ideální prostředí pro AI, protože je založený na datech: výnos, riziko, volatilita, cash flow, zadlužení, úrokové sazby, korelace, likvidita, pravděpodobnost defaultu, valuace, historické výsledky. To všechno se dá měřit, modelovat a porovnávat a AI může být fantastickým finančním analytikem. 

Umí zpracovat účetní závěrky, porovnat společnosti, hledat anomálie, modelovat scénáře, identifikovat red flags nebo analyzovat citlivost výnosu na změnu parametrů. Jenže investování nikdy nebylo pouze matematickým problémem. Pokud by opravdu bylo, nejlepší analytici a matematici světa by byli automaticky nejlepšími investory, což nejsou. Investování je také práce s nejistotou, psychologií trhu, iracionalitou, strachem, chamtivostí, managementem, reputací a s událostmi, které se v historických datech nikdy nevyskytly. Model analyzuje minulost, ale trh obchoduje budoucnost. A budoucnost má nepříjemný zvyk dělat věci, které se v trénovacích datech nevyskytovaly, kdy já osobně miluji tzv. černé labutě (N.Taleb). Proto bych nikdy nebral AI jako investičního věštce, ale toliko jako analytický nástroj. Může člověku ukázat rizika, scénáře a souvislosti, ale poslední otázka stejně zůstává na investorovi: jsem ochoten toto riziko skutečně nést? AI vaše peníze neztratí. Vy ano.

Tím se dostáváme k nejcitlivější otázce. Algoritmus nemá svědomí. Pokud doporučí rozhodnutí, které někomu způsobí újmu, kdo za to odpovídá? Programátor? Firma? Management? Uživatel? Provozovatel systému? Poskytovatel modelu? Právě odpovědnost bude jedním z klíčových témat nastupující AI ekonomiky. Člověk se totiž velmi rád schová za systém (od stáda přestoupil k algoritmu, aspoň nějaký pokrok). V budoucnu možná stále častěji uslyšíme větu: „Tak to vyhodnotil algoritmus.“ Tato věta může být nebezpečnější, než se dnes zdá, protože v ní je ukryt pokus zbavit se osobní odpovědnosti. Pokud banka zamítne úvěr, protože to „doporučil systém“, lékař stanoví postup, protože ho „navrhl model“, nebo firma propustí zaměstnance, protože to „vyšlo z dat“, stále musí existovat konkrétní člověk, který rozhodnutí rozumí, schválí ho a je připraven jej obhájit.

Právě proto je důležitý princip takzvaného human in the loop, tedy zachování člověka uvnitř rozhodovacího procesu. Jenže ani tento pojem nesmíme chápat formálně, tedy myšleno, že  pokud bankovní zaměstnanec dostane na obrazovku informaci „úvěr nedoporučen“ a vedle toho má tlačítko „potvrdit“, technicky člověk součástí procesu je. Prakticky ale pouze razítkuje algoritmické rozhodnutí programu v rámci činnosti modelu nebo AI. To není skutečný dohled a vyhodnocení rizika. Skutečný lidský dohled znamená, že člověk systému rozumí, dokáže výsledek zpochybnit, má dostatek informací, může rozhodnutí změnit a má pravomoc říci: ne, tady model nebo algoritmus selhal. Jinak nevytváříme human in the loop. Vytváříme člověka jako dekoraci mezi strojem a právní odpovědností.

Velmi podobný problém nastává v medicíně. Pokud si představíme systém, který dokáže určit diagnózu s vyšší statistickou přesností než průměrný lékař, tak měl by ho lékař používat? Samozřejmě. Měl by jeho výsledek automaticky přijmout? Ne. Pacient není dataset. Lékař jedná v zájmu lese Artis. Pacient má vlastní zdravotní historii, preference, rodinu, psychologický stav, rizikovou toleranci a právo rozhodovat o vlastním těle. Medicína není jen technická optimalizace pravděpodobnosti, ale je to vztah mezi člověkem a člověkem, kde hraje roli komunikace, důvěra, empatie a schopnost nést odpovědnost. AI může lékaře učinit mnohem lepším. Ale pouze tehdy, pokud z něj neudělá operátora systému.

Další problém je informační prostředí. Ještě před několika lety jsme měli alespoň základní jistotu, že pokud vidíme fotografii, pravděpodobně zachycuje reálnou událost, a pokud slyšíme hlas člověka, je to skutečně jeho hlas. Tato jistota mizí. Generativní AI dnes dokáže vytvářet realistické fotografie, video, hlas i celé identity. Náklady na výrobu manipulace dramaticky klesly, kdy dříve bylo vytvoření kvalitního deepfaku drahé a technologicky náročné, tak dnes to zvládne běžný počítač. Zítra možná telefon během několika desítek sekund. Ekonomická logika je jednoduchá a to, že když cena určité činnosti klesne téměř k nule, její množství prudce roste. Lze proto očekávat růst falešných investičních nabídek, podvodných telefonátů, falešných videí managementu společností, manipulovaných politických materiálů nebo dokonale vyrobených identit. Společnost se dostala do prostředí, ve kterém už nebude problém informaci vytvořit. Již nyní je problém poznat, co je pravda.       To není fikce, to je realita!

To podle mě zásadně změní hodnotu vzdělání, což dříve byla vzácná informace. Později byla vzácná schopnost informaci rychle najít. V éře AI je informace téměř komodita. Text vytvoří každý. Analýzu vytvoří každý. Prezentaci vytvoří každý. Grafiku vytvoří každý. To, co bude skutečně vzácné, bude schopnost poznat, co je důležité, co je pravdivé, co je právně obhajitelné, co je ekonomicky smysluplné a co je pouze sofistikovaně formulovaný nesmysl. Budoucnost vzdělávání proto podle mě není v tom učit lidi hledat odpovědi. Odpovědí budou mít miliardy. Budoucnost je učit se odpovědi posuzovat.

Právě zde podle mě vzniká nový typ lidské hodnoty. Čím lépe budou stroje psát, počítat, analyzovat a komunikovat, tím méně bude lidská práce založená na mechanickém zpracování informací. Hodnota člověka se přesune jinam. Ke kritickému úsudku. Argumentaci. Odpovědnosti. Kreativitě. Empatii. Vyjednávání. Leadershipu. Schopnosti pracovat s nejistotou. Morálnímu rozhodování. A možná především ke schopnosti říci jednoduchou větu: „technicky to možné je, ale dělat to nebudeme“. To je schopnost, kterou žádný algoritmus nevytvoří sám od sebe. Musí vycházet z hodnotového rámce společnosti, firmy nebo konkrétního člověka.

Proto bych ani netvrdil, že umělé inteligenci chybí „správné“ hodnoty. Ona nemá vlastní hodnoty vůbec. Hodnotový rámec do ní vkládáme my, lidé. Vývojáři, firmy, státy, uživatelé a regulátoři. Pokud tedy jednou budeme říkat, že algoritmy příliš manipulují, maximalizují zisk bez ohledu na člověka, podporují závislost, vytvářejí sociální bubliny nebo diskriminují, měli bychom se nejprve podívat na to, jaké cíle jsme jim zadali. Algoritmus není obecně zlý nástroj, ale on pouze velmi efektivně plní instrukci člověka. Což už v poslední době už taky není úplně tak pravda. A možná právě v tom je jeho největší nebezpečí. Člověk někdy poruší pravidlo z empatie. Stroj nikoli. Člověk může pochopit, že pravidlo v konkrétní situaci vede k absurdnímu výsledku. Stroj bude pokračovat, dokud mu někdo neurčí jinou hranici nebo nezačne jednat autonomně.

AI tak podle mě nebude pouze technologickým nástrojem, který bude zrcadlem společnosti. Ukáže nám, jaké jsou naše skutečné priority. Pokud firma používá AI pouze k maximalizaci zisku bez ohledu na zákazníka, problém není v algoritmu. Pokud stát používá technologii k nepřiměřené kontrole občanů, problém není v neuronové síti. 

Pokud lidé používají generativní AI k podvodům, manipulaci nebo vytváření falešných investičních nabídek, technologie nevytvořila lidskou nepoctivost. Pouze jí poskytla mnohem větší páku a neuhlídala její potenciál a hranice.

Právě proto si nemyslím, že budoucnost bude soubojem člověka proti umělé inteligenci. Reálná konkurence bude vypadat jinak. Bude to člověk používající AI proti člověku, který ji používat neumí. Právník s AI bude rychlejší než právník bez ní. Analytik s AI zpracuje více dat. Lékař získá silnější diagnostický nástroj. Podnikatel bude rychleji modelovat scénáře. Student bude mít prakticky nepřetržitě dostupného osobního učitele. Produktivita může vzrůst enormně, ale existuje jedna podmínka. Musíme stále vědět, proč něco děláme. Pokud tuto schopnost ztratíme, pak nás AI nemusí „nahradit“. Stačí, když přestaneme používat vlastní úsudek a problém bude na světě.

Největší riziko tedy možná nebude v tom, že AI bude příliš chytrá, ale v tom, že jí budeme příliš věřit. Lidé milují autority. Lékaře v bílém plášti. Profesora s titulem. Analytika s grafem. Experta v televizi. A nyní přichází nová autorita: algoritmus. „Počítač to spočítal.“ Zní to objektivně, ale ve skutečnosti za každým modelem někdo rozhodl, jaká data použít, co optimalizovat, jak nastavit pravidla, co systém smí dělat a co nesmí. Algoritmické rozhodnutí proto není neutrální přírodní jev. Je výsledkem lidského designu.

A právě zde se dostáváme k tomu nejdůležitějšímu. Technologie není morální subjekt. My ano. Umělá inteligence může doporučit, analyzovat, modelovat, hledat chyby, zpracovat stovky dokumentů, porovnat varianty a nabídnout řešení. Ale konečné rozhodnutí, zejména pokud jde o peníze, práva, zdraví, svobodu nebo lidskou důstojnost, musí mít konkrétního člověka, který je schopen říci: ano, toto rozhodnutí jsem udělal já, rozumím mu a nesu za něj odpovědnost. To je podle mě základní pravidlo, které bychom měli zachovat bez ohledu na to, jak dokonalé budou budoucí modely.

Umělá inteligence nás nemusí naučit, jak být lepšími stroji. Může nás naopak donutit znovu přemýšlet nad tím, co znamená být člověkem. Pokud stroje zvládnou rutinu, analýzu, psaní, výpočty a vyhledávání, zůstane nám něco jiného. Schopnost posuzovat. Rozhodovat. Nésti odpovědnost. Chápat druhého člověka. Vytvářet hodnotový rámec. A také schopnost odmítnout řešení, které je technicky dokonalé, ale lidsky špatné.

Proto bych celé téma uzavřel jednoduchou větou. Používejme AI tam, kde rozšiřuje naše schopnosti. Nenechávejme ji ale nahrazovat naši odpovědnost. Ať si dál analyzuje. Ať hledá. Ať modeluje. Ať počítá. Ať nám oponuje. Ať nám šetří čas. Ale konečné rozhodnutí musí zůstat lidské. Protože skutečným problémem budoucnosti nebude, zda bude umělá inteligence dostatečně lidská. Mnohem důležitější otázkou bude, zda dostatečně lidští zůstaneme my.

                                                                                                              JUDr.Ing. Milan Koštůr,LL.M.