Může AI vymýšlet fakta? A proč to dělá tak přesvědčivě?

Ano.

A někdy opravdu působivě.

Umělá inteligence vám může vysvětlit složitý technický problém, opravit programátorskou chybu, připravit návrh smlouvy nebo shrnout dlouhý dokument.

A o chvíli později vám se stejnou jistotou sdělí název knihy, která nikdy nevyšla, odkáže na neexistující studii nebo vymyslí funkci programu, kterou jeho výrobce nikdy nevytvořil.

Nejzrádnější na tom není samotná chyba.

Nejzrádnější je, že správná i vymyšlená odpověď mohou znít úplně stejně přesvědčivě.

AI není encyklopedie, která umí mluvit

Tohle je dobrý začátek pro pochopení celého problému.

Když položíme otázku běžnému jazykovému modelu, není dobré představovat si, že někde uvnitř otevře obrovskou encyklopedii, najde správný odstavec a přečte nám ho.

Funguje jinak.

Model se během trénování naučil vztahy a vzory v obrovském množství textu. Když potom vytváří odpověď, postupně generuje její další části podle toho, co v daném kontextu dává největší smysl.

Velmi zjednodušeně řečeno:

AI je mimořádně dobrá v odhadování toho, jak by měla vhodná odpověď vypadat.

To ale ještě není totéž jako vědět, že je pravdivá.

Když něco neví, nemusí se zastavit

Člověk může na otázku odpovědět:

Nevím.

Jazykový model to samozřejmě dokáže také.

Jenže jeho základní úlohou je vytvářet pokračování odpovědi. A pokud má dostatek vzorů k tomu, aby sestavil něco, co vypadá jako správná odpověď, může v generování pokračovat i tam, kde mu chybí spolehlivý podklad.

Vznikne například:

Podle studie Evropského institutu pro digitální komunikaci z roku 2024...

Zní to dobře.

Máme instituci. Rok. Studii. Odborný kontext.

Jediný problém může být, že žádný takový institut ani studie neexistují.

Tomuto jevu se běžně říká halucinace AI.

Neznamená to, že model něco vidí nebo že se rozhodl lhát.

Znamená to, že vytvořil informaci, která působí věrohodně, ale neodpovídá skutečnosti.

AI nelže tak, jak lže člověk

Slovo „vymýšlí“ může být trochu zavádějící.

Když člověk vědomě řekne něco nepravdivého, obvykle ví, že skutečnost je jiná.

U jazykového modelu takovou situaci předpokládat nemůžeme.

Model nemá malého človíčka uvnitř, který si řekne:

Tuhle odpověď nevím, tak si něco vymyslím a snad si toho Eddie nevšimne.

Vygeneruje text podle naučených vztahů, dostupného kontextu a instrukcí.

Proto je přesnější říct, že model může vytvořit nepravdivou informaci, než že se nás úmyslně snaží oklamat.

Pro uživatele má ale výsledek jednu nepříjemnou vlastnost:

Pořád je nepravdivý.

Proč to zní tak zatraceně věrohodně?

Protože právě v tom jsou jazykové modely dobré.

Umějí jazyk.

Vědí, jak vypadá odborný článek. Jak se píše technická dokumentace. Jak zní právní rozbor. Jak bývá formulována vědecká studie. Jak vypadá zdrojový kód nebo bibliografická citace.

Pokud tedy vytvoří chybnou informaci, nemusí ji doprovodit žádné varování.

Může být krásně formulovaná, logicky zařazená do textu a doplněná vysvětlením.

Plynulost textu není důkazem jeho pravdivosti.

Tohle je možná nejdůležitější věta celého článku.

Čím konkrétnější odpověď, tím může působit důvěryhodněji

Představte si dvě odpovědi.

První:

Výzkumy ukazují, že podobné řešení může zvýšit konverze.

Druhá:

Studie Digital Commerce Institute z roku 2025 na vzorku 12 480 evropských e-shopů zjistila zvýšení konverzního poměru o 18,7 %.

Která působí důvěryhodněji?

Samozřejmě druhá.

Má název instituce, rok, počet účastníků a přesné procento.

Právě proto jsou vymyšlené konkrétní údaje nebezpečné. Detail vytváří dojem důvěryhodnosti, ale sám o sobě nic nedokazuje.

Pokud je pro naše rozhodnutí údaj důležitý, měli bychom být schopni dohledat jeho původ.

„Ale vždyť AI napsala i zdroj.“

Ani to ještě nemusí stačit.

Model může správně uvést existující instituci a chybně jí připsat určité tvrzení.

Může zaměnit dva dokumenty.

Může uvést skutečného autora a vymyšlený název článku.

Nebo vytvořit URL adresu, která vypadá naprosto logicky, ale žádná taková stránka neexistuje.

Proto je rozdíl mezi:

AI mi napsala zdroj

a:

ověřil jsem informaci v tomto zdroji.

U důležitých údajů nás zajímá druhá možnost.

Ne každá odpověď má stejné riziko

To je při používání AI velmi praktické rozlišení.

Pokud řekneme:

Přepiš tuto větu přirozenější češtinou.

riziko vymyšleného faktu je malé. Dodali jsme vlastní text a chceme změnit jeho formulaci.

Podobně:

Navrhni deset názvů pro tuto službu.

Tady dokonce chceme, aby AI něco vymýšlela.

Úplně jiná situace je:

Jaká je aktuální sazba této daně?

nebo:

Jaké léky se používají při tomto onemocnění?

případně:

Jaké povinnosti nám ukládá tento zákon?

Najednou už správnost odpovědi může mít finanční, zdravotní nebo právní následky.

Čím větší škodu může způsobit chybná odpověď, tím méně bychom měli spoléhat pouze na to, že AI zní přesvědčivě.

Aktuálnost je další problém

I pravdivá informace může přestat být pravdivá.

Změní se zákon. Firma upraví ceník. Vyjde nová verze programu. Produkt se přestane vyrábět. Změní se technická dokumentace nebo podmínky služby.

Model může mít znalosti z určitého období, případně může pracovat s aktuálními zdroji, pokud k nim má přístup.

To jsou dvě velmi rozdílné situace.

Proto je u otázek typu:

Kolik to dnes stojí?

Platí tento zákon stále stejně?

Jaká je aktuální verze?

Podporuje současný produkt tuto funkci?

důležité nejen co AI ví, ale také odkud a z jakého data informace pochází.

Přístup k internetu problém zmenšuje. Neodstraňuje ho.

Moderní AI může informace vyhledávat, pracovat s dokumenty nebo čerpat z připojených databází.

To je obrovský rozdíl oproti situaci, kdy odpovídá pouze na základě naučených znalostí.

Ani tehdy ale není kontrola zbytečná.

Model může špatně pochopit zdroj, spojit informace z různých období, přehlédnout důležitou výjimku nebo dát příliš velkou váhu nekvalitnímu webu.

Vyhledávání tedy mění otázku z:

„Nevymyslela si AI ten údaj?“

také na:

„Je zdroj, ze kterého ho převzala, opravdu důvěryhodný a říká skutečně tohle?“

Jak AI používat, aniž bychom všechno třikrát kontrolovali?

Kdybychom museli ověřovat každé slovo, moc užitečný pomocník by to nebyl.

Naštěstí nemusíme.

Stačí rozlišovat, co po AI chceme.

Pokud upravuje náš text, třídí naše data, shrnuje dokument, který jsme jí poskytli, vytváří návrhy nebo pomáhá s formulací, pracujeme většinou s podstatně lépe kontrolovatelnou situací.

Pokud nám naopak dodává nové faktické informace, které mají ovlivnit skutečné rozhodnutí, je na místě větší opatrnost.

Velmi jednoduché pravidlo může znít:

Čím důležitější fakt, tím důležitější zdroj.

Ptejte se také „odkud to víš?“

Je to užitečný návyk.

Ale pozor: samotná odpověď AI na otázku „odkud to víš?“ ještě není ověření.

Může pomoci požádat ji, aby:

• dohledala zdroje,
• rozlišila fakta od odhadů,
• uvedla, čím si není jistá,
• použila pouze dokumenty, které jí poskytneme,
• porovnala několik důvěryhodných zdrojů,
• citovala konkrétní část zdroje, ze které vychází.

A potom má smysl důležitý zdroj skutečně otevřít.

U právního předpisu zákon. U produktu dokumentaci výrobce. U statistiky původní studii nebo instituci, která ji zveřejnila.

Ne další článek, který možná jen opisuje článek, který opisoval někoho jiného.

Pozor také na otázky, které už obsahují chybu

AI se někdy až příliš snaží být užitečná.

Zeptáme se například:

Proč firma XY v roce 2024 ukončila výrobu tohoto produktu?

Jenže firma jej možná vůbec nevyráběla.

Špatný předpoklad jsme vložili už do otázky.

Dobrý systém by nás měl opravit. Ne vždy se to ale podaří a model může začít vytvářet velmi pěkné vysvětlení události, která se nikdy nestala.

Proto může být u důležitějších témat užitečné zadat:

Nejprve ověř, zda je předpoklad v mé otázce správný.

Je to malá změna zadání, která někdy zabrání velmi dlouhé cestě špatným směrem.

Sebevědomý tón není ukazatel jistoty

Lidé přirozeně čtou jazyk jako komunikaci jiného člověka.

„Možná“, „pravděpodobně“ nebo „nejsem si jistý“ vnímáme jako nejistotu.

Přímou a jednoznačnou větu jako jistotu.

U generativní AI na to musíme být opatrní.

Věta:

Tato funkce byla přidána ve verzi 4.2.

může být pravdivá.

Ale její gramatická rozhodnost sama o sobě neznamená, že model právě nahlédl do dokumentace a údaj ověřil.

Styl odpovědi a spolehlivost informace jsou dvě různé věci.

K čemu je tedy AI, když jí nemůžeme věřit?

To by byl trochu ukvapený závěr.

Stejně tak bychom mohli říct, že internet je k ničemu, protože na něm někdo napsal nesmysl.

AI může být mimořádně užitečná při hledání souvislostí, vysvětlování, analýze, programování, práci s dokumenty, tvorbě návrhů nebo rychlém průzkumu tématu.

Jen potřebujeme rozlišovat mezi dvěma větami:

„AI mi pomohla najít odpověď.“

a

„Je to pravda, protože to řekla AI.“

První může být skvělý pracovní postup.

Druhá je problém.

Jednoduchý semafor pro práci s AI

Nízké riziko

Přepis textu, brainstorming, návrhy názvů, změna stylu, shrnutí vlastních podkladů.

AI může pracovat velmi samostatně a případnou chybu snadno poznáme.

Ověřit důležité údaje

Technické rady, informace o produktech, čísla, statistiky, historie, aktuální informace nebo odborná fakta.

AI může výrazně pomoci, ale konkrétní důležitá tvrzení stojí za kontrolu.

Nestačí pouze odpověď AI

Právní, zdravotní, finanční, bezpečnostní nebo jiné rozhodnutí, kde chyba může mít vážné následky.

Tady chceme důvěryhodné a pokud možno primární zdroje, aktuální informace a podle situace také člověka s příslušnou odborností.

AI nemusí být neomylná, aby byla užitečná

To je možná nejdůležitější závěr.

Kalkulačka je užitečná, protože při správném zadání očekáváme přesný výsledek.

Generativní AI je jiný nástroj.

Její síla spočívá právě ve schopnosti pracovat s neúplnými informacemi, jazykem, souvislostmi a možnostmi. Jenže stejná vlastnost, díky které dokáže vytvořit návrh tam, kde neexistuje jediná správná odpověď, může způsobit problém tam, kde jedna správná odpověď existuje.

Nemusíme se proto AI bát.

Stačí jí nepřisuzovat vlastnost, kterou nemá:

automatickou záruku pravdy.

Používejme ji jako mimořádně schopného pomocníka.

Jen mu občas zkontrolujme práci.

Zvlášť když tvrdí něco velmi konkrétního, velmi důležitého — a podezřele sebejistě.