Halucinace AI: proč si umělá inteligence vymýšlí a jak to poznat

Co je halucinace AI a proč si umělá inteligence vymýšlí fakta?

Halucinace AI vzniká, protože jazykový model negeneruje odpověď z databáze faktů, ale slovo po slově odhaduje, co je statisticky nejpravděpodobnější pokračování věty. Když model podklad zná, odhad se kryje s realitou. Když podklad chybí - třeba se ptáte na místní vyhlášku, otevírací dobu penzionu nebo přesné číslo faktury - model si mezeru vyplní tím, co zní podobně věrohodně jako pravda. Výsledek je sebejistá věta bez varovného „nevím“.

Proč si AI vymýšlí právě takhle věrohodně? Protože je trénovaná na obrovském množství textu, kde se podobné otázky obvykle pojí s podobnými odpověďmi. Model tedy nelže úmyslně - nemá koncept lži ani pravdy, jen dokončuje vzor. To je zásadní rozdíl oproti člověku, který si je vědom, že něco neví. Model tuto nejistotu často nedává najevo, pokud ho k tomu výslovně nenutíte.

Nejčastější typy chyb umělé inteligence v praxi

V praxi se halucinace neprojevují jako zjevná nesmyslnost - to by jim nikdo neuvěřil. Projevují se jako drobná, těžko odhalitelná nepřesnost uprostřed jinak správné odpovědi. Nejčastěji se s nimi setkáte v těchto podobách:

• Smyšlený zdroj nebo odkaz - AI uvede název zákona, vyhlášky nebo studie, která ve skutečnosti neexistuje nebo se jmenuje jinak.
• Špatné číslo nebo datum - AI uvede poplatek, otevírací dobu nebo termín podání sebejistě, ale neodpovídá skutečnosti.
• Domyšlený detail navíc - k pravdivé odpovědi model přidá jednu smyšlenou větu, protože mu odpověď připadá neúplná.
• Míchání starého a nového - AI zkombinuje loňskou informaci s letošní a vznikne hybrid, který neplatil nikdy.
• Falešná jistota u neznámé otázky - místo „to nevím“ model raději nabídne odpověď, i když pro ni nemá žádný podklad.

Modelový příklad: kde se halucinace v odpovědi nejčastěji objeví

Jak často se který typ chyby objeví? Reálná čísla se liší podle modelu, jazyka i tématu, takže jedna univerzální statistika neexistuje. Následující graf je proto modelový příklad ze sta namátkově zkontrolovaných odpovědí obecného AI chatu na dotazy o firmě nebo obci - ne výsledek vědeckého výzkumu.

Napříč typy chyb platí jedno: čím konkrétnější je otázka - přesné číslo, datum, paragraf - tím vyšší riziko, že si AI něco domyslí. Obecné otázky typu „jak funguje kompostování“ zvládá běžná AI spolehlivě. Otázka „kolik stojí popelnice na bioodpad v naší obci od dubna 2026“ je přesně ten typ dotazu, kde bez konkrétního podkladu hrozí chyba.

Jak ověřit odpověď AI: checklist na sedm kroků

Než odpověď AI použijete - napíšete do e-mailu, vyvěsíte na web nebo se podle ní rozhodnete - projděte těchto sedm bodů. Zabere to minutu, ušetří to nedorozumění.

1. Zeptejte se na zdroj. Požádejte AI, ať uvede, odkud informaci má - konkrétní dokument, stránku nebo datum. Vágní odpověď typu „obecně se ví, že...“ je varovný signál.
2. Ověřte čísla a data zvlášť. Poplatky, termíny, paragrafy a kontakty si vždy dohledejte v originálním zdroji, i když zbytek odpovědi vypadá spolehlivě.
3. Položte stejnou otázku podruhé, jinak formulovanou. Pokud se odpovědi liší, AI si spíš domýšlí, než že fakt skutečně zná.
4. Hledejte přílišnou hladkost. Odpověď bez jediné nejistoty na složitou nebo lokální otázku bývá podezřelá - realita bývá o něco komplikovanější.
5. U citlivých témat, jako je právo, zdraví nebo finance, berte AI jako první nástřel, ne finální odpověď, a potvrďte ji u člověka.
6. Zkontrolujte datum platnosti informace. AI někdy neví, že se předpis nebo ceník od té doby změnil.
7. Dejte přednost AI, která odpověď doloží odkazem na konkrétní dokument nebo stránku - takovou chybu odhalíte jedním kliknutím.

Halucinuje AI i v placených verzích, nebo jen ve zdarma?

Ano, halucinuje. Placená verze ChatGPT, Gemini nebo Copilotu má obvykle silnější model, delší paměť a přístup k aktuálnímu vyhledávání, díky čemuž se chybovost sníží - ale nezmizí. Přesnost modelu totiž řeší jinou příčinu chyby, než je chybějící podklad. I nejlepší jazykový model si domyslí odpověď na otázku, na kterou prostě nemá data - bez ohledu na to, jestli za něj platíte měsíční předplatné.

Rozdíl mezi placenou a bezplatnou verzí je hlavně v tom, jak často model přizná nejistotu a jak dobře umí ověřovat fakta za běhu. Pro obecné dotazy to pomáhá znatelně. Pro dotazy specifické pro vaši firmu nebo obec - otevírací dobu, ceník, místní vyhlášku - nepomůže vůbec, protože tuto informaci žádná veřejná AI nikdy neměla k dispozici.

Řešení: AI omezená na vlastní podklady s citací zdroje

Nejspolehlivější způsob, jak halucinace omezit, není hledat „chytřejší“ model, ale zúžit mu prostor pro dohady. Když AI smí čerpat jen z konkrétních dokumentů a stránek, které jí sami dáte, a ne z celého internetu, nemá odkud brát smyšlené odpovědi. Otázka mimo tyto podklady by měla skončit přiznáním „to nevím“ a předáním kontaktu, ne výmyslem.

Přesně takhle je navržené Dotazio: odpovídá výhradně z dokumentů a webu vaší organizace, česky, a ke každé odpovědi připojí citaci konkrétního zdroje. Když odpověď v podkladech nenajde, řekne to a předá kontakt na vás, místo aby si vymyslela cokoliv, co zní věrohodně. Nasazení je otázka vložení jednoho řádku kódu na web a vyzkoušení běží zdarma bez platební karty.

Kdo nese odpovědnost za chybnou odpověď AI na webu?

Za obsah, který návštěvníkům zobrazuje váš web, odpovídáte vy jako provozovatel - i když text sestavila AI. Pokud chatbot na vašem webu řekne zákazníkovi nesprávnou cenu nebo občanovi špatný termín, dopad nese vaše firma nebo obec, ne dodavatel technologie. Proto má smysl vybírat nástroj, který halucinace aktivně omezuje, ne jen slibuje, že „umí česky“.

Prakticky to znamená tři věci: chatbot má čerpat jen z podkladů, které jste sami schválili, u každé odpovědi má být vidět zdroj, a u citlivých nebo neobvyklých dotazů má umět přiznat nejistotu a předat kontakt na člověka. Tohle nastavení nezaručí nulové riziko, ale výrazně ho sníží - a hlavně chybu uvidíte a opravíte dřív, než napáchá škodu.