Halucinace, tedy vymyšlený údaj podaný jako fakt, patří k tomu, jak jazykové modely umělé inteligence (AI) tvoří text, a další verze modelu ji úplně neodstraní. Model nevyhledává fakta v databázi. Předpovídá další token (kousek textu) podle pravděpodobností, které se naučil z trénovacích dat.
Když model napíše „§ 1837 odst. 1 písm. l) občanského zákoníku“, nepodíval se do zákona. Vytvořil řetězec, který vypadá jako odkaz na zákon, protože podobných odkazů viděl v tréninku tisíce. Písmeno l) v § 1837 přitom existuje, jenže § 1837 se na odstavce vůbec nečlení, takže „odst. 1“ je vymyšlený. Půlka citace sedí, půlka ne, a celek vypadá bezvadně. Přesně tuto citaci obsahoval i první koncept tohoto článku. U popisu fotosyntézy chybu většinou poznáte. U čísla paragrafu ne.
Proč zrovna české právo
Málo českých právních textů v tréninku. Jazykové modely se učí převážně z angličtiny. Českých právních textů viděly řádově méně, takže mají pro české právo slabší statistický základ. O § 230 amerického zákona Communications Decency Act vzniklo v angličtině ohromné množství odborné literatury. O § 1752 občanského zákoníku (změna obchodních podmínek) nevzniklo v češtině nic srovnatelného.
Novely pod stejnými čísly. Občanský zákoník prošel od roku 2014 řadou novel. Zákon č. 374/2022 Sb. s účinností od 6. 1. 2023 zásadně přepsal pododdíl o prodeji zboží spotřebiteli: část paragrafů dostala nové znění pod stejným číslem, dva byly zrušeny a přibyly vložené paragrafy (řada dnes končí u § 2174b). Model viděl v tréninku obě znění a nemá jak poznat, které platí.
Podobná čísla paragrafů. Paragraf 1829 upravuje odstoupení spotřebitele od smlouvy. Paragraf 1839 ukládá podnikateli, aby v případě pochybností prokázal, že spotřebiteli sdělil povinné údaje. Stačí jedna chybná číslice a citace míří na skutečné, ale úplně jiné ustanovení. Právník rozdíl pozná, model, který text skládá podle pravděpodobnosti, ho snadno přehlédne. Čtenář si chyby nejspíš nevšimne, protože odkaz na existující paragraf nevypadá podezřele.
Dispozitivní a kogentní normy. Občanský zákoník stojí na smluvní svobodě (§ 1 odst. 2). Od většiny ustanovení se smlouvou odchýlit lze, od některých ne. Model, který tento rozdíl nezvládne, klidně navrhne ujednání v rozporu s kogentní normou. Rozlišit je lze z velké části podle znaků v textu zákona („nepřihlíží se“, „zakazuje se“ proti „není-li ujednáno jinak“). Jak to modelu předat, rozebírám v článku s modulem pro práci s normou.
Jak halucinace v právním textu vypadají
| Typ | Popis | Příklad |
|---|---|---|
| Smyšlená struktura | Citace míchá existující a vymyšlené části | „§ 1837 odst. 1 písm. l)“: písmeno existuje, odstavce ne |
| Cizí právní řád | Pojem z jiného právního systému | Angloamerické „liquidated damages“ (paušalizovaná náhrada škody) naroubované na smluvní pokutu podle § 2048 |
| Špatný předpis | Pravidlo existuje, ale jinde | Třicetidenní lhůta na vyřízení reklamace je v § 19 odst. 3 zákona o ochraně spotřebitele, model ji hledá v občanském zákoníku |
| Zastaralé znění | Správné číslo, obsah před novelou | Prodej zboží spotřebiteli ve znění před zákonem č. 374/2022 Sb. |
| Sebevědomý omyl | Zní odborně, věcně je špatně | „Spotřebitel může od smlouvy uzavřené přes internet odstoupit do 30 dnů.“ Zákonná lhůta je čtrnáct dnů (§ 1829 odst. 1). |
Stačí modelu dát text zákona?
Je to nejsilnější jednotlivé opatření. Když má model znění ustanovení přímo v kontextu, čte, místo aby hádal. Smyšlené citace a zastaralá znění tím z velké části mizí.
Všechno to ale nevyřeší. Model může text správně přečíst a přesto ho špatně vyložit. Tam, kde kogentnost dovodila až judikatura, samotný text nestačí. A kolik textu model najednou pojme, je omezené. Občanský zákoník má přes tři tisíce paragrafů, takže vybírat se musí.
Proto tři vrstvy:
- Data. Vložte relevantní ustanovení do kontextu. Model čte, nehádá.
- Zadání. Řekněte modelu, co s textem dělat. Jak rozpoznat kogentní normy a kdy přiznat nejistotu.
- Ověření. Výstup zkontrolujte proti zdroji, nejlépe podle kontrolního seznamu, který nestojí na paměti modelu ani na paměti toho, kdo kontroluje.
Jak halucinacím předcházet v zadání
Zužte prostor. Místo „napiš obchodní podmínky“ zadejte „napiš článek o odstoupení spotřebitele podle § 1829 až 1837 občanského zákoníku, zahrň čtrnáctidenní lhůtu, výjimky a náklady na vrácení zboží“. Model pak nemusí hádat, která ustanovení jsou relevantní.
Vyžádejte si přiznání nejistoty. „Necituj obsah paragrafů, u kterých si nejsi jistý přesným zněním. Odkaz na číslo paragrafu stačí.“
Přidejte kontrolní vrstvu. „U každého citovaného paragrafu uveď, zda máš jeho znění v kontextu: ANO/NE.“ Odpověď NE znamená, že citaci musíte ověřit.
Pokyn k ověření citací a k přiznání nejistoty vkládá do každého zadání Legal Prompt Builder. Znění ustanovení do něj můžete vložit v poli pro vlastní právní zdroje.
Kde se halucinace v českém právu vracejí
Údaje níže jsem ověřil proti znění účinnému k 21. 10. 2026.
- Prodej zboží spotřebiteli (§ 2158 a násl. občanského zákoníku): pododdíl, který přepsal zákon č. 374/2022 Sb. Model často míchá staré a nové znění.
- Výjimky z odstoupení (§ 1837): výčet je uzavřený, písmena a) až l), žádné odstavce. Model rád přidává výjimky vlastní nebo strukturu, která v paragrafu není.
- Lhůta pro vyřízení reklamace: reklamace včetně odstranění vady musí být vyřízena nejpozději do 30 dnů ode dne uplatnění, pokud se prodávající se spotřebitelem nedohodne na delší lhůtě. U digitálního obsahu a služeb digitálního obsahu platí místo toho přiměřená doba. Pravidlo stojí v § 19 odst. 3 zákona o ochraně spotřebitele, ne v občanském zákoníku.
- Dohoda o místní příslušnosti soudu (§ 89a občanského soudního řádu): připouští ji jen ve věcech týkajících se vztahů mezi podnikateli vyplývajících z podnikatelské činnosti, a ani tam ne, kde zákon stanoví příslušnost výlučnou. Model ji ochotně navrhne i do spotřebitelských podmínek, kam nepatří.
- Směrnice a jejich provedení: směrnice EU zavazuje stát. Ve sporu dvou soukromých osob se uplatní český zákon, který ji provádí, a vykládá se v souladu s ní. Nařízení EU platí přímo. Model rád cituje směrnici tam, kde patří český zákon.
Co z toho plyne
Halucinace u českého práva mají tři hlavní příčiny: málo českých textů v tréninku, novely pod stejnými čísly a právní řád, ve kterém o platnosti ujednání rozhoduje povaha normy. Nejvíc pomůže dát modelu přímo text zákona. Kogentní a dispozitivní normy se dají z velké části rozlišit, když modelu předáte rozpoznávací pravidla. Ani to ale není spolehlivé úplně, proto patří ke každému výstupu ověření proti zdroji.
Jak častý problém to je, změřila studie Large Legal Fictions. Obecné modely v ní odpovídaly chybně v 58 % (ChatGPT 4) až 88 % (Llama 2) konkrétních ověřitelných dotazů na náhodně vybraná rozhodnutí amerických federálních soudů. Na české právo se studie nezaměřila.
Zdroje
- Zejména § 1 odst. 2, § 1752, § 1829, § 1837, § 1839, § 2048 a § 2158 a násl. zákona č. 89/2012 Sb., občanský zákoník, Zákony pro lidi.
- Zákon č. 374/2022 Sb., kterým se mění zákon o ochraně spotřebitele a občanský zákoník, Zákony pro lidi.
- Zákon č. 634/1992 Sb., o ochraně spotřebitele, § 19 odst. 3, Zákony pro lidi.
- Občanský soudní řád, zákon č. 99/1963 Sb., § 89a, Zákony pro lidi.
- Dahl, Magesh, Suzgun, Ho: Large Legal Fictions: Profiling Legal Hallucinations in Large Language Models, Journal of Legal Analysis 16 (2024), arXiv:2401.01301.