Zeptáte se AI na konkrétní studii a do vteřiny máte odpověď: autor, rok vydání, číslo přesné na desetinu procenta. Zní to učeně a sebejistě, tak to vezmete a postavíte na tom prezentaci pro klienta, článek, nabídku. A za týden zjistíte, že ta studie nikdy nevznikla.
Chvíli jsem to měl stejně. Velkou část práce stavím na tom, co se opravdu změřilo a publikovalo, a jediná vymyšlená citace umí shodit důvěryhodnost všeho kolem. Když se to provalí, nikoho nezajímá, že za tím byla AI. Stojí za tím vaše jméno. Párkrát jsem takový sebejistý přízrak málem pustil ven, a to mě přestalo bavit.
Problém není, že se AI plete. Problém je, že to na ní nepoznáte
Jazykový model netuší, kde končí ověřený fakt a začíná dobře znějící výmysl. A co je horší, řekne vám obojí naprosto stejným tónem: žádné zaváhání, žádná hvězdička s poznámkou „tímhle si nejsem jistý“. Prostě to napíše.
Halucinace
Halucinace je, když jazykový model plynule vytvoří informaci, která zní věrohodně, ale neodpovídá skutečnosti – vymyšlená studie, číslo, citace nebo odkaz. Není to porucha ani vzácná výjimka, je to normální vedlejší efekt toho, jak model tvoří text: skládá slova, která k sobě statisticky sedí, ne fakta, která si ověřil. Proto zní výmysl přesně tak sebejistě jako pravda.
A přesně tam to bolí nejvíc. Jeden vymyšlený zdroj v důležitém dokumentu, jeden klient, který si to číslo ověří dřív než vy, a je pryč něco, co jste budovali roky. Důvěra se nedá dohnat opravou v příštím e-mailu. Buď za vámi vaše čísla stojí, nebo ne.
Mezi „myslím, že to tak je“ a „vím, kdy a jak jsem si to ověřil“ je propast.
Řešení: filtr, přes který se nepravda neprotlačí
Cesta ven je jednodušší, než se zdá: nespoléhat na to, že model náhodou nelže, ale postavit mezi něj a výsledek filtr. Jádrem je znalostní databáze s víc než 500 vědeckými studiemi. Není to ale hromada odkazů. Každá poznámka v ní nese informaci, jak důkladně prošla ověřením – od letmé kontroly až po nejpřísnější úroveň, kterou jako jedinou pouštím do ostrého provozu.
Ta nejvyšší úroveň znamená, že poznámku porovnávám s primárními vědeckými databázemi, jako jsou PubMed, OpenAlex nebo Crossref. Nekontroluju, jestli studie vůbec existuje. Kontroluju, jestli říká přesně to, co si u ní poznamenávám. Systém proto projde každou hodnotu v poznámce, každé procento, každý počet účastníků a porovná ji s tím, co stojí ve zdroji. Když se něco rozchází, vyskočí to nahoru.
Co našel první ostrý běh
Když jsem systém poprvé pustil naostro na celou databázi, potvrdilo se přesně to, čeho jsem se bál. U jedné poznámky mířil odkaz na jinou studii, než jakou jsem měl v hlavě: seděl obor i rok, ale byla to prostě jiná práce. U jiné se mi během přepisu o kousek posunulo procento, ne o řád, o pár desetin, přesně tak, jak to při čtení přejdete. Nic dramatického. A přesně tyhle tiché nepřesnosti vám nikdo nevytkne, dokud si to po vás někdo neověří.
Opravili jsme to a hlavně jsem pak přesně věděl, kde hledat. A to je pro mě ten hlavní rozdíl. Běžně obsah vytvoříte a věříte, že ho máte správně. Tady mám důkaz: každou položku někdo přepočítal a porovnal s originálem a u každé vidím, kdy a jak.
Minutový sebetest
Vzpomeňte si na poslední měsíc: kolik čísel, dat nebo citací od AI jste pustili dál – do nabídky, prezentace, e-mailu klientovi – aniž byste je otevřeli u zdroje a porovnali? U mě to číslo bývalo vyšší, než bych si přiznal. A stačí jedno špatné.
Stejný filtr funguje i mimo vědu
Tohle není hračka pro jednu databázi studií. Je to princip, který nasadíte na jakákoli fakta, která od vás jdou ven. Ceník, ze kterého AI cituje ceny. Interní postup, podle kterého radí kolegům. Smluvní podmínky, které shrnuje zákazníkovi. Firemní čísla, ze kterých odpovídá váš chatbot. Všude platí stejné pravidlo, jaké AI naučíte jednou a drží napořád:
- Nesmí to sáhnout po ničem, co neprošlo schválenou úrovní důvěryhodnosti.
- Nižší patra databáze klidně existují, ale ven se z nich nedostane nic.
- Co jednou obstálo, obstojí pořád, a vy se k tomu nemusíte vracet.
Z takové znalostní báze pak čerpá všechno ostatní: články, které vznikají skoro samy, i podklady pro klienty. A protože ověření proběhlo dřív, než se k vám text vůbec dostal, nemusíte po AI kontrolovat každé písmenko s pocitem, že vás za rohem čeká trapas.
Komu se to nevyplatí
Kdo z AI netahá fakta, která jdou navenek – čísla, citace, ceny, tvrzení, na kterých někdo staví rozhodnutí – ten tenhle filtr nepotřebuje. Když AI používáte na nápady, první náčrty nebo brainstorming, kde si výstup stejně sami přeberete, je ověřovací vrstva kanón na vrabce. Zapíná se přesně ve chvíli, kdy si za výstup ručíte jménem.
Jak to funguje, krátce a lidsky
Samotné ověřování nedělám ručně, to by byl nesmysl. Práci rozdělím na dávky a předám ji výzkumným AI agentům. Tu mravenčí část, dohledávání ve vědeckých databázích a porovnávání číslo po čísle, odvedou za mě a já pak jen procházím výsledek. To, co si systém jednou poctivě zapíše, navíc nemusím vysvětlovat podruhé.
Přírůstkové ověřování
Přírůstkové ověřování znamená, že se pokaždé prověřuje jen to nové, co přibylo, a co už jednou prošlo nejpřísnější kontrolou, se znovu neřeší. Systém si pamatuje, u které položky a jak důkladně ověření proběhlo, takže se stejná práce nedělá dokola. Ověřit pět set studií jednou je rozumná práce – ověřovat je pořád znovu by byl nesmysl, časově i finančně.
Celý systém v kostce
- Každou položku uložím spolu s tím, jak přísně prošla ověřením.
- Nejvyšší úroveň porovná poznámku s primárními databázemi (PubMed, OpenAlex, Crossref), číslo po čísle.
- Co u zdroje neobstojí, vyskočí nahoru k opravě. Nižší patra existují, ale ven nepustí nic.
- Mravenčí porovnávání dělají v dávkách výzkumní AI agenti, já procházím výsledek.
- Přibývá jen nová věda. Co už jednou obstálo, se znovu neověřuje.
Naučit AI, aby nevymýšlela, nedokáže nikdo. Zato jde postavit mezi její výmysl a vaše jméno laťku, kterou sebejistý přízrak z úvodu nepřekročí. Dobrá AI totiž není ta, která nikdy nelže. Je to ta, přes kterou se lež nedostane ven.
