Slepá důvěra má tři různé podoby, které si lidé pletou. „Nečtu, co jde ven“ (odkliknu, zkopíruju, odešlu). „Nikdo se nedívá“ (agent běží v noci a jeho práci nikdo nikdy neotevře). A „už to neumím posoudit“ (dělám to s AI tak dlouho, že bych chybu sám nepoznal). Každá potřebuje jiný lék — proto nestačí jediná rada „čtěte to“.
Zrádné je, že AI zní stejně sebejistě, když ví, i když si vymýšlí — a ještě vám ráda přitaká. Úhledná tabulka nebo hladký dopis vypadají jako hotová práce, i když v nich chybí odečet nebo je v nich vymyšlená lhůta. Čím víc to den za dnem sedí, tím míň to čteme — a tím větší chyba nakonec projde.
Dobrá zpráva: obrana nestojí na kázni jednotlivce (ta pod náporem vždycky povolí), ale na procesu — čtyři oči u toho, co jde ven, potvrzení jen u důležitého, aby mělo váhu, a log, který vzniká mimo agenta, takže nemůže lhát o vlastní práci.
Jak k tomu dojde — krok za krokem.
Úleva
AI odpoví za vteřinu, sebejistě a bez chyb v češtině. Výstup vypadá hotově, ušetří půl hodiny. Zažijeme úlevu — a začneme věřit.
Rutina
Den za dnem to sedí. Přestaneme číst celé, odklikáváme „povolit“ reflexivně, u otravných oken zapneme „už se příště neptej“. Kontrola se z návyku vytratí.
Slepé místo
Projde chyba — vymyšlená lhůta, špatný odečet, přehlédnutá havárie — nebo podvod z jiného rizika, protože poslední brzda (lidské oko) je vypnutá. Na stupni 4 se nedívá vůbec nikdo.
Následek
Chyba odejde ven: hromadné vyúčtování, závazná nabídka, rozhodnutí o nájemci. Škoda padá na firmu — protože „to přece schválil člověk“, i když ho jen odklikl.
Ne jenom malé firmy. V říjnu 2025 odevzdala poradenská firma Deloitte australské vládě zprávu za ~440 000 AUD, ve které AI vymyslela citace a odkazy na neexistující zdroje. Neselhal jeden člověk — selhala revize celé firmy: každý předpokládal, že kontroloval někdo jiný. Deloitte musel část honoráře vrátit. O půl roku dřív nechal software Cursor (4/2025) podpůrného AI bota odpovídat zákazníkům bez lidské revize; bot si vymyslel neexistující pravidlo a naštvaní zákazníci rušili předplatné. A že to není americká rarita: Ústavní soud ČR v 12/2025 pokutoval advokáta 25 000 Kč za podání s 12 vymyšlenými rozsudky, které nikdo nezkontroloval.