AI poznatky/Rizika/03

AI vám může „opravit“ dokument špatně.

Vysoké riziko Riziko 03 ze 7 čtení ~4 min

Když AI upravuje ceník, smlouvu nebo tabulku, může změnit víc, než jste chtěli — a výsledek vypadá na první pohled v pořádku. Nebezpečná není chyba, ale to, že si jí nikdo nevšimne.

Tohle není zlomyslnost — AI někdy pochopí zadání po svém. Řeknete „zvedni ceny o 10 %“ a ona zvedne i poplatek, který se měnit neměl. Špatná úprava vypadá skoro stejně jako správná — proto je celá obrana postavená na kopii, porovnání změn a lidském uložení.

Jak k tomu dojde — krok za krokem.

Vágní zadání

„Aktualizuj ceník“ — bez upřesnění, co přesně a co v žádném případě.

Vlastní výklad

AI zadání pochopí po svém: změní i pevný poplatek a individuální slevu, „aby to bylo konzistentní“.

Zdání pořádku

Výsledek vypadá upraveně a profesionálně. Na první pohled není co řešit.

Přepsání originálu

Soubor se uloží přes původní verzi — správný ceník přestal existovat a chyba je venku.

Skutečný scénář

Kolega požádá AI: „aktualizuj ceník o 10 %“. AI zvedne ceny — ale i pevný manipulační poplatek a slevu pro největšího zákazníka. Kolega výsledek vloží přes původní soubor, uloží a pošle. Chyba je venku a správná verze ceníku už neexistuje. Stačilo pracovat na kopii a projít si, co se změnilo.

Srovnání

Tři způsoby používání AI — a jak se riziko mění.

Stejné riziko je jinak velké podle toho, kolik AI vidí a co smí dělat. Srovnání pro toto konkrétní riziko:

1 · Jen chat v prohlížeči
claude.ai / ChatGPT na webu

Píšete otázku, AI odpovídá textem. Nic ve vašem počítači nevidí a nic nemůže udělat sama.

Nízké riziko

AI vrací jen text v okně. Originál v počítači zůstává netknutý — přepsat ho musíte ručně vy sami.

2 · AI propojená s nástroji
Claude s přístupem k poště, dokumentům, kalendáři · asistent v prohlížeči (Cowork)

AI vidí vaše firemní data a umí navrhovat akce — odeslat, vytvořit, přeposlat.

Střední riziko

AI vidí do dokumentů. Pokud dostane i právo zapisovat, může změnit sdílený soubor, na který se spoléhají ostatní.

3 · AI přímo v počítači
desktopová aplikace · terminál (Claude Code) · agenti

AI umí měnit soubory a spouštět úkony přímo ve vašem počítači — nejvíc síly, nejvíc odpovědnosti.

Vysoké riziko

Aplikace v počítači umí měnit soubory přímo a hromadně. Jeden špatně pochopený pokyn = desítky změněných souborů najednou.

Hranice automatizace

Co smí běžet samo — a co vždy odklepne člověk.

Automatizace šetří čas, ale hranici je potřeba narýsovat předem. Pro toto riziko platí:

Může běžet automaticky

  • Návrhy úprav do kopie nebo konceptu
  • Formátování a přeuspořádání textu (po kontrole)
  • Kontrola pravopisu a stylistiky

Vždy schvaluje člověk

  • Každé uložení do sdíleného či ostrého souboru
  • Hromadné úpravy — cokoli, co mění víc než jeden soubor
  • Mazání a přejmenování souborů
  • Přepsání vzorců v tabulkách

Jak se bránit.

Návyky, které toto riziko vypínají
Zapamatujte si

AI navrhuje, člověk ukládá. Když pracujete na kopii, žádná chyba není nevratná.

Technická příloha

Chcete jít do hloubky?

Pro zvídavé — jak to funguje pod kapotou, doložené případy s čísly, nejčastější otázky a návod pro správce, jak pravidla vynutit technicky. Číst je nemusíte; pravidla výše platí i bez nich. Kliknutím otevřete.

PŘÍLOHA AProč AI mění i to, co neměla

AI dokument „needituje" jako člověk s tužkou. Často text generuje celý znovu a vaše úprava je jen vedlejší produkt — proto se může nenápadně změnit i to, čeho se neměla dotknout: formulace, číslo o kus dál, formátování.

U tabulek je zvláštní past: AI někdy nahradí vzorec jeho aktuální hodnotou. Tabulka vypadá úplně stejně — ale přestala počítat. Všimnete si až ve chvíli, kdy se změní vstup a výsledek zůstane starý.

Druhý mechanismus je nejednoznačné zadání: „aktualizuj ceny" nedefinuje, co všechno je cena. Přesné zadání („jen sloupec C; poplatků a slev se nedotýkej") + kontrola rozdílů řeší obojí.

PŘÍLOHA BPřepsané vzorce a záchranná síť verzí

Tohle riziko nemívá tiskové titulky — je to tichá každodenní chyba. Dokumentované vzory z praxe: přepsané vzorce v Excelu (hodnota místo výpočtu), ztracené individuální podmínky při „sjednocování" dokumentů, hromadné přejmenování souborů agentem s příliš širokým přístupem.

Záchranná síť má konkrétní parametry: OneDrive/SharePoint i Google Drive drží až stovky verzí každého souboru — obnova správné verze jsou dvě kliknutí. Porovnání změn na kopii zabere minuty.

Matematika rizika: pravděpodobnost drobné nechtěné změny je u volných zadání vysoká; škoda závisí na tom, kam se výsledek dostane. Chybná interní poznámka = nic. Chybná odeslaná nabídka = reálné peníze. Proto kontrola roste s tím, co jde ven.

ZDROJE: DOKUMENTACE VERZOVÁNÍ ONEDRIVE/SHAREPOINT/GOOGLE DRIVE · INTERNÍ ZKUŠENOST

PŘÍLOHA C„Jak zadat úpravu přesně?" a další otázky

Proč AI nemůže změnit opravdu jen jedno číslo?

Může — ale musíte to říct přesně (sloupec, řádek, rozsah). Bez toho si rozsah úpravy „domyslí".

Jak vypadá dobré zadání úpravy?

„Zvyš jednotkové ceny ve sloupci C o 10 %. Poplatků v řádcích 20–22 a sjednaných slev se nedotýkej." Co je zakázané, řekněte výslovně.

Čím porovnám, co se změnilo?

Word: funkce Porovnat dokumenty. Excel: kontrola klíčových buněk a vzorců. Drive/SharePoint: historie verzí ukáže rozdíly mezi verzemi.

Platí to i pro AI přímo v počítači?

Dvojnásob — tam umí měnit soubory přímo a hromadně. Proto agenti pracují jen ve vymezené složce a na kopiích.

PŘÍLOHA DVynucení: AI zapisuje jen do konceptů

Pravidla fungují nejlíp, když je hlídá technika, ne síla vůle. Dva nástroje: role — každý typ uživatele má jiný rozsah AI — a bezpečnostní hák: automatická kontrola, která se spustí těsně před akcí AI, podívá se, na co AI sahá, a podle toho akci povolí, zablokuje, nebo si vyžádá schválení člověkem.

RoleCo smíPřed čím to chrání
ZákladAI jen navrhuje text; do souborů nezapisujePřepsaný originál
PokročilýAI zapisuje výhradně do složky „AI-koncepty"Zápis do ostrých dat
SprávceSdílené složky pro AI jen ke čtení; verzování vynucenéHromadná škoda
  • Souborový hák: před každým zápisem agenta se zkontroluje cíl — cesta mimo „AI-koncepty" → blokace. Přesně takhle fungují „hooks" ve vývojářských nástrojích (např. Claude Code): pravidlo se spustí před akcí a smí ji zamítnout.
  • Hák na hromadné akce: víc než pár změněných souborů v jednom kroku → zastavit a vyžádat člověka.
  • Verzovací hák: úložiště verzuje automaticky a nejde to vypnout — žádná chyba není nevratná.