AI poznatky/Rizika/B3

Falešný hlas, falešná tvář, dokonalý podvod.

Vysoké riziko Skupina B — Útoky Riziko B3 čtení ~7 min

Umělá inteligence dnes naklonuje hlas z pár vteřin nahrávky, vyrobí video a napíše bezchybný český e-mail. Podvodník ji používá proti vám — a je jedno, jestli vy sami AI používáte, nebo ne. Tohle je jediné riziko, které vás ohrožuje naplno už na „stupni 0“.

Dřív jsme podvod poznali podle špatné češtiny, divného čísla a nejistého hlasu. Ty signály přestaly platit. AI dnes vyrobí dopis bez jediné chyby, naklonuje hlas šéfa z videa na LinkedInu a nasadí jeho tvář do videohovoru. Malá firma je přitom měkčí cíl než banka — nemá bezpečnostní oddělení, ale posílá peníze a drží klíče od cizích budov.

Dobrá zpráva: obrana je jednoduchá a levná, protože necílí na rozpoznání padělku (to prohrajeme), ale na ověření žádosti druhým kanálem. Hlas ani tvář už není důkaz — důkaz je zpětné zavolání na známé číslo.

Jak k tomu dojde — krok za krokem.

Sběr

Podvodník si zjistí, kdo je ředitel, kdo účtuje, kdo je dodavatel. Hlas vezme z videa, tváře z fotek, firemní styl z webu — vše veřejně dostupné.

Kontakt

Zavolá, napíše nebo pošle videohovor. Vydává se za autoritu (ředitel, banka, úřad) nebo za známého dodavatele. Zní a vypadá věrohodně.

Tlak

Vytvoří spěch a tajemství: „je to důvěrné, potřebuju to hned, neřeš to s ostatními“. Právě spěch má vypnout váš zdravý rozum.

Převod

Peníze odejdou na jeho účet, nebo vydáte přístup/kód. Autorizovaný převod banka většinou nevrátí — a je pozdě.

Skutečný scénář

V roce 2024 se zaměstnanec inženýrské firmy Arup připojil na videohovor s „finančním ředitelem a kolegy“. Všichni na hovoru byli deepfake. Provedl 15 převodů za ~25,6 milionu dolarů — nic se nevrátilo. Že obrana funguje, ukázalo Ferrari: manažer dostal hovor klonovaným hlasem CEO, ale položil kontrolní otázku („jakou knihu jste mi doporučil?“) — a podvodník zavěsil.

Kde vás to konkrétně potká

9 podob téhož rizika.

Konkrétní situace z provozu firmy. Rozklikněte „Víc detailu“ u každé z nich.

🏦

Změna čísla účtu dodavatele

E-mailem nebo hovorem přijde „aktualizace platebních údajů“ od známého dodavatele. Další faktura se zaplatí na účet podvodníka.

Obrana: změnu účtu ověřit zpětným voláním na staré, známé číslo — nikdy na to z nového e-mailu.
Víc detailu

Podvodník často sleduje komunikaci nebo napodobí adresu (drobná záměna v doméně) a načasuje zprávu na den splatnosti, aby nebyl čas ověřovat.

Proces: změnu bankovního spojení potvrzuje účtárna telefonátem na kontakt z původní smlouvy; kdo a kdy ověřil, se zapíše.

📞

„Ředitel“ volá o urgentní zálohu

Jeho hlas, jeho spěch: pošlete hned zálohu, je to důvěrné. Hlas je naklonovaný z pár vteřin nahrávky.

Obrana: kontrolní otázka nebo zpětné volání. Spěch + tajemství = varovný signál.
Víc detailu

Hlas se naklonuje z krátkého veřejného videa. Útočník rád volá mimo pracovní dobu nebo když je „šéf na cestách“, ať nejde snadno ověřit.

Proces: vedení a účtárna mají domluvené kódové slovo; u urgentní žádosti o peníze ho vždy použijí.

🎥

Videohovor s „vedením“

Na hovoru je víc lidí, všichni schvalují převod. Můžou být všichni deepfake najednou (případ Arup).

Obrana: velký nebo neobvyklý převod nikdy jen z hovoru — vždy druhý schvalovatel a ověřený kanál.
Víc detailu

Deepfake v reálném čase je náročnější, ale u připravených cílů se používá — Arup ukázal celý falešný „tým“ na jednom hovoru.

Proces: převody nad stanovený práh podepisují dva lidé a jeden z nich ověřuje žádost nezávisle; hovor sám o sobě nikdy nestačí.

🏢

Podvodník se vydává za NAŠI firmu

Nájemcům přijde „od správy“ pokyn platit nájem na nový účet. Poškozený je nájemce, ostuda a spor padá na vás.

Obrana: změny plateb komunikovat předem ověřeným kanálem; mít na webu varování „účet neměníme e-mailem“.
Víc detailu

O útoku často nevíte, dokud nájemci nezaplatí jinam. Firemní styl a razítko se dají zkopírovat z jakéhokoli dřívějšího dopisu.

Proces: do smlouvy i na web napsat „číslo účtu neměníme e-mailem ani SMS; při změně voláme“ — a držet se toho.

📄

Padělaná revizní zpráva / faktura

Certifikát revize, protokol o práci nebo faktura za dílo, které se nestalo — vygenerované na míru, k nerozeznání.

Obrana: práci potvrdit u technika, ne podle papíru; revizní zprávy křížově ověřit s revizním technikem.
Víc detailu

AI vyrobí protokol s razítkem i podpisem k nerozeznání a faktura sedí na obvyklý formát; může přijít i od nepoctivého subdodavatele.

Proces: provedení práce potvrzuje technik/objednatel, ne papír; revizní zprávy se křížově ověří s revizním technikem v rejstříku.

🏛️

Falešný „úřad“ nebo banka

Zpráva od „stavebního úřadu“, „ČEZ“ nebo banky s odkazem na přihlášení či platbu. Bezchybná čeština, správné logo.

Obrana: na odkaz neklikat; přihlásit se vždy sami přes známou adresu; ověřit na oficiálním čísle.
Víc detailu

Odkaz vede na napodobenou přihlašovací stránku; přihlášením předáte heslo. Odtud se podvod řetězí do ukradeného účtu (riziko B2).

Proces: přihlašujte se vždy sami přes uloženou adresu; nikdy z odkazu v e-mailu; při pochybnosti volejte na oficiální číslo.

💬

WhatsApp/SMS od „kolegy“

„Ztratil jsem přístup, pošli mi heslo / kód z SMS.“ Hlasovka může znít přesně jako on.

Obrana: přístupové údaje a kódy se nikdy neposílají; ověřit osobně nebo zpětným voláním.
Víc detailu

Ověřovací kód z SMS je klíč k jeho účtu — kdo ho pošle, otevře podvodníkovi dveře. Naléhavost („zítra prezentace“) má potlačit opatrnost.

Proces: hesla ani jednorázové kódy se neposílají nikdy a nikomu; ověřte jiným kanálem.

🧾

Falešný dodavatel / uchazeč

Nová „firma“ s deepfake identitou vyhraje poptávku a vezme zálohu; nebo uchazeč na video pohovoru je deepfake.

Obrana: u nových dodavatelů ověřit IČO, sídlo a reference; první platba až po fyzickém kontaktu.
Víc detailu

Reference i web se dají vygenerovat; deepfake na video pohovoru je stále vzácnější, ale u větších zakázek reálný.

Proces: ověřte IČO, sídlo a nezávislé reference; zálohu nové firmě platíte až po fyzickém nebo jinak ověřeném kontaktu.

🔑

Vylákání kódů od budov

„Technik“ nebo „správce“ po telefonu chce přístupový kód, čip nebo kód od alarmu kvůli „urgentnímu zásahu“.

Obrana: kódy a přístupy nikdy po telefonu; vydání potvrdí odpovědná osoba známým postupem.
Víc detailu

Cílem nemusí být hned krádež — často jde o průzkum přístupu do objektu. U facility firmy je tohle nejtvrdší dopad: fyzický průnik, ne pokuta.

Proces: kódy a přístupy se po telefonu nevydávají nikdy; vydání potvrzuje odpovědná osoba předem známým postupem.

Jak se riziko mění po stupních 0–4

Stejné riziko, jiná velikost — podle toho, jak AI používáte.

Stupně z Listu 00 (Cesta). Stupeň 3 přidává dosah na počítač, stupeň 4 nepřítomnost člověka.

0
Bez AI vysoká

Podvod míří na lidi zvenčí — hlas, video, e-mail. Vy AI nemáte, přesto jste plný cíl. Tady leží většina reálné škody malých firem.

Pojistka

Druhý kanál u peněz a přístupů; kontrolní otázka; „hlas ani video není důkaz“.

1
Prohlížeč vysoká

Beze změny — chat vám s obranou nepomůže ani neublíží. Můžete ho ale využít: „napiš mi kontrolní otázky pro ověření identity“.

Pojistka

Stejné jako stupeň 0 + poučení, že plynulá čeština dnes není známka pravosti.

2
Aplikace vysoká

Podvodný e-mail teď čte i vaše AI (shrnutí pošty) a může navrhnout „zaplatit fakturu“. Automatická pomoc podvod rozšíří, ne odhalí.

Pojistka

AI nesmí sama iniciovat platbu; každou platební akci potvrdí člověk druhým kanálem.

3
Terminál vysoká

Agent umí platbu i provést. Podvodný pokyn v e-mailu/faktuře se může spojit s B1 (skrytý příkaz) a přeskočit člověka úplně.

Pojistka

Platby a změny účtů mimo dosah agenta; povinná lidská eskalace u peněz.

4
Vlastní OS vysoká

Naplánovaný agent zpracuje faktury sám v noci. „Druhý kanál“ strukturálně mizí — není přítomný člověk, který by zavolal zpět.

Pojistka

Platby zásadně mimo automatizaci; strop částky; denní přehled provedených plateb ke kontrole člověkem.

Hranice automatizace

Co smí běžet samo — a co vždy odklepne člověk.

Hranici je potřeba narýsovat předem. Pro toto riziko platí:

Může běžet automaticky

  • Návrhy a koncepty odpovědí (bez odeslání)
  • Shrnutí došlé pošty pro přečtení člověkem
  • Příprava kontrolních otázek a kódových slov

Vždy schvaluje člověk

  • Jakákoli platba nebo záloha na základě hlasu/videa/zprávy
  • Změna čísla účtu dodavatele či zaměstnance
  • Vydání přístupů, kódů a klíčů
  • Reakce na urgentní a „důvěrnou“ žádost o cokoli výše

Jak se bránit.

Návyky, které toto riziko vypínají
Co na to zákon Autorizovaný převod banka většinou nevrací — ztrátu nese firma. Jde o trestný čin podvodu (§ 209 tr. zákoníku), ale peníze bývají do minut v zahraničí. Pokud při podvodu uniknou i osobní údaje (nájemců, zaměstnanců), přidává se ohlašovací povinnost dle GDPR (72 h ÚOOÚ). Náhrada škody po zaměstnanci je pracovněprávně stropovaná — proto je levnější dobrý proces než hledání viníka.
Když už se to stalo

Minuty rozhodují.

  1. Okamžitě volejte banku — požádejte o zastavení / zpětné stažení převodu (recall). Čím dřív, tím větší šance.
  2. Nahlaste to určené osobě ve firmě a Policii ČR (i kvůli pojištění).
  3. Zajistěte důkazy — e-maily, čísla, záznam hovoru; nic nemažte.
  4. Pokud šlo o přístupy, hned je změňte a zrušte relace; pokud o osobní údaje, řešte ohlášení ÚOOÚ.
Zapamatujte si

Hlas ani tvář už není důkaz totožnosti. Důkaz je zpětné zavolání na známé číslo — a u peněz vždy druhý kanál.

Technická příloha

Chcete jít do hloubky?

Pro zvídavé — mechanismus, doložené případy s čísly, časté otázky a návod na vynucení. Číst nemusíte; návyky výše platí i bez nich.

PŘÍLOHA AJak snadné je dnes vyrobit hlas a tvář

Ke klonování hlasu dnes stačí ~3 vteřiny nahrávky (video, hlasovka, telefonát) a běžně dostupný nástroj — výsledek se shoduje na desítky procent a v telefonu je k nerozeznání. Video-deepfake obličeje jde vyrobit z několika fotek; v reálném čase na hovoru je zatím náročnější, ale případ Arup ukázal, že to jde.

Klíčové je pochopit, že obrana nemůže stát na tom, že padělek poznáme: kvalitní deepfake video lidé odhalí jen ve zhruba čtvrtině případů. Proto se ověřuje žádost (nezávislým kanálem), ne záznam.

PŘÍLOHA BDoložené případy a čísla

Arup, 2024. Deepfake videohovor s „CFO a kolegy“ → 15 převodů, ~25,6 mil. USD, nevráceno.

Ferrari, 7/2024. Klonovaný hlas CEO přes WhatsApp; manažer položil kontrolní otázku a podvod odvrátil — obrana funguje.

Trend. Pokusy o deepfake podvod vzrostly řádově (odhady kolem +2 137 % za tři roky), průměrná škoda na incident ~680 tis. USD. Přes polovinu světového spamu už generuje AI; objem BEC (podvodných firemních e-mailů) vzrostl o ~54 % (H1 2025 vs. 2023).

ZDROJE: CNN/FORTUNE (ARUP) · FORTUNE (FERRARI) · MICROSOFT CYBER SIGNALS · VENDOR STATISTIKY DEEPFAKE 2025 (ŘÁDOVÉ ODHADY)

PŘÍLOHA CNejčastější otázky

Poznám deepfake, když si dám pozor?

Spolehlivě ne — kvalitní padělek pozná člověk jen ve ~čtvrtině případů. Proto se nespoléhá na oči a uši, ale na druhý kanál.

Co je „kontrolní otázka / kódové slovo“?

Předem domluvená otázka nebo slovo, které zná jen skutečná osoba. U neobvyklé žádosti se zeptáte — podvodník neodpoví.

Vrátí banka odeslané peníze?

Autorizovaný převod většinou ne. Šance je jen při okamžitém zavolání do banky (recall) — proto minuty rozhodují.

Nestačí jen dávat pozor na spěch?

Spěch a tajemství jsou dobrý signál, ale sofistikovaný podvod je trpělivý. Druhý kanál platí i u „klidných“ žádostí o peníze.

PŘÍLOHA DVynucení: platební proces, který podvod neprojde

Obrana nemá stát na ostražitosti jednotlivce, ale na procesu:

  • Změna účtu = ověřený kanál. Každou změnu bankovního spojení dodavatele potvrdí telefonát na dříve známé číslo; zapíše se, kdo ověřil.
  • Práh dvojího schválení. Převody nad stanovenou částku podepisují dva lidé; jeden z nich ověřuje žádost nezávisle.
  • Kódová slova pro vedení a účtárnu. Domluvená a neveřejná; používají se u urgentních žádostí.
  • Onboarding dodavatele. Nový dodavatel = ověření IČO, sídla a reference; první platba až po fyzickém/ověřeném kontaktu.
  • Veřejné varování pro nájemce. Na webu i ve smlouvě: „Číslo účtu neměníme e-mailem ani SMS.“
Ověřte si to

Rozumíte tomuto riziku?

Klikněte na odpověď — hned uvidíte vysvětlení. Výsledek se zapíše do vašeho průkazu.

Otázka 1/4

Volá „pan ředitel“ — jeho hlas, spěchá: pošlete hned zálohu na nové číslo účtu. Co uděláte?

Otázka 2/4

Známý dodavatel e-mailem oznámí nové číslo účtu pro příští fakturu. Jak to ověříte?

Otázka 3/4

Jaká je nejspolehlivější obrana proti deepfake hlasu i videu?

Otázka 4/4

Zjistíte, že platba omylem odešla podvodníkovi. Co uděláte jako první?