Podvržené nahrávky ve volbách: od falešného Šimečky po falešného Bidena. Co je doložené a jak podvrh poznat

Slovensko 2023: nahrávka, která se nikdy neodehrála

Ve čtvrtek 28. září 2023, dva dny před parlamentními volbami, se na Slovensku začala šířit zhruba dvouminutová nahrávka. Měla zachycovat rozhovor předsedy Progresivního Slovenska Michala Šimečky s novinářkou Denníku N Monikou Tódovou o tom, jak zmanipulovat volby, mimo jiné kupováním hlasů v romských osadách. Ke zvuku byly připojeny dvě fotografie obou lidí.

Rozhovor se nikdy neodehrál. Podle ověřovatelů AFP a odborníků, které oslovili, nese nahrávka známky umělého vytvoření. Organizace IPI uvádí, že hlasy byly nejspíš vytvořeny z ukázek skutečných hlasů dostupných na internetu. Jak přesně nahrávka vznikla, se s jistotou určit nepodařilo.

Čas (28. 9. 2023, podle časové osy IPI)	Co se stalo
12:05	Politik Štefan Harabin nahrávku zveřejnil na Telegramu, přeposlanou ze skrytého účtu „Gabika Ha“.
asi 15:05	Bývalý poslanec Peter Marček ji bez uvedení zdroje sdílel na Facebooku. Jeho příspěvek měl největší dosah.
15:58	Denník N zveřejnil prohlášení, že jde o podvrh.
21:51	Ověřovací tým agentury AFP zveřejnil rozbor nahrávky.

Nahrávka se objevila v době 48hodinového volebního moratoria, které omezuje politické komentáře a zpravodajství o kampani. Šimečka i Denník N ji hned označili za podvrh.

AFP podle slovenského ověřovacího webu Demagog.sk nahrávku popsala jako „a recording with numerous signs of manipulation“ („záznam s četnými známkami manipulace“). Upozornila na špatnou kvalitu hlasu, nesrozumitelné pasáže a nepřirozený způsob řeči. Fact-checker AFP Robert Barca odhadl, že nahrávku na Facebooku vidělo nejméně 100 tisíc lidí a dalších 30 tisíc na Instagramu.

Den předtím, 27. září, Demagog.sk vyvrátil jinou uměle vytvořenou nahrávku Šimečky. Podle ní měl po volbách výrazně zdražit pivo.

Kdo nahrávku vyrobil, se nezjistilo

Původní autor je neznámý. Účet „Gabika Ha“ byl skrytý a jeho majitel na dotazy novinářů neodpověděl. Harabin z něj podle Investigativního centra Jána Kuciaka (ICJK) předtím přeposílal obsah nejméně 27krát.

Harabin novinářům do telefonu řekl: „I don’t remember sharing anything like that“ („Nepamatuji se, že bych něco takového sdílel“). Marček na otázku, kde video vzal, uvedl, že dostává asi 300 různých zpráv a e-mailů a vybírá, co se mu líbí.

Policie podle Demagog.sk nejprve usoudila, že nahrávka není dost přesvědčivá na zahájení trestního stíhání. Prokurátor nařídil nové prověřování, které policie v říjnu 2024 zastavila, protože pachatele nenašla. Po stížnosti Tódové prokurátor případ znovu otevřel. Novější informace o výsledku dostupné zdroje nepřinášejí.

Volby vyhrál Smer s necelými 23 procenty před Progresivním Slovenskem s necelými 18 procenty. Žádná z citovaných analýz neměří, zda nahrávka výsledek ovlivnila.

USA 2024: falešný Biden v telefonu

V neděli 21. ledna 2024, dva dny před demokratickými primárkami v New Hampshiru, obdržely tisíce voličů automatizovaný telefonát. Hlas napodobující prezidenta Joea Bidena je vyzýval, aby nechodili volit. Podle agentury AP zněl mimo jiné: „Voting this Tuesday only enables the Republicans in their quest to elect Donald Trump again“ („Hlasováním v úterý jen pomůžete republikánům v jejich snaze znovu zvolit Donalda Trumpa“) a „Your vote makes a difference in November, not this Tuesday“ („Váš hlas rozhoduje v listopadu, ne toto úterý“).

Volajícím se zobrazovalo číslo Kathy Sullivanové, bývalé předsedkyně státní demokratické strany, která pomáhala vést kampaň za dopsání Bidenova jména na hlasovací lístek. Podle generálního prokurátora New Hampshiru Johna Formelly šlo zřejmě o nezákonný pokus narušit a potlačit hlasování.

Autorem byl demokratický politický konzultant Steve Kramer, který tehdy placeně pracoval pro kampaň Bidenova vyzyvatele Deana Phillipse. Phillipsova kampaň uvedla, že Kramer jednal sám, a jeho čin odsoudila. Kramer přiznal, že telefonáty připravil. Pouliční kouzelník v únoru 2024 řekl NBC News, že ho Kramer najal, aby nahrávku Bidenova hlasu vyrobil. Kramer tvrdil, že chtěl upozornit na nebezpečí umělé inteligence.

Kdy	Co následovalo
únor 2024	Federální komise pro komunikace (FCC) jednomyslně rozhodla, že hlasy vytvořené umělou inteligencí jsou v automatizovaných telefonátech nezákonné.
23. 5. 2024	Kramer byl ve čtyřech okresech New Hampshiru obžalován z 13 trestných činů potlačování voleb a 13 přečinů vydávání se za kandidáta.
srpen 2024	Telekomunikační firma Lingo Telecom, která hovory doručila, uzavřela s FCC narovnání na 1 milion dolarů.
26. 9. 2024	FCC Kramerovi uložila pokutu 6 milionů dolarů za podvržení čísla volajícího u zhruba 3 000 hovorů.
13. 6. 2025	Porota soudu okresu Belknap (Belknap County Superior Court) Kramera zprostila všech obvinění. U soudu šlo o 11 bodů potlačování voleb a 11 bodů vydávání se za kandidáta.

Pokuta FCC je samostatné správní rozhodnutí, porota o ní nerozhodovala. Zda ji Kramer zaplatil, dostupné zdroje neuvádějí.

Česko 2025: deepfaky hlavně v podvodných reklamách

Případ srovnatelný se slovenskou nahrávkou, tedy podvržený záznam politika vypuštěný těsně před hlasováním, žádný z citovaných přehledů ke sněmovním volbám v říjnu 2025 nepopisuje. Doložené jsou tyto jevy:

• Podvodné investiční reklamy. Podle přehledu středoevropského centra CEDMO z 8. října 2025 se před volbami šířily falešné reklamy s deepfake videi ministra vnitra Víta Rakušana, místopředsedkyně ANO Aleny Schillerové a předsedy SPD Tomia Okamury. Dříve podvodníci stejně zneužili tváře Petra Fialy, Petra Pavla, Zbyňka Stanjury a Andreje Babiše. Cílem bylo nalákat lidi na neexistující investiční platformy a získat jejich peníze nebo údaje.
• Síť účtů na TikToku. Centrum pro výzkum online rizik podle Seznam Zpráv zmapovalo 286 profilů, které pravidelně šířily proruský obsah a podporovaly mimo jiné Stačilo!, SPD a stranu PRO. Některá videa byla podle Seznam Zpráv vytvořena umělou inteligencí, což ztěžuje dohledání jejich původu. Podle téhož zdroje nemusí jít o podporu koordinovanou se samotnými politiky.
• Falešné účty bez doložené ruské stopy. Ověřovací web Demagog.cz podle Reuters Institute před volbami zachytil stovky falešných účtů na TikToku, které šířily proruské a protisystémové dezinformace. Důkaz, že síť provozovalo Rusko, nenašel.

Šéfredaktor Demagog.cz Jan Fridrichovský v září 2025 řekl: „AI generovaný manipulativní obsah je již v českém online prostoru běžný.“

Jak podvrh poznat

Spolehlivý nástroj na odhalení umělého zvuku zatím neexistuje. Fact-checker AFP Robert Barca uvedl: „To my knowledge, there are no affordable and reliable methods for detecting AI-generated audio recordings“ („Pokud vím, neexistují dostupné a spolehlivé metody, jak odhalit zvukové nahrávky vytvořené umělou inteligencí“). Michael Colborne z Bellingcatu varoval, že nespolehlivé detektory vedou lidi k mylným závěrům. Proto rozhoduje hlavně kontext.

• Kdo to zveřejnil první? Slovenskou nahrávku poprvé sdílel skrytý účet, jehož majitele se nepodařilo zjistit. Pokud o „senzační nahrávce“ nepíše žádné ověřené médium, je na místě opatrnost.
• Kdy se objevila? Podvrh přišel během volebního moratoria, kdy jsou omezené politické komentáře. Poslanec Progresivního Slovenska Ján Hargaš popsal, že škoda vzniká v řádu hodin, zatímco reakce trvá dny.
• Vyjádřili se dotčení? Denník N nahrávku označil za podvrh necelé čtyři hodiny po jejím prvním známém zveřejnění na Telegramu. Stojí za to podívat se na oficiální účty lidí, kteří v nahrávce údajně mluví.
• Jak zní hlas? AFP u slovenské nahrávky upozornila na špatnou kvalitu, nesrozumitelné pasáže a nepřirozenou řeč. Odborník na kybernetickou bezpečnost Miloslav Lujka z firmy Check Point radí sledovat, jestli osoba mluví přirozeně a jestli jí na konci vět klesá hlas.
• Sedí obraz? U videa Lujka doporučuje sledovat, zda ústa odpovídají hlasu, zda je přirozená mimika a gesta, jestli ve videu nejsou zvláštní střihy a jestli sedí stíny.
• Slibuje rychlé zbohatnutí? U podvodných reklam je podle Marka Macháčka z Komerční banky varovným signálem už samotná vidina snadného výdělku.

Co stanoví evropský AI Act

Nařízení EU o umělé inteligenci (AI Act) definuje deepfake jako „obrazový, zvukový nebo video obsah vytvořený nebo manipulovaný umělou inteligencí“, který se podobá existujícím osobám, objektům, místům nebo událostem „a který by se dané osobě mohl nepravdivě jevit jako autentický nebo pravdivý“.

Povinnosti k označování stanoví článek 50:

Kdo	Co musí	Výjimky
Poskytovatelé systémů AI, které vytvářejí syntetický zvuk, obraz, video nebo text (čl. 50 odst. 2)	Označit výstupy ve strojově čitelném formátu, aby šly rozpoznat jako uměle vytvořené	Běžné úpravy, které obsah podstatně nemění; použití povolené zákonem k odhalování a stíhání trestných činů
Ti, kdo systém AI použijí k vytvoření deepfaku (čl. 50 odst. 4)	Zveřejnit, že obsah byl uměle vytvořen nebo s ním bylo manipulováno	U zjevně uměleckých, satirických či fiktivních děl stačí upozornit vhodným způsobem, který dílo neruší; použití povolené zákonem k odhalování a stíhání trestných činů
Ti, kdo AI použijí k vytvoření textu, který informuje veřejnost o věcech veřejného zájmu (čl. 50 odst. 4)	Uvést, že text je uměle vytvořený	Text prošel lidskou nebo redakční kontrolou a někdo za něj nese redakční odpovědnost

Informace musí být podle odstavce 5 podána jasně a nejpozději při prvním kontaktu s obsahem.

Článek 50 se podle článku 113 použije od 2. srpna 2026. Nařízení EU 2026/1744 z července 2026 (takzvaný digitální omnibus) dalo poskytovatelům systémů uvedených na trh před tímto datem čas na splnění povinnosti strojového označování do 2. prosince 2026. Povinnost označit deepfake podle odstavce 4 se nemění.

Za porušení povinností podle článku 50 hrozí podle článku 99 pokuta až 15 milionů eur, nebo u firem až 3 % celosvětového ročního obratu, podle toho, co je vyšší. U malých a středních podniků platí nižší z obou částek.

Povinnost označit deepfake dopadá na toho, kdo ho vytvoří a zveřejní. Ve slovenském případě se autora vypátrat nepodařilo.