Vodafone nasadí proti deep fakům aplikaci vyvinutou českým výzkumníkem ze Stanfordu

Český Vodafone od září spustí aplikaci Verify, která rozezná podvržený hlas i video. Technologii vyvíjí pražský startup Synhawk pod vedením výzkumníka Matyáše Boháčka.

Podvody typu deep fake se podle Vodafonu stávají stále větším problémem – AI dnes dokáže vytvořit věrohodný hlas, obraz i video, ale také padělané smlouvy, faktury nebo občanské průkazy. Nejde přitom jen o klasické scénáře, kdy se podvodník vydává za příbuzného. Stále častěji se objevují případy, kdy manažer firmy uvěří falešnému videohovoru s představenstvem a provede na jeho základě platbu, nebo kdy se deep fake stane nástrojem šikany na školách. Zkušenost s podvodem tohoto typu má i spoluzakladatel vývojářského studia Cleevio Lukáš Stibor, kterého připravil o vysokou částku peněz.

Vodafone proto letos v září spustí aplikaci Vodafone Verify, dostupnou zprvu přes Google Play Store a Apple App Store pro zákazníky operátora. Aplikace umožní nahrát fotografii nebo video – například z WhatsAppu – a následně vyhodnotí, zda jde o pravý, nebo synteticky vytvořený obsah. Podobnou funkci do svých bezpečnostních balíčků postupně zařazují i tradiční výrobci antivirů, například český Gen Digital se službou Avast Deepfake Guard. V další fázi má Verify sloužit i firmám, které budou moci nasadit AI bota do hovorů v aplikacích typu Teams – ten rozpozná, zda zaměstnanec nemluví s podvodníkem.

Dodavatelem technologie je startup Synhawk, který v Praze a San Franciscu zaměstnává zhruba 28 lidí a jehož tváří je výzkumník Matyáš Boháček, působící v oboru deep fake a ochrany proti nim na Stanfordově univerzitě. Firma podle svých slov nepoužívá cizí modely přebalené do vlastního rozhraní, ale trénuje si vlastní základní modely: model pro hlas s názvem Hawk rozpoznává klonovaný nebo upravený hlas na úrovni signálu, model Vyra plní obdobnou roli u videa, včetně živých přenosů během ověřování totožnosti. Modely se přitom nezaměřují na obsah nahrávky, ale na signály typické pro generovaný materiál – podrobnosti fungování firma z bezpečnostních důvodů nezveřejňuje, aby útočníci nemohli ochranu snadněji obejít.

Nasazení má podle Boháčka probíhat na úrovni sítě a infrastruktury operátora, nikoli přes volání externího API, takže data neopouštějí datacentra Vodafonu. Předseda Rady Českého telekomunikačního úřadu Marek Ebert uvedl, že projekt vítá i jako příležitost pro regulátora otestovat si vlastní odbornost před budoucím dohledem nad umělou inteligencí podle unijního nařízení o AI. Mateřská skupina Vodafone plánuje technologii po českém startu nasadit i v dalších zemích, kde působí.