Vodafone spustí aplikaci pro odhalování AI podvodů

V kostce

• Vodafone Verify má být dostupná od 22. října pro Android i iOS.
• Technologie aplikace vznikla ve spolupráci s českým startupem Synhawk.
• Podle průzkumu Ipsos má 24 % lidí v Česku zkušenost s AI podvodem.

Vodafone plánuje od 22. října zpřístupnit aplikaci Vodafone Verify, která má pomáhat odhalovat fotografie, videa, hlasové zprávy a dokumenty zmanipulované umělou inteligencí. Na technologii spolupracoval s českým startupem Synhawk a služba bude dostupná pro Android i iOS. Lidé i firmy si v ní budou moci prověřit podezřelý obsah předtím, než podle něj pošlou peníze nebo učiní jiné důležité rozhodnutí.

Uživatel do aplikace nahraje soubor, případně odkaz na podezřelé video ze sociálních sítí. Systém analyzuje rizikové signály a nabídne pravděpodobnostní vyhodnocení včetně vysvětlení. Nejde tedy o pouhé označení obsahu jako pravého či falešného, ale o vyhodnocení míry rizika.

Za Synhawkem stojí mimo jiné Maty Boháček, výzkumník AI a deepfake technologií na Stanfordově univerzitě. Podle Lupa.cz tvoří tým startupu zhruba 28 lidí v Praze a San Francisku; spoluzakladatelem je také Lukáš Foral, spojený s investiční společností Progresus. Vodafone spolupráci se Synhawkem oznámil už v červenci.

Podle průzkumu agentury Ipsos pro Vodafone má 24 procent lidí v Česku osobní nebo zprostředkovanou zkušenost s AI podvodem. U firem se podle průzkumu často objevují podvodné požadavky na platby nebo změny bankovních účtů, při nichž se útočníci vydávají za konkrétní osoby; s takovým incidentem se setkala téměř třetina firem. Pětina firem zaznamenala falešné faktury nebo dokumenty vytvořené či upravené pomocí AI.

Aplikace má být prvním prvkem širší platformy zaměřené na důvěryhodnost digitální komunikace. Vodafone nabídne službu zdarma jen některým klientům, ostatní budou platit měsíční poplatek; výši poplatku zdroj neuvádí. Operátor připravuje také Verify Meetings pro odhalování falešných účastníků videokonferencí a Verify Network, která má v budoucnu rozpoznávat synteticky upravené hlasy přímo v telefonní síti.

Co to znamená

Firmy mohou Verify využít jako další způsob kontroly podezřelých materiálů a platebních požadavků; aplikace však nenahrazuje potřebu ověřovat důležité pokyny zavedenými interními postupy. Při zavádění podobných nástrojů je podstatné zohlednit, že aplikace poskytuje pravděpodobnostní vyhodnocení, nikoli jisté potvrzení pravosti.

Zdroje

1. Lupa.czlupa.cz