Společnost Google ve čtvrtek 30. července spustila v aplikaci Google Earth novou funkci, která uživatelům umožňovala generovat umělou inteligencí upravené verze reálných satelitních snímků. Nástroj využíval generátor Nano Banana 2 a podle firemního blogového příspěvku produktového manažera Bryana Horowitza měl sloužit k tvůrčím účelům. Horowitz uvedl, že poprvé mohou uživatelé generovat vlastní obrázky pomocí satelitních, leteckých a 3D dat Google Earth v kombinaci s Nano Banana, který vytváří koncepty zakotvené ve skutečném světě. Společnost uváděla jako příklady vizualizaci dokončených realitních projektů nebo možnost pro učitele a studenty transformovat dnešní ruiny Pompejí do „hyperrealistického pohledu“ na město z roku 78 př. n. l. za římské říše.

Funkce byla však dostupná pouhý den. Už ve čtvrtek odborníci na ověřování informací a novináři upozornili, že integrace generativní AI do jednoho z nejdůvěryhodnějších zdrojů satelitních dat pro žurnalisty a výzkumníky vytváří nebezpečný nástroj pro dezinformace. Eliot Higgins, zakladatel investigativní organizace Bellingcat, na platformě Bluesky sarkasticky reagoval na spuštění slovy, že Google Earth, nástroj často používaný jako zdroj satelitních snímků pro ověřování fotografií a videí, přidal funkci umožňující úpravu satelitních snímků AI, a to z neznámých důvodů. Higgins v navazujícím příspěvku sdílel vygenerovaný obrázek obří zlaté sochy Donalda Trumpa nad Bílým domem s poznámkou, že k zneužití nemůže dojít.

Stejného dne na X napsal nezávislý vyšetřovatel Henk van Ess v rozsáhlém blogovém příspěvku, že mu stačila jedna věta, aby v Google Earth umístil uprchlíky u mexické hranice, jadernou elektrárnu v Íránu nebo smrtící nehodu v Amsterdatu · vždy na pozadí skutečných satelitních snímků Google. Van Ess poukázal na předchozí případ, kdy byl snímek americké základny Páté flotily v bahrajnském Manamě pomocí Gemini transformován v falešný obrázek po íránském dronovém útoku. Proces, který dříve vyžadoval zhruba šest kroků, nyní umožnil vestavěný nástroj provést za vteřiny. Novinář BBC na X sarkasticky poznamenal, že nemůže být zneužita nová funkce AI generování obrázků v Google Earth, který je jedním z nejspolehlivějších zdrojů vizuálních důkazů pro novináře a výzkumníky.

Google nejprve reagovalo odkazem na systém SynthID, který automaticky vkládá digitální vodoznaky do obrázků generovaných jeho AI nástroji. Ve svém příspěvku na X ze dne 30. července uvedlo, že bere dezinformace vážně a každý obrázek vytvořený Nano Banana v Google Earth obsahuje SynthID vodoznak, takže uživatelé mohou pravdivost ověřit přes aplikaci Gemini nebo Lens ve vyhledávání.

Pouze den po spuštění, v pátek 31. července, Google na X oznámil návrat funkce. Ve prohlášení uvedlo, že i když geodetičtí odborníci nástroj využívali pro řadu užitečných účelů, objevily se případy porušování pravidel sdílením vygenerovaných snímků. Společnost proto funkci dočasně stáhla, aby mohla implementovat silnější bezpečnostní bariéry. Po odvolání funkci Ars Technica ověřilo, že je pro uživatele Google Earth nedostupná.

Kritika nástroje je podle TechCrunch srozumitelná, avšak je třeba zmínit, že v éře AI lze většinu obrazových materiálů na webu snadno manipulovat. Už není potřeba být expert na Photoshop k vytvoření polovičně credivelní dezinformace; stačí přístup k AI generátoru obrázků, které prodává Google stejně jako mnoho dalších firem.

Co to znamená: Případ ukazuje, jak rychle může integrace generativní AI do ověřovacích nástrojů podkopat důvěryhodnost vizuálních důkazů. Pro organizace nasazující AI systémy to znamená nutnost předem modelovat rizika zneužití, implementovat robustní vodoznaky a přístupové kontroly a mít připravený postup pro rychlý rollback funkcí, které selžou v bezpečnostním testu reálného světa.

Zdroje: