OpenAI zablokovala kambodžskou síť podvodníků zneužívající ChatGPT

V kostce

• OpenAI narušila síť sociálních podvodníků působící z Kambodže využívající ChatGPT
• Síť souběžně provozovala romantické, investiční, herní i policejní podvodné scénáře
• Podvodníci pomocí AI vytvářeli padělané pasy, právní oznámení i herní rozhraní

OpenAI odhalila a zablokovala síť sociálních podvodníků z Kambodže, kteří zneužívali ChatGPT k realizaci sofistikovaných podvodných schémat. Podle Schneier on Security, který zjištění OpenAI popisuje, skupina souběžně provozovala hned několik typů podvodů a jednotlivé prvky často kombinovala do složitějších scénářů.

Operátoři sítě si nejprve budovali důvěru obětí pomocí fiktivních seznamovacích profilů a dlouhých romantických konverzací pod falešnými identitami. Poté oběti nasměrovali na podvodné investiční příležitosti zaměřené na kryptoměny a spotové obchodování se zlatem. Vedle romantických podvodů se část uživatelů sítě vydávala za zástupce online hazardních platforem, kteří nabízeli falešné bonusy a výhry.

Další skupina operátorů se podle zdroje vydávala za orgány činné v trestním řízení a obětem tvrdila, že musí zaplatit pokuty za údajně spáchané závažné trestné činy. Přestože se konkrétní příběhy jednotlivých podvodů lišily, uživatelé napříč sítí vykazovali stejný vzorec klamavého chování.

Síť systematicky vytvářela a provozovala falešné seznamovací profily, fiktivní investiční experty i podvodné identity vydávající se za policejní úředníky. Pomocí AI nástrojů podvodníci generovali také obrazové podklady falešných dokumentů, včetně padělaných pasů, právních oznámení, potvrzení o nákupu akcií a rozhraní hazardních platforem, aby svým konstrukcím dodali zdání věrohodnosti.

Co to znamená

Firmy by měly do bezpečnostních školení zaměstnanců i procesů ověřování protistran zahrnout riziko AI generovaných padělaných dokumentů a sofistikovaných sociálních podvodů. Auditoři AI systémů by měli věnovat pozornost mechanismům detekce zneužití chatbotů k tvorbě falešných identit a dokumentace, protože popsaný případ ukazuje reálnou zneužitelnost běžně dostupných nástrojů.

Zdroje

1. Schneier on Securityschneier.com