Od 2. srpna 2024 se v celé EU začaly uplatňovat nová pravidla AI Actu, která kladou důraz na transparentnost a odpovědnost při nasazování modelů umělé inteligence. Podle SystemOnLine se v souvislosti s tímto právním rámcem stále častěji setkáváme s fenoménem zvaným „shadow AI“ · neformální a často skrytou praktikou využívání veřejných AI nástrojů zaměstnanci.
Shadow AI vzniká, když zaměstnanci bez povolení používají veřejně dostupné generativní modely a vkládají do nich interní firemní know-how, obchodní tajemství či osobní údaje. SystemOnLine uvádí, že takové chování vytváří paradoxní situaci: data opustí firemní prostředí a zároveň může za jejich únik být odpovědná samotná organizace.
Tento únik dat představuje dvojí hrozbu · zvyšuje riziko kybernetických incidentů a zároveň vystavuje firmu sankcím podle AI Actu i GDPR. Stejný zdroj upozorňuje, že zaměstnavatel může být pokutován za nedodržení povinností spojených s ochranou osobních údajů a nedostatečnou transparentností AI systémů, i když únik inicioval interní uživatel.
Aby se organizace těmto rizikům vyhnuly, je nutné zavést jasná pravidla pro používání AI, monitorovat přístup k externím nástrojům a zajistit, aby všechny nasazené modely splňovaly požadavky AI Actu i GDPR. Klíčové pro udržení souladu s regulacemi je důraz na governance, auditovatelnost a kontrolu vstupních dat.
Kybernetické hrozby se díky umělé inteligenci stávají rychlejšími, rozsáhlejšími a sofistikovanějšími, což vyžaduje změnu přístupu k ochraně · nestačí jen automatizované procesy ani pouhý lidský dohled. SystemOnLine poukazuje na to, že organizace musí přehodnotit své bezpečnostní modely a integrovat komplexní obranné strategie.
Co to znamená: Firmy, které nebudou mít pod kontrolou používání veřejných AI nástrojů, riskují únik citlivých informací, narušení kybernetické bezpečnosti a finanční postihy podle AI Actu i GDPR. Implementace robustních auditních a kontrolních mechanismů je proto nezbytná pro bezpečný a legální rozvoj AI v podniku.
Zdroje: