EU požaduje globální pravidla pro AI po varování před vyhynutím lidstva

V kostce:

• Evropská komisařka Henna Virkkunen v pátek v Dublinu podpořila globální pravidla pro AI.
• Varování o hrozbě vyhynutí lidstva od bývalého inženýra Anthropic bylo impulzem pro tuto výzvu.
• EU má zákon, který povinnost hodnotit rizika AI ukládá firmám jako Anthropic a OpenAI.

Evropská komisařka Henna Virkkunen v pátek v Dublinu podpořila potřebu globálních pravidel pro umělou inteligenci po varování bývalého inženýra Anthropic, že AI může ohrozit lidstvo. Virkkunen, která je výkonnou viceprezidentkou Evropské komise, uvedla na konferenci o online bezpečnosti dětí, že je důležité pokračovat v mezinárodní spolupráci, protože globální pravidla jsou nezbytná. Podle ní má EU již zákon, který firmy jako Anthropic a OpenAI povinnost hodnotit a zmírňovat riziko ztráty kontroly nad AI modely, ale taková povinnost chybí na celosvětové úrovni.

Virkkunen zdůraznila, že mezinárodní spolupráce je nyní klíčová. Její výzva přichází po virálním varování bývalého inženýra Anthropic, který tvrdil, že AI může ohrozit lidstvo. Evropská unie tak usiluje o koordinaci globální regulace, aby zabránila možným existenciálním hrozbám AI. Virkkunen také uvedla, že EU má již zákon, který povinnost hodnotit rizika AI ukládá firmám jako Anthropic a OpenAI.

Co to znamená: Firmy, které implementují AI, budou muset počítat s rostoucí regulací nejen v EU, ale i na globální úrovni. To znamená, že budou muset investovat do auditů a zmírňování rizik spojených s AI, aby splňovaly nové požadavky. Bezpečnostní audity AI systémů se stanou ještě důležitější, aby se zabránilo potenciálním hrozbám pro lidstvo.

Zdroje:

• Politico Europe Tech