V kostce:
- Trump a šéfové firem podepsali White House Accord on Super Intelligence
- Dohoda je označována za morálně závaznou a dobrovolnou
- Firmy zavedou vnitřní kontroly a externí nezávislé audity
Prezident Donald Trump se v Bílém domě setkal s šéfy předních amerických technologických společností a společně podepsali jednostránkovou dohodu o superinteligenci. Dokument nazvaný White House Accord on Super Intelligence označil prezident za morálně závazný. Má stanovit vnitřní i vnější kontrolní mechanismy a zajistit pravidelná setkání zaměřená na bezpečnost umělé inteligence.
Prezident pozval na oběd nazvaný Super Intelligence Luncheon zástupce klíčových firem působících v oblasti umělé inteligence. Podle Hospodářských novin dokument podepsali Trump, Sundar Pichai (Google), Elon Musk (xAI), Dario Amodei (Anthropic), Mark Zuckerberg (Meta Platforms), Greg Brockman (OpenAI) a Jensen Huang (Nvidia). Ekonomický deník doplňuje seznam o zakladatele Amazonu Jeffa Bezose a připomíná model Grok, který je propojen se sociální sítí X Elona Muska.
Podle Politico Europe Tech se na získávání podpory pro dohodu podíleli Mark Zuckerberg a David Huang. Zdroje uvádějí, že dohoda má podobu dobrovolného závazku podniků, nikoli právně vymahatelné regulace. Trump její smysl shrnul tím, že společnosti budou odpovědné za vlastní kontrolu.
Společnosti se zavázaly zavést robustní vnitřní kontrolní mechanismy pro monitorování schopností umělé inteligence. Vytvoří příslušné interní týmy, budou spolupracovat s vnějšími nezávislými auditory a ustanoví nezávislý výbor, který bude dohlížet na činnost kontrolních týmů. Podle Ekonomického deníku se šéfové Nvidie, OpenAI, Anthropic, xAI a Google dohodli na pravidelných setkáních zaměřených na bezpečnost AI. Trump dokument později zveřejnil na své sociální síti Truth Social.
Trump také plánuje jmenovat svého zmocněnce pro oblast umělé inteligence, a to během tří až čtyř dnů. Podle portálu Axios jako vhodného kandidáta zmínil šéfa amerických tajných služeb Jaye Claytona. Trump obavy z umělé inteligence nesdílí a tvrdí, že její vývoj nelze zpomalit a že Spojené státy v tomto oboru mají značný náskok. „Nikdy nebudu bránit rozvoji technologie, která bude mít větší dopad než průmyslová revoluce,“ prohlásil.
Jeho důvěra stojí v kontrastu s varováními odborníků před příliš rychlým vývojem a rizikem ztráty kontroly nad umělou inteligencí. Dario Amodei na začátku září vyzval přední společnosti působící v oblasti AI, aby tempo vývoje zpomalily. Společnost OpenAI v pátek oznámila, že dočasně pozastaví trénování svého nejnovějšího modelu, neboť přibývá zpráv o tom, že agenty umělé inteligence se vymykají kontrole.
Co to znamená: Pro podniky dohoda potvrzuje potřebu posílit vnitřní kontrolní týmy, navázat spolupráci s nezávislými auditory a pravidelně sledovat schopnosti svých modelů. Audity pak mohou vycházet z kombinace interního monitorování, externího dohledu a případně zřízeného kontrolního výboru, pokud jej společnosti skutečně zavede.
Zdroje: