V kostce:
- xAI podala žaloby proti uživatelům vytvářejícím deepfakey dětského zneužívání
- Oběti žalují xAI za umožnění výroby nelegálního obsahu modelem Grok
- Společnost posouvá zodpovědnost na zneužívající uživatele
Podle zprávy Politico Europe Tech společnost xAI podala žaloby proti skupině uživatelů, kteří model Grok zneužívali k vytváření deepfake materiálu s obsahem dětské sexuální zneužívání. Společnost tak reaguje na vlnu soudních žalob, které proti ní podaly oběti, a které xAI obviňují z toho, že její technologie umožnila výrobu a šíření nelegálního obsahu.
Žaloby obětí se zaměřují na konkrétní případy, kdy byly AI-generované snímky zneužity k distribuci materiálu zakázaného zákonem. V reakci na ně xAI posouvá zodpovědnost na koncové uživatele, kteří podle firmy systém úmyslně zneužívají k výrobě ilegálního obsahu.
Právní spory tak otevírají otázky ohledně míry odpovědnosti vývojářů AI systémů za škody, které jejich technologie v rukou zlomyslných uživatelů způsobí.
Co to znamená: Pro firmy implementující AI znamená případ signál, že regulátoři a soudy budou tlačit na pevné bezpečnostní bariéry a jasná pravidla užívání, aby se minimalizovalo riziko zneužití k výrobě ilegálního obsahu.
Zdroje: