Osm států USA žaluje OpenAI kvůli rizikům ChatGPT

V kostce

• Osm generálních prokurátorů podalo ve středu žalobu na OpenAI.
• Florida podala první státní žalobu na OpenAI v červnu.
• 42 států vedených New Yorkem vyšetřuje OpenAI.

Generální prokurátoři osmi amerických států podali ve středu žalobu na společnost OpenAI kvůli chatbotu ChatGPT. Státy Arkansas, Arizona, Idaho, Iowa, Kansas, Montana, Nebraska a Západní Virginie tvrdí, že systém poskytuje uživatelům včetně teenagerů nebezpečné rady a navádí je k sebepoškozování i násilí vůči ostatním.

Podle žalujících států OpenAI navrhla chatbot ChatGPT tak, aby byl vstřícný a poutavý a budoval si důvěru uživatelů. Tuto důvěru pak podle nich zneužívá tím, že utvrzuje uživatele v bludech, poskytuje nebezpečné zdravotní rady a pomáhá jim plánovat násilné útoky včetně hromadných střeleb. S výjimkou Arizony mají všechny uvedené státy republikánské generální prokurátory, což sporu dává výrazný stranický rozměr.

Generální prokurátorka státu Iowa Brenna Bird v prohlášení uvedla, že OpenAI dětem škodí a obyvatelům Iowy lže. Podle ní společnost tvrdí, že je ChatGPT bezpečný, zatímco poskytuje nebezpečné zdravotní rady, nabádá k ubližování ostatním a navádí k sebevraždě, a zároveň se vydává za falešného přítele. Společnost OpenAI v reakci uvedla, že se soustředí na bezpečnost produktu a v srpnu zavedla verzi ChatGPT pro teenagery s rozšířenými zárukami a rodičovskou kontrolou.

„Do produktu jsme zabudovali ochranná opatření přizpůsobená věku na špičkové úrovni v odvětví, která mnoha jiným produktům AI chybějí,“ uvedla společnost. Dodala, že žádný systém nemůže být dokonalý, že spolupracuje s odborníky a má zavedeny rodičovské kontroly, připomínky, aby si uživatelé dělali přestávky, a věkově přiměřené ochrany modelu. Zavázala se také spolupracovat se státy na pragmatické politice pro AI, která se vztahuje na celé odvětví, nikoli jen na jednu společnost.

Žaloby nejsou prvním právním krokem proti OpenAI. Proti společnosti již směřují desítky soukromých žalob a zájem projevují i vlády. Florida se podle zdroje stala prvním státem, který OpenAI zažaloval, a to v červnu. Britská Kolumbie podala minulý měsíc žalobu v souvislosti se střelbou ve škole Tumbler Ridge. Zároveň 42 států vedených New Yorkem společnost vyšetřuje v širokém okruhu otázek bezpečnosti produktu a ochrany soukromí.

Nové případy nestojí primárně na odpovědnosti za vadný výrobek, ale na zákonech jednotlivých států na ochranu spotřebitele. Ty zakazují uvést na trh nebezpečný produkt a následně o něm nepravdivě tvrdit, že je bezpečný. Spor se tak může soustředit na to, zda soudy a poroty uvěří, že OpenAI o vlastním produktu mluvila pravdu. Podle agentury Reuters státy vedle pokut žádají i změny fungování chatbotu ChatGPT a zákaz vyvíjet modely AI schopné sebezlepšování, pokud společnost nezajistí jejich soulad s lidskými hodnotami.

Právní strategie navazuje na dřívější spory proti platformám sociálních médií založené na designu produktů. Odvolací soud pro devátý okruh v roce 2021 v případu společnosti Snap rozhodl, že zákon Section 230 nebrání nároku týkajícímu se funkce produktu, a právníci poté podali více než 200 žalob. V březnu porota v Los Angeles přiznala dvacetileté ženě 6 milionů dolarů za nedbalý návrh návykových platforem společností Meta a YouTube. Den předtím porota v Novém Mexiku uložila společnosti Meta pokutu 375 milionů dolarů, kterou soudce v srpnu navýšil o dalších 567 milionů dolarů na celkem 942 milionů dolarů.

Důležitým srovnáním je žaloba generálních prokurátorů z roku 2023 proti společnosti Meta, do níž se zapojilo 42 generálních prokurátorů. Ta vedla k vyrovnání, v jehož rámci by společnost mohla vyplatit až 18 miliard dolarů kvůli tvrzením o návykovém designu pro děti. OpenAI bude podle zdroje pravděpodobně argumentovat svobodou projevu, předchozím krizovým stavem poškozených i nedávným posílením bezpečnostních opatření a tím, že je vyčleňována v odvětví s mnoha hráči.

Zdroje

1. Platformerplatformer.news