V kostce:

  • Dario Amodei je generální ředitel společnosti Anthropic.
  • Investor Gavin Baker kritiku vyjádřil na podcastu All-In a na síti X.
  • Amodei napsal esej „Machines of Loving Grace“ o přínosech AI.

Generální ředitel společnosti Anthropic Dario Amodei odmítl tvrzení, že svými varováními před riziky umělé inteligence přispěl k negativnímu vnímání tohoto odvětví veřejností. Podle Amodeiho jde o „krizi důvěry“, jejíž kořeny sahají do desetiletí nedůvěry veřejnosti vůči firmám, vládám i technologickému sektoru obecně, nikoli o důsledek jeho vlastní rétoriky.

Amodei reagoval na investora Gavina Bakera, který na podcastu All-In a na síti X prohlásil, že Amodeiho varování před nebezpečími AI přispěla k negativní reakci veřejnosti v USA, zejména vůči budování datových center. Baker se domnívá, že Amodei v debatě o regulaci AI „prohrál argument“, a vyzval ho, aby se jako šéf jedné z nejvýznamnějších firem na světě stal „pozitivnějším zastáncem vlastního odvětví“.

Amodei s tímto hodnocením nesouhlasil a uvedl, že jeho psaní bylo „přibližně vyvážené mezi riziky a přínosy“. Esej „Machines of Loving Grace“ podle svých slov napsal proto, že měl pocit, že odvětví AI dostatečně inspirativně nepopisuje, jak by technologie mohla svět radikálně proměnit k lepšímu.

Zároveň připustil, že veřejnost má vůči AI negativní postoj a že jde o závažný problém. Odmítl ale, že by za tím primárně stálo varování jeho nebo jiných představitelů odvětví. Podle jeho slov lidé nedůvěřují firmám, vládám ani technologickému průmyslu a stále v nich hledají snahu je „napálit“ · současná vlna kritiky AI je podle něj jen nejnovější podobou tohoto dlouhodobého jevu.

Za nejpřesnější kritiku vůči AI společnostem, včetně Anthropic, označil Amodei fakt, že dosud nesplnily své velké sliby o přínosu pro svět. Podle něj jde o odpovědnost firem samotných, na kterou se má kritika soustředit, místo aby se řešil marketing a komunikace. Simon Willison, který Amodeiho vyjádření citoval, dodává, že šéf Anthropic v této souvislosti řekl, že řešením není okázalá marketingová kampaň s pozitivním laděním, ale reálné naplnění slibů · tvrzení, že AI vyléčí rakovinu, dnes podle něj působí spíše jako klišé než jako inspirace.

V otázce regulace Amodei odmítl Bakerovo tvrzení, že jde o volbu mezi širokým rozšířením AI bez regulace, nebo její koncentrací v rukou několika firem prostřednictvím regulace. Podle něj je takové zjednodušující schéma, v němž regulace automaticky znamená regulační zajetí a koncentraci moci, typické spíše pro prostředí Silicon Valley. Mimo něj lidé regulaci často vnímají jako nástroj, který omezuje moc firem ve prospěch běžných lidí. Dodal, že Anthropic se proto snaží navrhovat politiky, které by zpomalily přední AI společnosti, ale zároveň zvýhodnily menší konkurenty.

Co to znamená: Pro firmy zabývající se auditem a implementací AI spor uvnitř odvětví signalizuje, že regulační rámce se budou formovat i pod tlakem debaty o důvěryhodnosti a rozdělení moci mezi velké a malé hráče. Organizace by měly sledovat, jak se návrhy politik zaměřené na ochranu menších konkurentů promítnou do konkrétních požadavků na transparentnost a dodržování pravidel.

Zdroje: