V kostce:

  • Gates uvádí bioterorismus jako 50krát pravděpodobnější riziko než přirozená pandemie.
  • Gates je sedmdesátiletý bývalý generální ředitel Microsoftu a nyní filantrop.
  • Rozhovor a esej vyšly v MIT Technology Review; jde o první z plánované série textů.

Bill Gates, sedmdesátiletý filantrop a bývalý generální ředitel Microsoftu, v novém eseji a rozhovoru pro MIT Technology Review uvádí, že současné systémy umělé inteligence už překročily kritické bezpečnostní hranice. Podle jeho slov jde o oblast biologických schopností, kybernetiky, psychosociálního vlivu, narušování trhu práce a ztráty kontroly nad samotnými systémy. Esej je podle Gatese prvním z několika textů, které chce na téma rizik AI postupně zveřejňovat, a doplňuje ji sérií soukromých i veřejných setkání se zástupci průmyslu, vlád a občanské společnosti.

V rozhovoru pro MIT Technology Review Gates řekl, že ho neznepokojuje jen samotné překročení bezpečnostních hranic, ale především nedostatečná společenská diskuse mimo technologický průmysl. „Jsem v šoku z toho, jak málo se o tom mluví mimo obor,“ uvedl. Dodal, že uvnitř odvětví panuje neochota kritizovat vlastní firmy nebo konkurenci, což brání otevřenější debatě o rizicích, a sám sebe označil za „nejpronikavější hlas“ upozorňující na to, že společnost tato rizika dostatečně nevnímá.

Za nejzávažnější považuje riziko bioterorismu. Podle Gatese je pravděpodobnost teroristického zneužití biologických schopností AI zhruba padesátkrát vyšší než riziko přirozené pandemie. Uvedl, že jakýkoliv model schopný navrhovat nové molekuly by měl podléhat dohledu.

Gates zároveň upozorňuje na dopady automatizace na trh práce a tvrdí, že tentokrát je situace jiná než u předchozích technologických revolucí, včetně nástupu internetu. Podle něj je dnes možné napříč obory nahradit lidské kognitivní úkoly levněji a s nižší chybovostí, než jaké vykazují lidé, a to v mnohem kratším čase. Zmínil, že některé firmy už omezují nábor na začínajících pozicích, což zatím označuje za mírný, ale varovný signál.

Podle jeho odhadu jde zhruba o polovinu pracovních míst, tedy o dobře definované úkoly, jako je telemarketing, zákaznická podpora nebo účetní uzávěrky, kde je AI levnější a spolehlivější než lidská práce. Naopak pozice vyžadující zkušenost budovanou celý život, jako je tomu u investora Warrena Buffetta, jsou podle Gatese zatím jen obtížně nahraditelné.

Jako možné řešení navrhuje zavedení takzvaných lidmi rezervovaných pracovních míst, tedy pozic, které by si jednotlivé země vyhradily výhradně pro lidskou práci a jejichž rozsah by se stát od státu lišil. Dále opakovaně prosazuje dlouhodobě zastávanou myšlenku zdanění robotů, doplněnou o zdanění takzvaných tokenů, tedy odvod z příjmů generovaných nasazením AI namísto lidské práce. Podle Gatese by tyto prostředky mohly zmírnit ekonomické dopady automatizace.

Gates zároveň odmítl, že by protesty proti stavbě datových center byly účinným způsobem, jak na rizika AI upozornit. „Pokud máte obavy z AI, protest u datového centra není nejúčinnější způsob, jak zahájit debatu o tom, jak tyto škody minimalizovat,“ uvedl s tím, že zastavení výstavby datových center v USA by na globální problémy spojené s AI nemělo žádný vliv, protože taková centra vzniknou i jinde ve světě.

Vedle varování Gates zmiňuje i pozitivní přínosy technologie, například v zemědělství, zdravotnictví, vzdělávání nebo při orientaci ve státní byrokracii. Uvedl, že nadace Gates Foundation využívá AI při vývoji vakcín a léčiv a podporuje projekt Biomni na Stanfordově univerzitě, zaměřený na biotechnologický výzkum spojený s modelováním na úrovni proteinů a buněk.

Odnož nadace nazvaná NextLadder má podle Gatese pomáhat nízkopříjmovým rodinám orientovat se v dostupných programech podpory, například v situacích spojených s vystěhováním, propuštěním z vězení nebo bankrotem. Podle jeho slov společnost nakonec dospěje k období hospodářského dostatku, ale předtím ji čeká období výrazných turbulencí.

Co to znamená: Pro firmy zabývající se auditem a implementací AI Gatesova slova naznačují, že tlak na řízení rizik v oblastech jako biologické zneužití, kybernetická bezpečnost a dopady na zaměstnanost poroste rychleji, než na jaký jsou regulátoři a podniky připraveni. Organizace by měly zvážit dřívější zavedení dohledu nad modely schopnými generovat nové molekuly a promítnout do svých interních politik i sociální dopady automatizace, včetně scénářů spojených s návrhy na zdanění robotizované práce a vymezením lidmi rezervovaných pozic.

Zdroje: