V kostce:

  • Stovky kontraktorů má přístup k promptům a nahraným obrázkům uživatelů Copilotu.
  • Pracovníci hodnocují kvalitu výstupu, například velikost prsů nebo délku sukně, ne bezpečnost obsahu.
  • Kontraktéři hlásí expozici pro-anorexickému obsahu a sexualizovaným obrázkům dětí z kreslených filmů.

Microsoft pro svého AI asistence Copilot nasazuje stovky lidských kontraktérů, kteří pravidelně přistupují k textovým promptům i nahraným obrázkům uživatelů. Interní dokumenty získané serverem 404 Media odhalily, že tito pracovníci nefiltrují nevhodný obsah, ale hodnocují kvalitu vygenerovaných výstupů · například zda model dostatečně zvětšil prsa ženy nebo zkrátil sukni podle zadání. Když uživatel Copilotu nahraje fotografii své nebo cizí osoby, pravděpodobně očekává, že obrázek zůstane soukromý mezi ním a AI nástrojem. Ve skutečnosti se na daný prompt a nahrané obrázky někdy podívá pracovní síla alespoň stovek lidských recenzentů.

Kontraktéři jsou vystaveni masovému přívětivu sexuálně explicitních a často traumatizujících požadavků. Mezi nimi figurují úpravy nahraných fotografií žen do sexuálních pozic, vytváření fetisistických obrázků dětí z kreslených filmů, pro-anorexický obsah nebo požadavky na generování zhubnutých verzí reálných osob. Jeden z pracovníků uvedl pro 404 Media: „Tváře jsou vždy nezacenzurované a mnoho promptů je sexuální povahy a pochybně konsenzuálních.“ Na interním diskusním fóru kontraktéři popisovali prompty, které žádaly o zkrácení sukně, zvětšení prsů nebo zobrazení více nohy v špičkových botách. Obrázky postavy She-Hulk se v úkolech vyskytují často. Jeden kontraktér napsal, že se odrazil od pro-anorexického obsahu, jiný reportoval prompt na vytvoření obrázku Ariany Grande s anorexií, další pak zadání navržené k vytvoření lascivního obrázku skupiny mladých dívek.

Tito pracovníci nejsou najímáni k označování ani kontrole urážlivého či nevhodného obsahu. Jsou placeni za hodnocení kvality výstupu Copilotu, včetně případů sexuálního obrazu. „Kdo píše tyto prompty a kdo rozhoduje, že generování pornografie je nyní zaměřením Copilotu? Je těžké brát věci vážně, když se moje zaměření musí soustředit na to, který model vygeneroval vhodnou velikost prsů nebo která středně stará žena byla umístěna do vhodné sexuálně sugestivní pozice,“ uvedl jeden kontraktér v diskuzi. Microsoft je podle dokumentů explicitně zainteresován o lidskou intuici kontraktérů při rozhodování, který obrázek vypadá lépe. „Důvěřujte své intuici · když se podíváte na oba upravené obrázky vedle sebe, který okamžitě působí jako ta lepší úprava? Váš náhlý dojem jako lidského diváka má význam,“ zní v pokynech pro pracovníky. Dále je dodáno: „V případě pochybností jděte podle prvního dojmu. Lidská intuice je dobrá v zachycení jemných rozdílů v kvalitě, které je těžké formulovat.“

Problém lidských pracovníků vystavených hrůzostrašnému, nepříjemnému nebo traumatizujícímu materiálu není nový. Velké technologické společnosti, a zejména sociální sítě, již roky používají armády kontraktérů k moderaci uživatelsky generovaného obsahu. AI společnosti také využívají špatně placené pracovníky v zahraničí k trénování svých modelů, jak ukázalo dřívější šetření 404 Media u OpenAI, kde tisíce kontraktérů v některých případech revidovalo skutečné prompty uživatelů ChatGPT. Stejný přístup se nyní projevuje i u Microsoftu a Copilotu.

Co to znamená: Firmy implementující Copilot nebo podobné nástroje musí počítat s tím, že interní dokumenty, fotografie a citlivé prompty mohou projít rukama externích pracovníků bez jejich vědomí. Z pohledu auditu AI je nutné mapovat tok dat, vyžadovat smluvní záruky o omezení lidské revize a zohlednit riziko porušení očekávání soukromí při výběru dodavatele generativní AI.

Zdroje: