V kostce:

  • MIT Technology Review zjistilo přes 1050 úmrtí poblíž sledovacích věží na hranici USA a Mexika
  • V roce 2024 zemřelo přes 18 lidí v jedné oblasti pouště v Novém Mexiku
  • USA plánují do roku 2034 vynaložit 1 miliardu dolarů na ztrojnásobení „virtuální zdi“

Vyšetřování MIT Technology Review zdokumentovalo více než 1 050 úmrtí lidí v blízkosti takzvané „virtuální zdi“ · sítě AI poháněných sledovacích věží podél hranice USA a Mexika. Podle MIT Technology Review jen v roce 2024 zemřelo přes 18 lidí v jediné malé oblasti pouště v Novém Mexiku, a to v dosahu věží, které měly odhalovat pohyb osob. Vyšetřování vzniklo v rámci projektu Dying on Camera, na němž redakce spolupracovala s deníkem Times of San Diego.

Analýza pokryla téměř 600 věží, což je podle MIT Technology Review méně, než kolik jich dnes podle vlády skutečně provozuje agentura US Customs and Border Protection (CBP) · téměř 800. Redakce vycházela z mapových podkladů neziskové organizace Electronic Frontier Foundation a ze satelitních snímků, protože CBP nezveřejňuje ucelenou mapu svého systému. Zjištěný počet úmrtí je proto podle vyšetřování spíše podhodnocený, stejně jako přesná lokalizace nejproblematičtějších úseků hranice. Vyšetřování popisuje případy lidí, kteří prošli nezpozorováni oblastmi pokrytými pokročilými věžemi a jejichž těla byla nalezena až po týdnech či měsících.

Mezi dodavateli nejnovějších věží figuruje obranná společnost Anduril, která podle MIT Technology Review nadále získává významné zakázky a má profitovat z plánovaného rozšíření sítě. USA mají do roku 2034 vynaložit miliardu dolarů na ztrojnásobení rozsahu virtuální zdi.

Novomexická státní zákonodárkyně Sarah Silva podle MIT Technology Review na zjištění reagovala tím, že by na místě federální vlády nechala provést audit, protože systém podle ní zjevně nefunguje. CBP podle vyšetřování sice eviduje, kdy byla která věž instalována a kdy byla aktivní, žádný audit efektivity ale nikdy neprovedla, ačkoliv k tomu má technické možnosti už od roku 2015.

Redakce navrhuje čtyři kroky k nápravě. Prvním je komplexní audit úmrtí v blízkosti virtuální zdi, který by nahradil současné neúplné odhady založené na veřejně dostupných podkladech. Druhým je oprava systému sledování úmrtí a ostatků migrantů · interní systém CBP zvaný Border Safety Initiative Tracking System funguje od roku 2007, jednotná pravidla pro zadávání případů ale vznikla až v roce 2021, a Government Accountability Office (GAO) opakovaně upozornil, že mnoho případů zůstává mimo evidenci.

Třetím návrhem je sledování případů, kdy sledovací technologie skutečně vedla k zadržení osoby. Už v roce 2014 GAO doporučil, aby agenti zaznamenávali, zda konkrétní technologie pomohla při zadržení, v roce 2017 však zjistil, že sbíraná data byla nepřesná a nespolehlivá · agenti v Texasu například připisovali zásluhy věžím, které v daném státě vůbec neexistovaly. Podle bývalého úředníka CBP, který sloužil za Bidenovy administrativy, zůstává toto sledování v praxi jen formalitou.

Čtvrtým krokem je vyšetřování jednotlivých úmrtí jako potenciálních selhání dohledového systému · tedy ověřování, zda k úmrtí došlo v dosahu věže a proč dotyčná osoba nebyla včas odhalena. Podle vyšetřování CBP nemá povinnost takové kontroly provádět a záznamy z věží obvykle maže po 30 dnech, pokud není zahájeno interní šetření, k čemuž dochází většinou jen u úmrtí ve vazbě. Redakce uvádí příklad lokality v Novém Mexiku, kde v průběhu několika měsíců zemřelo v dohledu jedné pokročilé věže více lidí, někdy jen několik set stop od sebe.

Co to znamená: Pro firmy působící v oblasti bezpečnostních a AI technologií je tento případ dokladem toho, že nasazení dohledových algoritmů bez systematického auditu jejich reálné účinnosti a bez jasných protokolů pro sledování selhání může vést k závažným a dlouhodobě přehlíženým rizikům. Audit AI systémů musí zahrnovat nejen technickou funkčnost algoritmů, ale i procesní návaznost na reakci lidských operátorů a transparentní evidenci incidentů.

Zdroje: