Digitální panoptikon: Jak technologie mění tvář moderního dohledu

Od amerických ulic až po africké metropole se rozšiřují sofistikované systémy sledování využívající umělou inteligenci. Zatímco úřady slibují větší bezpečnost, kritici varují před vznikem ‘technokratického autoritářství’.

Když telefon nahradí detektiva

Představte si svět, kde stačí namířit telefon na něčí obličej a během vteřin získáte kompletní informace o této osobě. Tento scénář už není science fiction. Američtí imigrační agenti používají aplikaci Mobile Fortify, která dokáže pomocí rozpoznávání obličejů identifikovat kohokoliv na ulici.

Aplikace vyvinutá společností NEC Corporation funguje jednoduše – agent nasměruje telefon na osobu, systém porovná obličej s databázemi obsahujícími přes 270 milionů biometrických záznamů a během okamžiku vrátí jméno, datum narození i další osobní údaje. Technologie původně určená pro hraniční kontroly se nyní používá přímo v amerických městech.

Problem? Systém často chybuje. V jednom případě aplikace při skenování téže ženy vrátila dvě různá jména – obě nesprávná. Přesto agenti pokračují v zatýkání na základě těchto nepřesných výsledků.

Kvóty před spravedlností

Za masivním nasazením sledovacích technologií stojí jednoduchá matematika. Stephen Miller, architekt přísné imigrační politiky, a bývalá ministryně Kristi Noem nařídili agentům zatknout 3 000 lidí denně – celkem milion ročně.

‘Splnil jsem to? Zatýkal jsem, kolik jsem mohl, dokud to bylo zákonné,’ vypovídal pod přísahou agent označený jako J.B. Kvóty změnily charakter práce – místo cílených operací proti skutečným zločincům agenti zatýkají kohokoliv, kdo vypadá jako imigrant.

Výsledek je paradoxní: zatímco rozpočet ICE se ztrojnásobil, počet zatčených násilných zločinců zůstává stejný. Místo toho 41 procent zadržených tvoří lidé bez jakékoliv kriminální minulosti.

Africký experiment s čínskými technologiemi

Podobný vývoj probíhá na druhé straně světa. Jedenáct afrických zemí investovalo přes 2 miliardy dolarů (asi 46 miliard korun) do čínských sledovacích systémů. Nigérie vedla s investicí 470 milionů dolarů (10,8 miliardy korun) na 10 000 ‘chytrých’ kamer, následuje Egypt se 6 000 kamerami.

Čínské firmy jako Huawei, Hikvision a CloudWalk nabízejí kompletní balíčky – kamery, rozpoznávání obličejů, sledování vozidel i sběr biometrických dat. Vše pod záštitou ‘modernizace měst’ a ‘boje proti kriminalite’.

Realita je jiná. V Ugandě systémy monitorují aktivisty, v Keni byly nasazeny během protestů mladé generace Z. ‘Chytré město’ se rychle mění na nástroj kontroly.

Když se technologie obrátí proti občanům

Příběh MJMA, mexické zemědělkyně z Oregonu, ilustruje novou realitu. Cestovala s synem a synovcem do práce, když je zastavilo neoznačené vozidlo. Agent rozbil okno auta, aniž by se představil nebo vysvětlil důvod kontroly.

Vůz byl označen pomocí systému ELITE od společnosti Palantir, za který ministerstvo vnitřní bezpečnosti zaplatilo 60 milionů dolarů (1,4 miliardy korun). Software dokáže identifikovat ‘cílově bohaté’ oblasti s vysokou koncentrací imigrantů a pak je systematicky sledovat.

Jedna z nejděsivějších vlastností moderních sledovacích systémů je jejich všudypřítomnost. Lidé nemohou vědět, zda jsou jen zastrašováni, nebo skutečně skenováni. Jak poznamenal právník Nathan Wessler z ACLU: ‘Nikdo by neměl pochybovat, jestli je jen zastrašován, nebo podroben invazivnímu biometrickému skenování.’

Budoucnost bez soukromí

Technologie se vyvíjejí rychleji než zákony. Čínské úřady experimentují s umělou inteligencí, která dokáže předpovídat ‘společenské incidenty’ na základě analýzy osobnostních rysů a ‘vystavení negativním kulturním vlivům’. Západní společnosti nejsou pozadu – některé projekty zvažují použití modelů GPT od OpenAI.

V Africe méně než 20 procent zemí přijalo progresivní právní rámce na ochranu dat. Výsledkem je digitální kolonialismus, kde čínské firmy získávají přístup k biometrickým datům milionů lidí prakticky bez kontroly.

Senátor Ed Markey varuje: ‘Naše tváře nejsou čárové kódy, které by ICE mohlo skenovat a sledovat.’ Přesto se zdá, že právě to se děje. Otázka není, zda technologie změní naši společnost, ale jak rychle a zda si zachováme alespoň část svobody v digitálním panoptikonu 21. století.