Na Letních olympijských hrách 2024 vás AI sleduje

„Co děláme při přeměně CCTV kamer na výkonný monitorovací nástroj,“ říká Matthias Houllier, spoluzakladatel Wintics, jedné ze čtyř francouzských společností, které získaly zakázky na nasazení svých algoritmů na olympijských hrách. „S tisíci kamerami je to pro policisty nemožné [to react to every camera.]“

Společnost Wintics získala svou první veřejnou zakázku v Paříži v roce 2020 a shromáždila údaje o počtu cyklistů v různých částech města, aby pomohla pařížským dopravním úředníkům při plánování výstavby dalších cyklostezek. Napojením svých algoritmů na 200 stávajících dopravních kamer je systém Wintics – který je stále v provozu – schopen nejprve identifikovat a poté spočítat cyklisty uprostřed rušných ulic. Když Francie oznámila, že hledá společnosti, které by mohly vytvořit algoritmy, které by pomohly zlepšit bezpečnost na letošních letních olympijských hrách, Houllier to považoval za přirozený vývoj. „Technologie je stejná,“ říká. „Analyzuje anonymní tvary ve veřejném prostoru.“

Po trénování svých algoritmů na open source i syntetických datech byly systémy Wintics přizpůsobeny například tak, aby počítaly počet lidí v davu nebo počet lidí padajících na zem – upozorňovaly operátory, jakmile počet překročí určitou práh.

„A je to. Neexistuje žádné automatické rozhodnutí,“ vysvětluje Houllier. Jeho tým školil úředníky ministerstva vnitra, jak používat software společnosti, a oni se rozhodují, jak jej chtějí nasadit, říká. „Cílem je upoutat pozornost operátora, aby mohl dvakrát zkontrolovat a rozhodnout, co by se mělo udělat.“

Houllier tvrdí, že jeho algoritmy jsou alternativou ke kontroverzním systémům rozpoznávání obličejů, které používají minulé globální sportovní události, jako je mistrovství světa v Kataru v roce 2022, šetrnou k soukromí. „Tady se snažíme najít jiný způsob,“ říká. Pro něj je nechat algoritmy procházet záběry CCTV způsobem, jak zajistit, aby akce byla bezpečná, aniž by byly ohroženy osobní svobody. „Neanalyzujeme žádné osobní údaje. Jen se díváme na tvary, žádný obličej, žádné rozpoznávání SPZ, žádné analýzy chování.“

Ochránci soukromí však odmítají myšlenku, že tato technologie chrání osobní svobody lidí. Ve 20. obvodu Noémie Levain, členka aktivistické skupiny La Quadrature du Net, právě obdržela dodávku 6 000 plakátů, které skupina plánuje distribuovat a jejichž cílem je varovat své parížany před „algoritmickým dohledem“, který přebírá jejich město. a naléhat na ně, aby odmítli „autoritativní zabírání veřejných prostranství“. Odmítá myšlenku, že algoritmy nezpracovávají osobní údaje. „Když máte obrázky lidí, musíte analyzovat všechna data na obrázku, což jsou osobní údaje, což jsou biometrická data,“ říká. „Je to přesně stejná technologie jako rozpoznávání obličeje. Je to úplně stejný princip.“

Levain se obává, že sledovací systémy AI zůstanou ve Francii dlouho po odchodu sportovců. Podle ní tyto algoritmy umožňují policii a bezpečnostním službám zavést dohled na širších částech města. „Tato technologie bude reprodukovat stereotypy policie,“ říká. „Víme, že diskriminují. Víme, že vždy chodí do stejné oblasti. Vždy chodí a obtěžují stejné lidi. A tato technologie, stejně jako každá sledovací technologie, jim v tom pomůže.“

Zatímco motoristé zuří v centru města na bezpečnostní bariéry blokující ulice, Levain je jedním z mnoha Pařížanů, kteří plánují utéct na jih Francie, zatímco olympijské hry převezmou vládu. Přesto se bojí o město, které ji přivítá po jejím návratu. „Olympiáda je výmluva,“ říká. „Oni – vláda, firmy, policie – už o tom přemýšlí.“