Američtí zákonodárci říkají ministerstvu spravedlnosti, aby přestalo slepě financovat „prediktivní“ policejní nástroje

Americkému ministerstvu spravedlnosti se nepodařilo přesvědčit skupinu zákonodárců, že státní a místní policejní agentury nedostávají federální granty na nákup „policejních“ nástrojů založených na umělé inteligenci, o nichž je známo, že jsou nepřesné, ne-li náchylné k zhoršování předsudků, které byly dlouho pozorovány v USA. americké policejní síly.

Sedm členů Kongresu napsalo v dopise ministerstvu spravedlnosti, který jako první obdržela společnost WIRED, že informace, které z agentury vylovili, pouze rozdmýchaly jejich obavy z policejního grantového programu ministerstva spravedlnosti. Podle zákonodárců nic v jejích dosavadních odpovědích nenaznačuje, že by se vláda obtěžovala prošetřit, zda ministerstva udělovaná granty nakupovala diskriminační policejní software.

„Vyzýváme vás, abyste zastavili všechny granty ministerstva spravedlnosti na systémy prediktivní policie, dokud ministerstvo spravedlnosti nezajistí, že příjemci grantů nebudou používat takové systémy způsoby, které mají diskriminační dopad,“ píše se v dopise. Ministerstvo spravedlnosti již dříve přiznalo, že nesledovalo, zda policejní oddělení využívají finanční prostředky udělené v rámci grantového programu Edward Byrne Memorial Justice Assistance na nákup takzvaných prediktivních policejních nástrojů.

V čele se senátorem Ronem Wydenem, demokratem z Oregonu, zákonodárci tvrdí, že ministerstvo spravedlnosti musí ze zákona „pravidelně kontrolovat“, zda příjemci grantů dodržují hlavu VI národního zákona o občanských právech. Vysvětlují, že ministerstvu spravedlnosti je zjevně zakázáno financovat programy, u kterých se prokázalo, že diskriminují na základě rasy, etnického původu nebo národního původu, ať už je tento výsledek úmyslný nebo ne.

Nezávislé vyšetřování v tisku zjistilo, že populární „prediktivní“ policejní nástroje trénované na historických údajích o trestné činnosti často kopírují zažité předsudky a nabízejí vymáhání práva v nejlepším případě pozlátko vědecké legitimity a zároveň udržují přehnanou policejní kontrolu převážně černošských a latinskoamerických čtvrtí. . Říjnový titulek časopisu The Markup bez obalu říká: „Software prediktivní policie je hrozný při předpovídání zločinů.“ Příběh líčí, jak výzkumníci v publikaci nedávno prozkoumali 23 631 předpovědí policejních zločinů – a zjistili, že jsou přesné zhruba v 1 procentu času.

„Prediktivní policejní systémy se spoléhají na historická data zkreslená falešnými zprávami o zločinu a nepřiměřeným zatýkáním lidí jiné barvy pleti,“ napsali Wyden a další zákonodárci s předpovědí – stejně jako mnoho výzkumníků – že tato technologie slouží pouze k vytváření „nebezpečných“ smyček zpětné vazby. Prohlášení uvádí, že „objektivní předpovědi se používají k ospravedlnění nepřiměřených zastávek a zatýkání v menšinových čtvrtích“, což je další zkreslená statistika o tom, kde dochází k trestným činům.

Senátoři Jeffrey Merkley, Ed Markey, Alex Padilla, Peter Welch a John Fetterman také podepsali dopis, stejně jako zástupkyně Yvette Clarke.

Zákonodárci požádali, aby nadcházející prezidentská zpráva o policii a umělé inteligenci prošetřila používání prediktivních policejních nástrojů v USA. „Zpráva by měla posoudit přesnost a preciznost prediktivních policejních modelů napříč chráněnými třídami, jejich interpretovatelnost a platnost,“ a dodali, „jakákoli omezení při posuzování jejich rizik způsobených nedostatkem transparentnosti ze strany společností, které je vyvíjejí. “

Pokud by ministerstvo spravedlnosti chtělo pokračovat ve financování technologie po tomto hodnocení, zákonodárci říkají, že by mělo alespoň zavést „standardy důkazů“, aby bylo možné určit, které prediktivní modely jsou diskriminační – a pak odmítnout financování pro všechny, které je nesplňují.