Analiza ProPublica algorytmu oceny ryzyka recydywy w hrabstwie Broward

Co się stało

ProPublica opublikowała 23 maja 2016 r. analizę wyników oceny ryzyka przypisanych ponad 7000 osób aresztowanych w hrabstwie Broward w latach 2013 i 2014. Według redakcji tylko 20 procent osób, którym przewidziano popełnienie przestępstwa z użyciem przemocy, faktycznie je popełniło. Redakcja wskazała też istotne różnice rasowe w wynikach. ProPublica podała, że producent algorytmu, spółka Northpointe, kwestionuje analizę.

Komentarz

Gdyby system oceniający ryzyko ponownego popełnienia przestępstwa był w Unii używany przez organy ścigania, byłby systemem wysokiego ryzyka według załącznika III pkt 6 lit. d AI Act, z obowiązkami od 2 grudnia 2027 r., a przy ocenie wyłącznie przez profilowanie co do zasady zakazanym (art. 5 ust. 1 lit. d). Podmiot stosujący powierza nadzór nad systemem wysokiego ryzyka osobom o niezbędnych kompetencjach, przeszkoleniu i uprawnieniach (art. 26 ust. 2). Obrońca powinien ustalić, czy wynik oceny ryzyka trafił do akt.

Przepisy powołane w komentarzu

• zał. III pkt 6 lit. d AI Act
• art. 113 akapit trzeci lit. c AI Act
• art. 26 ust. 2 AI Act
• art. 5 ust. 1 akapit pierwszy lit. d AI Act

Źródła

1. ProPublica 23 maja 2016 · dokument pierwotny

Opis i źródła sprawdzono 22 października 2026.

Jak cytować

dr P. Kowalski, Incydenty z udziałem sztucznej inteligencji, poz. 29, Analiza ProPublica algorytmu oceny ryzyka recydywy w hrabstwie Broward, stan na 22 października 2026, pawelkowalski.ai/incydenty-ai/propublica-algorytm-ryzyka-recydywy-broward/

Numer i adres tej pozycji są trwałe. Zasady doboru incydentów opisuję w sekcji Jak dobieram incydenty.