incydent · poz. 3
Śmiertelne potrącenie pieszej przez pojazd testowy Uber w Tempe
- Data zdarzenia
- 18 marca 2018
- Data ujawnienia
- 19 listopada 2019
- Kraj
- Stany Zjednoczone
- Stan faktów
- Potwierdzone dokumentem podmiotu lub organu
- Podmioty
- Uber Technologies, Inc. (Advanced Technologies Group), National Transportation Safety Board
Co się stało
Według raportu NTSB pojazd testowy z rozwijanym systemem automatycznej jazdy uderzył w Tempe w Arizonie 49-letnią pieszą przechodzącą poza przejściem i spowodował jej śmierć. System wykrył pieszą 5,6 sekundy przed uderzeniem, ale nie sklasyfikował jej prawidłowo jako pieszej. Konstrukcja systemu wykluczała awaryjne hamowanie w celu złagodzenia skutków zderzenia.
Skutki
NTSB przyjęła raport 19 listopada 2019 r. Jako prawdopodobną przyczynę wskazała brak monitorowania jazdy przez operatora, a do okoliczności przyczyniających się zaliczyła m.in. niedostateczne procedury oceny ryzyka w Uber ATG. Badanie NTSB skupiło się na niedostatecznej kulturze bezpieczeństwa tej spółki.
Komentarz
Dyrektywa (UE) 2024/2853 uznaje oprogramowanie za produkt (art. 4 pkt 1), a produkt za wadliwy, gdy nie zapewnia bezpieczeństwa, którego osoba ma prawo oczekiwać, z uwzględnieniem projektu i cech technicznych (art. 7 ust. 1 i ust. 2 lit. a). Stosuje się ją do produktów wprowadzonych do obrotu lub oddanych do użytku po 9 grudnia 2026 r. (art. 2 ust. 1), a termin wdrożenia upływa tego dnia (art. 22 ust. 1). Testujący pojazdy w Polsce powinni zachowywać dane systemu i dokumentację.
Przepisy powołane w komentarzu
- art. 4 pkt 1 dyrektywy (UE) 2024/2853
- art. 7 ust. 1 dyrektywy (UE) 2024/2853
- art. 7 ust. 2 lit. a dyrektywy (UE) 2024/2853
- art. 2 ust. 1 dyrektywy (UE) 2024/2853
- art. 22 ust. 1 dyrektywy (UE) 2024/2853
Źródła
- National Transportation Safety Board 19 listopada 2019 · dokument pierwotny
Opis i źródła sprawdzono 22 października 2026.
Jak cytować
dr P. Kowalski, Incydenty z udziałem sztucznej inteligencji, poz. 3, Śmiertelne potrącenie pieszej przez pojazd testowy Uber w Tempe, stan na 22 października 2026, pawelkowalski.ai/incydenty-ai/uber-tempe-smiertelne-potracenie-pieszej/
Numer i adres tej pozycji są trwałe. Zasady doboru incydentów opisuję w sekcji Jak dobieram incydenty.
Poprzedni i następny incydent
-
Poprzedni incydent · poz. 2 · marzec 2016
Wyłączenie czatbota Tay przez Microsoft po wpisach w serwisie Twitter
-
Następny incydent · poz. 4 · maj 2018
Przetwarzanie danych o obywatelstwie przez holenderską administrację podatkową
informacja o współpracy
Szkolenia zamknięte z AI Act prowadzę dla kancelarii, urzędów, uczelni i zarządów spółek, a na konferencjach występuję z wykładami o prawie AI.
- Szkolenie z AI Act dla kancelarii prawnej
- Szkolenie z AI Act dla urzędu i jednostki samorządu
- Sesja o AI dla zarządu
- Wszystkie formaty i najbliższe wystąpienia
Wystarczy krótka wiadomość na adres pawel.kowalski@luminai.pl albo gotowy szablon wiadomości. Odpowiadam w ciągu dwóch dni roboczych, a zapytanie do niczego nie zobowiązuje.