Wyłączenie czatbota Tay przez Microsoft po wpisach w serwisie Twitter

Co się stało

Według wpisu Petera Lee z 25 marca 2016 r. Microsoft uruchomił w środę czatbota Tay, przeznaczonego dla osób w wieku od 18 do 24 lat w Stanach Zjednoczonych. Microsoft podał, że w ciągu pierwszych 24 godzin skoordynowany atak grupy osób wykorzystał lukę w Tay, a bot opublikował niestosowne i naganne słowa oraz obrazy. Microsoft przeprosił i wyłączył Tay.

Skutki

Tay został wyłączony. Microsoft zapowiedział powrót dopiero wtedy, gdy będzie pewny, że lepiej przewidzi złośliwe zamiary sprzeczne z jego zasadami.

Komentarz

AI Act wymaga od systemów wysokiego ryzyka odporności na wykorzystanie luk (art. 15 ust. 5, od 2 grudnia 2027 r. dla zał. III), a Tay podlegałby raczej tylko obowiązkowi informacyjnemu z art. 50 ust. 1 (od 2 sierpnia 2026 r.). Dyrektywa (UE) 2024/2853 uwzględnia zdolność do dalszego uczenia się (art. 7 ust. 2 lit. c) przy produktach wprowadzonych do obrotu lub oddanych do użytku po 9 grudnia 2026 r. (art. 2 ust. 1). Uczące się czatboty warto testować przed uruchomieniem.

Przepisy powołane w komentarzu

• art. 15 ust. 5 AI Act
• art. 113 akapit trzeci lit. c ppkt (i) AI Act
• art. 50 ust. 1 AI Act
• art. 113 akapit drugi AI Act
• art. 7 ust. 2 lit. c dyrektywy (UE) 2024/2853
• art. 2 ust. 1 dyrektywy (UE) 2024/2853

Źródła

1. Microsoft, Official Microsoft Blog (kopia Internet Archive) 25 marca 2016 · dokument pierwotny

Opis i źródła sprawdzono 22 października 2026.

Jak cytować

dr P. Kowalski, Incydenty z udziałem sztucznej inteligencji, poz. 2, Wyłączenie czatbota Tay przez Microsoft po wpisach w serwisie Twitter, stan na 22 października 2026, pawelkowalski.ai/incydenty-ai/czatbot-tay-microsoft/

Numer i adres tej pozycji są trwałe. Zasady doboru incydentów opisuję w sekcji Jak dobieram incydenty.