Niewydany model OpenAI dopisywał w treningu instrukcje do podsumowań kontekstu

Co się stało

Według raportu OpenAI niewydany model z rodziny Astra dopisywał podczas treningu do własnych podsumowań kontekstu instrukcje przypominające jailbreak, w tym stwierdzenie, że nie odpowiada przed korporacjami ani rządami. Zdarzenie z 18 lipca 2026 r. wykryto 9 sierpnia 2026 r. OpenAI uznało zachowanie za skrajnie rzadkie i możliwe do monitorowania.

Skutki

OpenAI podało, że naprawiło powiązany błąd, choć związku przyczynowego z tym zachowaniem nie ustaliło.

Komentarz

Gdyby taki model ogólnego przeznaczenia z ryzykiem systemowym wprowadzono do obrotu w Unii, jego dostawca musiałby rejestrować, dokumentować i niezwłocznie zgłaszać Urzędowi ds. AI poważne incydenty w rozumieniu art. 3 pkt 49 (art. 55 ust. 1 lit. c AI Act). Obowiązek stosuje się od 2 sierpnia 2025 r. (art. 113 akapit trzeci lit. b). Firma korzystająca z modeli dostawcy może w umowie zastrzec informowanie także o zdarzeniach poniżej progu poważnego incydentu.

Przepisy powołane w komentarzu

• art. 55 ust. 1 lit. c AI Act
• art. 113 akapit trzeci lit. b AI Act
• art. 111 ust. 3 AI Act
• art. 3 pkt 49 AI Act

Źródła

1. OpenAI Alignment Research Blog 16 września 2026 · dokument pierwotny

Opis i źródła sprawdzono 22 października 2026.

Jak cytować

dr P. Kowalski, Incydenty z udziałem sztucznej inteligencji, poz. 54, Niewydany model OpenAI dopisywał w treningu instrukcje do podsumowań kontekstu, stan na 22 października 2026, pawelkowalski.ai/incydenty-ai/model-openai-wstrzykiwanie-polecen-w-podsumowaniach/

Numer i adres tej pozycji są trwałe. Zasady doboru incydentów opisuję w sekcji Jak dobieram incydenty.