Czy nasze narzędzie jest w ogóle systemem AI w rozumieniu AI Act

Brzmienie definicji systemu AI

„»system AI« oznacza system maszynowy, który został zaprojektowany do działania z różnym poziomem autonomii po jego wdrożeniu oraz który może wykazywać zdolność adaptacji po jego wdrożeniu, a także który, na potrzeby wyraźnych lub dorozumianych celów, wnioskuje, jak generować na podstawie otrzymanych danych wejściowych wyniki, takie jak predykcje, treści, zalecenia lub decyzje, które mogą wpływać na środowisko fizyczne lub wirtualne” (art. 3 pkt 1)

Definicja wygląda na pojemną i taka jest, ale ma jeden element rozstrzygający.

Jedna cecha, która rozstrzyga

Motyw 12 rozporządzenia mówi wprost, że pojęcie ma opierać się na cechach odróżniających systemy AI „od prostszych tradycyjnych systemów oprogramowania lub założeń programistycznych” i nie powinno obejmować „systemów opartych na zasadach określonych wyłącznie przez osoby fizyczne w celu automatycznego wykonywania operacji”.

Dalej motyw nazywa tę cechę: „Jedną z kluczowych cech systemów AI jest ich zdolność do wnioskowania”. Zdolność do wnioskowania to uzyskiwanie wyników oraz „zdolność systemów AI do tworzenia modeli lub algorytmów na podstawie informacji wejściowych lub danych”. Przesądza w praktyce zdanie, według którego zdolność do wnioskowania „wykracza poza podstawowe przetwarzanie danych w wyniku umożliwiania uczenia się, rozumowania lub modelowania”.

W praktyce rozstrzyga więc pytanie, czy zachowanie narzędzia wynika z reguł, które napisał człowiek, czy z zależności, które narzędzie samo wyprowadziło z danych.

Techniki wskazane w motywie 12 to uczenie maszynowe oraz podejścia oparte na logice i wiedzy, czyli wnioskowanie na podstawie zakodowanej wiedzy albo symbolicznego przedstawienia zadania.

Przykłady oprogramowania niebędącego systemem AI

Poniższe przykłady ilustrują konstrukcję prawną, nie są kwalifikacją konkretnych produktów.

• Arkusz kalkulacyjny liczący według formuł wpisanych przez pracownika, choćby bardzo rozbudowanych.
• Program księgowy stosujący stawki i progi wpisane do konfiguracji.
• Formularz, który po zaznaczeniu opcji podstawia gotowy fragment umowy z biblioteki wzorów.
• Wyszukiwarka wewnętrzna dopasowująca dokumenty po słowach kluczowych, bez modelu wyprowadzonego z danych.
• Reguła „jeżeli kwota przekracza X, skieruj sprawę do kierownika”, nawet gdy jest częścią dużego systemu.

We wszystkich tych przykładach cały mechanizm napisał człowiek, a program go wykonuje.

Przykłady oprogramowania będącego zwykle systemem AI

• Narzędzia oparte na dużych modelach językowych, także wtedy, gdy korzystasz z nich przez przeglądarkę i nic nie instalujesz.
• Model punktujący ryzyko, zdolność kredytową albo szansę na rynku pracy, wytrenowany na danych historycznych.
• Rozpoznawanie mowy, obrazu i pisma odręcznego.
• Systemy rekomendacyjne uczące się na zachowaniu użytkowników.
• Narzędzia przesiewające zgłoszenia rekrutacyjne na podstawie modelu, a nie na podstawie zapisanej listy warunków.

Błędy w kwalifikacji narzędzia jako systemu AI

Błędy w obu kierunkach występują na przemian i oba są kosztowne.

Błąd w jedną stronę to uznanie, że skoro narzędzie nie jest „sztuczną inteligencją” w potocznym rozumieniu, to rozporządzenie go nie dotyczy. Definicja nie wymaga pełnej samodzielności ani uczenia się po wdrożeniu. Wymaga natomiast, żeby system działał w pewnym stopniu niezależnie od człowieka (motyw 12). Zdolność adaptacji po wdrożeniu przepis ujmuje tylko jako możliwość („może wykazywać”).

Błąd w przeciwną stronę to uznanie, że każde oprogramowanie liczące cokolwiek jest już systemem AI, i objęcie obowiązkami całego zaplecza informatycznego. Motyw 12 wyklucza to wprost przy systemach opartych wyłącznie na regułach napisanych przez człowieka.

Ocenę trzeba zapisać. Jeżeli kiedyś ktoś zapyta, dlaczego organizacja nie stosowała obowiązków wobec konkretnego narzędzia, dowodem będzie ta notatka.

Status wytycznych Komisji

Komisja Europejska opublikowała 6 lutego 2025 r. wytyczne dotyczące definicji systemu AI. Wytyczne nie wiążą i sama Komisja zaznacza, że każdy przypadek wymaga oceny indywidualnej. Są jednak najlepszym dostępnym wskazaniem, jak organ będzie czytał przepis, więc przy sprawach granicznych sięgnij do nich i odnotuj, że się to zrobiło.

Skutki kwalifikacji narzędzia jako systemu AI

Ustalenie, że coś jest systemem AI, samo w sobie nie rodzi obowiązków poza art. 4, który dotyczy kompetencji personelu i obowiązuje już dziś. Ciężar obowiązków zależy od wyniku testu wysokiego ryzyka i od roli, w jakiej występujesz wobec tego systemu.