Zakaz wnioskowania o emocjach w miejscu pracy i w placówce edukacyjnej

Na czym polega zakaz

Art. 5 ust. 1 lit. f zakazuje wprowadzania do obrotu, oddawania do użytku w tym konkretnym celu oraz wykorzystywania systemów AI do wyciągania wniosków na temat emocji osoby fizycznej w miejscu pracy i w instytucjach edukacyjnych. Wyjątek obejmuje przypadki, w których system ma zostać wdrożony lub wprowadzony do obrotu ze względów medycznych lub bezpieczeństwa.

Dwa pojęcia trzeba trzymać osobno. Przepis mówi o wyciąganiu wniosków na temat emocji. Definicja z art. 3 pkt 39 dotyczy czegoś węższego, systemu rozpoznawania emocji, i wiąże go z danymi biometrycznymi. Chodzi o system służący do identyfikowania lub wyciągania wniosków na temat emocji lub zamiarów osób fizycznych na podstawie ich danych biometrycznych.

Komisja w wytycznych o zakazanych praktykach przyjęła, że lit. f czyta się przez tę definicję, a więc zakaz obejmuje wnioskowanie oparte na danych biometrycznych, natomiast analiza wydźwięku napisanego tekstu, służąca ustaleniu tonu wypowiedzi, poza zakaz wychodzi. Wytyczne nie wiążą sądów, a samo brzmienie lit. f o biometrii nie wspomina, więc zakres jest w tym punkcie sporny. Węższe odczytanie nie zwalnia zresztą z pozostałych obowiązków, bo narzędzie, które emocji z biometrii nie odczytuje, ale wpływa na zatrudnienie, może trafić do kategorii wysokiego ryzyka z załącznika III pkt 4.

Motyw 18 wyłącza z pojęcia emocji stany fizyczne, w tym ból i zmęczenie. System wykrywający senność kierowcy nie wchodzi pod zakaz właśnie dlatego, że mierzy zmęczenie, a nie emocję.

Przykładowe wdrożenie narzędzia analizującego nagrania rozmów w biurze obsługi telefonicznej

Spółka wdraża w biurze obsługi telefonicznej narzędzie analizujące nagrania rozmów. Dostawca opisuje je jako moduł oceny jakości obsługi.

Pierwsze pytanie dotyczy tego, co narzędzie wystawia jako wynik. Jeżeli podaje ocenę zgodności ze skryptem i liczbę przerwań rozmowy, narzędzie pozostaje poza zakazem. Jeżeli podaje poziom irytacji, zaangażowania albo pewności siebie konsultanta, wyciąga wnioski o emocjach.

Drugie pytanie dotyczy danych, mianowicie tego, czy wniosek płynie z barwy i natężenia głosu, czyli z danych biometrycznych, czy wyłącznie z transkrypcji tekstu. Przy pierwszej odpowiedzi zakaz stosuje się według wykładni Komisji, a przy drugiej sprawa jest sporna i wymaga własnej oceny.

Trzecie pytanie dotyczy wyjątku. Względy bezpieczeństwa rozumie się wąsko, jako ochronę życia i zdrowia, a nie jako dbałość o jakość obsługi ani o dyscyplinę pracy.

Spółka wyłącza moduł emocji, zostawia ocenę zgodności ze skryptem, zapisuje zrzut ustawień z datą i dopisuje do umowy zakaz przywracania tej funkcji przy aktualizacjach.

Poleganie na nazwie modułu, zgoda pracownika i przerzucenie odpowiedzialności na dostawcę

Poleganie na nazwie modułu zamiast na tym, co narzędzie faktycznie wystawia. Funkcje bywają nazywane analizą jakości albo badaniem zaangażowania, a pod spodem podają wnioski o stanie emocjonalnym.

Drugim błędem jest przyjęcie, że zgoda pracownika legalizuje takie narzędzie. Art. 5 formułuje zakaz, a nie warunek dopuszczalności, więc zgoda go nie znosi. Trzecim błędem jest uznanie, że skoro narzędzie kupiono od zewnętrznego dostawcy, odpowiada wyłącznie dostawca. Zakaz obejmuje również samo wykorzystywanie.

Zagadnienia nierozstrzygnięte

Sporny pozostaje zakres samej lit. f, czyli to, czy zakaz sięga wyłącznie wnioskowania z danych biometrycznych, jak przyjęła Komisja w niewiążących wytycznych, czy także wnioskowania z innych źródeł, na co wskazywałoby dosłowne brzmienie przepisu. Nie ma orzecznictwa, które by to rozstrzygnęło.

Nie jest też wyznaczona granica pojęcia względów bezpieczeństwa przy wyjątku ani to, jak traktować narzędzia podające wynik pośredni, na przykład ocenę „tonu rozmowy”, z której odbiorca sam wyciąga wniosek o emocjach.