Jakie AI faktycznie zakazuje AI Act?

Gdzie ten zakaz siedzi w akcie i dlaczego tak mocno boli

Akt sortuje zastosowania AI według ryzyka. Większość zastosowań ma ryzyko minimalne albo ograniczone i niesie lekkie obowiązki. Zdefiniowany zbiór zastosowań jest wysokiego ryzyka i niesie ciężkie obowiązki. Ponad tym wszystkim stoi krótka lista zastosowań, które akt uznaje za niedopuszczalne i zakazuje wprost. Tą listą jest Artykuł 5.

Dwie cechy odróżniają Artykuł 5 od reszty aktu. Po pierwsze, obowiązuje już teraz. Na mocy Artykułu 113 zakazy i obowiązek kompetencji AI zaczęły obowiązywać 2 lutego 2025 roku, przed obowiązkami dla wysokiego ryzyka i przejrzystości. Po drugie, wiąże każdego, kto wprowadza system AI na rynek, oddaje go do użytku albo z niego korzysta. Nie trzeba niczego zbudować. Deployer prowadzący zakazane zastosowanie jest narażony tak samo jak twórca.

Kary idą w parze z wagą naruszenia. Artykuł 99 ustala najwyższy próg kar za naruszenia Artykułu 5 na do 35 mln EUR albo 7% całkowitego rocznego obrotu światowego za poprzedni rok obrotowy, w zależności od tego, która wartość jest wyższa. Dla MŚP i startupów właściwym limitem jest niższa z tych dwóch wartości. Przepisy o karach z Artykułu 99 zaczęły obowiązywać 2 sierpnia 2025 roku. To jedyna część aktu, która sięga poziomu 7%, dlatego dokładne zrozumienie tych ośmiu linii jest warte wysiłku.

Uwaga co do czytania prawa. Artykuł 5 zawiera wiążący tekst. Motywy (numerowane akapity wyjaśniające na początku rozporządzenia) oraz wytyczne Komisji z lutego 2025 roku wyjaśniają, jak go interpretować. Wytyczne są szczegółowe i przydatne, ale Komisja wprost stwierdza, że nie są wiążące, a wiążącą wykładnię daje wyłącznie Trybunał Sprawiedliwości Unii Europejskiej.

Osiem zakazów w prostym języku

1. Szkodliwa manipulacja i wprowadzanie w błąd (Artykuł 5 ust. 1 lit. a)

Akt zakazuje AI, które wykorzystuje techniki podprogowe poza świadomością danej osoby albo celowo manipulacyjne lub wprowadzające w błąd techniki, żeby istotnie zniekształcić zachowanie poprzez odczuwalne osłabienie zdolności danej osoby do podjęcia świadomej decyzji, w sposób, który powoduje albo racjonalnie może powodować istotną szkodę.

Trzeba przeczytać całe zdanie, bo to element szkody wykonuje większość pracy. Muszą się zejść trzy rzeczy: technika manipulacyjna, wprowadzająca w błąd albo podprogowa, istotne zniekształcenie zachowania i realne prawdopodobieństwo istotnej szkody. Wytyczne Komisji opisują istotną szkodę jako obejmującą szkodę fizyczną, psychologiczną, finansową i ekonomiczną, i zaznaczają, że zwykła zgodna z prawem perswazja się nie kwalifikuje.

Realistyczny zakazany przypadek: chatbot, który stosuje wprowadzającą w błąd presję emocjonalną, żeby popchnąć podatnego na wpływ użytkownika w stronę decyzji drenujących jego oszczędności albo szkodzących zdrowiu. Co nie jest zakazane: standardowy marketing, testy A/B, feedy rekomendacji, perswazyjny copy i zwykła personalizacja. Wpływ staje się tu problemem dopiero wtedy, gdy przechodzi w ukrytą albo wprowadzającą w błąd technikę i wiąże się z realną perspektywą istotnej szkody. Większość komercyjnego AI nie robi ani jednego, ani drugiego.

2. Wykorzystywanie podatności (Artykuł 5 ust. 1 lit. b)

Akt zakazuje AI, które wykorzystuje podatności danej osoby albo grupy wynikające z wieku, niepełnosprawności albo konkretnej sytuacji społecznej lub ekonomicznej, żeby istotnie zniekształcić ich zachowanie w sposób, który powoduje albo racjonalnie może powodować istotną szkodę.

To bliski krewny zakazu manipulacji, wymierzony w AI, które celuje w ludzi dlatego, że są podatni na wpływ. Wywołujące podatności są konkretne: wiek (dzieci albo osoby starsze), niepełnosprawność albo zdefiniowana sytuacja społeczna lub ekonomiczna, taka jak poważne zadłużenie albo ubóstwo. Podobnie jak w punkcie a, muszą wystąpić razem zniekształcenie zachowania i realne prawdopodobieństwo istotnej szkody.

Realistyczny zakazany przypadek: aplikacja, która profiluje użytkowników w trudnej sytuacji finansowej i wykorzystuje to, żeby skierować ich ku szkodliwym, kosztownym zobowiązaniom, których inaczej by uniknęli. Co nie jest zakazane: funkcje dostępności, AI, które dostosowuje interfejs dla użytkowników z niepełnosprawnościami, żeby im pomóc, albo narzędzia skierowane do starszych użytkowników, które nie wykorzystują ich sytuacji, żeby im zaszkodzić. Projektowanie z myślą o podatnej grupie jest w porządku. Wykorzystywanie tej grupy na jej szkodę to jest linia.

3. Social scoring, czyli scoring społeczny (Artykuł 5 ust. 1 lit. c)

Akt zakazuje AI, które ocenia albo klasyfikuje ludzi w czasie na podstawie ich zachowania społecznego albo znanych, wywnioskowanych lub przewidywanych cech osobistych, gdy wynikający z tego social score prowadzi albo do niekorzystnego traktowania w kontekście niezwiązanym z miejscem zebrania danych, albo do niekorzystnego traktowania, które jest nieuzasadnione lub nieproporcjonalne do zachowania.

Skrót „social scoring" zaprasza do przesadnej reakcji, więc te dwa warunki mają znaczenie. Zakaz celuje w ogólny scoring ludzi, który potem produkuje niesprawiedliwe konsekwencje, zwłaszcza gdy dane zebrane w jednym kontekście są używane przeciwko komuś w niezwiązanym kontekście.

Realistyczny zakazany przypadek: system, który agreguje aktywność kogoś w mediach społecznościowych, nawyki zakupowe i przemieszczanie się w ogólny wynik wiarygodności, który potem blokuje mu dostęp do niezwiązanej usługi publicznej albo świadczenia. Co nie jest zakazane: zgodny z prawem, ograniczony do konkretnego celu scoring, taki jak scoring kredytowy na mocy przepisów finansowych, scoring ryzyka oszustwa czy underwriting ubezpieczeniowy, o ile mieści się w swoim celu i obowiązującym prawie. Wytyczne Komisji wprost mówią, że nie każdy model scoringowy jest zakazanym social score. Cechami odróżniającymi są szeroka agregacja między kontekstami i nieproporcjonalna albo kontekstowo niezwiązana szkoda, która z niej wynika.

4. Przewidywanie indywidualnego ryzyka przestępstwa przez profilowanie (Artykuł 5 ust. 1 lit. d)

Akt zakazuje AI używanego do oceny albo przewidywania ryzyka popełnienia przestępstwa przez daną osobę, gdy ta ocena opiera się wyłącznie na profilowaniu tej osoby albo na ocenie jej cech osobowości i charakterystyk.

Zawiasem jest jedno słowo: „wyłącznie". Zakaz celuje w predykcyjne policing wymierzone w konkretne osoby, gdzie przewidywanie opiera się tylko na profilu, nie na faktach. Tekst zawiera własny wyjątek: zakaz nie obejmuje AI, które wspiera ludzką ocenę udziału kogoś w działalności przestępczej, gdy ta ocena opiera się już na obiektywnych i weryfikowalnych faktach bezpośrednio związanych z działalnością przestępczą.

Realistyczny zakazany przypadek: narzędzie, które oznacza konkretne, nazwane osoby jako przyszłych sprawców wyłącznie na podstawie profilowania demograficznego i osobowościowego. Co nie jest zakazane: narzędzie analityczne, które pomaga śledczemu przejść przez obiektywne, weryfikowalne dowody już powiązane z konkretnym przestępstwem. Ten zakaz jest sprawą wprost dotyczącą organów ścigania i bezpieczeństwa publicznego i ma niewielkie znaczenie dla typowego stacku firmowego. Jest tu ujęty, bo tych osiem zakazów zwykle cytuje się razem jako komplet.

5. Nieukierunkowane zbieranie danych do rozpoznawania twarzy (Artykuł 5 ust. 1 lit. e)

Akt zakazuje systemów AI, które tworzą albo rozbudowują bazy danych do rozpoznawania twarzy przez nieukierunkowane zbieranie wizerunków twarzy z internetu albo z nagrań CCTV.

To jedna z najbardziej jednoznacznych linii w Artykule 5. Celuje w masowe, niewybiórcze zbieranie twarzy w celu zbudowania albo rozbudowania bazy rozpoznawania. Kluczowe jest słowo „nieukierunkowane": zakazane jest zgarnianie twarzy na masową skalę bez konkretnej, zgodnej z prawem podstawy.

Realistyczny zakazany przypadek: zbieranie milionów zdjęć z mediów społecznościowych i publicznych stron, żeby zbudować bazę do wyszukiwania twarzy. Co nie jest zakazane: firma używająca odblokowania twarzą na własnych zarejestrowanych urządzeniach albo budynek prowadzący kontrolę dostępu na podstawie zgody własnych zarejestrowanych pracowników. Różnicą jest zgoda i ukierunkowanie w zestawieniu z masowym, niewybiórczym zbieraniem. Dla większości organizacji praktycznym wnioskiem jest pytanie do dostawcy: nie kupuj funkcji rozpoznawania twarzy zbudowanej na bazach ze scrapingu.

6. Rozpoznawanie emocji w pracy i edukacji (Artykuł 5 ust. 1 lit. f)

Akt zakazuje AI używanego do wnioskowania o emocjach danej osoby w miejscu pracy albo w placówkach edukacyjnych, poza przypadkami, gdy system jest przeznaczony do celów medycznych albo bezpieczeństwa.

To jeden z niewielu zakazów, który może dotknąć zwykłych pracodawców i szkoły, więc warto o nim mówić precyzyjnie. Obejmuje AI, które twierdzi, że odczytuje stany emocjonalne, takie jak stres, zaangażowanie czy nastrój, z twarzy, głosu albo innych sygnałów, w kontekście pracy albo edukacji. Wyjątek jest wąski i konkretny: cele medyczne albo bezpieczeństwa. System wykrywania zmęczenia mający chronić bezpieczeństwo kierowcy albo operatora maszyny może mieścić się w wyjątku bezpieczeństwa. Narzędzie, które ocenia pracowników pod kątem entuzjazmu podczas rozmów albo monitoruje uwagę uczniów w klasie, już się w nim nie mieści.

Realistyczny zakazany przypadek: oprogramowanie, które ocenia handlowców na podstawie wykrytych emocji podczas rozmów z klientami, albo które monitoruje uwagę uczniów przez analizę emocji z kamery internetowej. Co nie jest zakazane: wykrywanie faktycznych stanów z uzasadnionego powodu bezpieczeństwa, na przykład senności na stanowisku krytycznym dla bezpieczeństwa. Warto zauważyć granicę, którą kreślą wytyczne: wnioskowanie o emocjach jest ograniczone, ale wykrywanie łatwo widocznych stanów fizycznych albo ekspresji z uzasadnionych powodów jest traktowane inaczej niż wnioskowanie o wewnętrznym stanie emocjonalnym. Jeśli prowadzisz jakiekolwiek narzędzie people analytics albo analizy rozmów, to jest zakaz najbardziej wart sprawdzenia.

7. Kategoryzacja biometryczna wrażliwych cech (Artykuł 5 ust. 1 lit. g)

Akt zakazuje systemów kategoryzacji biometrycznej, które kategoryzują osoby na podstawie ich danych biometrycznych, żeby wydedukować albo wywnioskować rasę, poglądy polityczne, przynależność związkową, przekonania religijne lub filozoficzne, życie seksualne albo orientację seksualną.

Zakaz dotyczy używania biometrii (twarzy, głosu, danych o ciele) do wnioskowania o zamkniętej liście wrażliwych cech. Ta lista odzwierciedla szczególne kategorie danych chronione prawem ochrony danych. Tekst wyłącza jedną rzecz: nie obejmuje etykietowania albo filtrowania zgodnie z prawem pozyskanych zbiorów danych biometrycznych, na przykład sortowania obrazów, ani kategoryzacji danych biometrycznych w obszarze ścigania przestępstw.

Realistyczny zakazany przypadek: system, który wnioskuje o orientacji seksualnej albo poglądach politycznych ludzi na podstawie ich twarzy albo głosu. Co nie jest zakazane: zgodne z prawem filtrowanie albo etykietowanie biblioteki obrazów, którą legalnie posiadasz, albo grupowanie biometryczne, które nie celuje w listę wrażliwych cech. Sprzedawca detaliczny używający kamery do szacowania ruchu klientów nie kategoryzuje ludzi według religii. Linia jest konkretna: wnioskowanie o chronionych cechach z danych biometrycznych.

8. Identyfikacja biometryczna w czasie rzeczywistym na odległość w przestrzeni publicznej na potrzeby ścigania przestępstw (Artykuł 5 ust. 1 lit. h)

Akt zakazuje używania systemów identyfikacji biometrycznej w czasie rzeczywistym na odległość w przestrzeniach publicznie dostępnych na potrzeby ścigania przestępstw, chyba że i wyłącznie w zakresie, w jakim jest to bezwzględnie konieczne dla jednego z trzech wymienionych celów.

To najbardziej warunkowy zakaz w Artykule 5 i najczęściej błędnie odczytywany co do swojego zakresu. To nie jest ogólny zakaz rozpoznawania twarzy. Celuje w konkretną rzecz: identyfikację biometryczną na żywo, na odległość, typu jeden do wielu, osób w przestrzeni publicznej, stosowaną przez albo na potrzeby ścigania przestępstw. Trzy wąskie cele, które mogą znieść zakaz, są zapisane w tekście: ukierunkowane poszukiwanie konkretnych ofiar uprowadzenia, handlu ludźmi lub wykorzystywania seksualnego oraz poszukiwanie osób zaginionych; zapobieżenie konkretnemu, poważnemu i bezpośredniemu zagrożeniu życia albo bezpieczeństwa fizycznego, albo rzeczywistemu i przewidywalnemu zagrożeniu atakiem terrorystycznym; oraz lokalizacja albo identyfikacja osoby podejrzanej o poważne przestępstwo wymienione w Załączniku II i zagrożone karą co najmniej czterech lat pozbawienia wolności.

Nawet w ramach tych celów użycie jest mocno ograniczone bramkami. Artykuł 5 wymaga oceny wpływu na prawa podstawowe na mocy Artykułu 27, rejestracji w unijnej bazie danych na mocy Artykułu 49 oraz uprzedniej zgody sądu albo niezależnego organu administracyjnego (z wąskim wyjątkiem pilności, który wciąż wymaga zgody w ciągu 24 godzin). Prawo krajowe musi w ogóle zezwolić na takie użycie, a państwa członkowskie mogą zdecydować się na jego ściślejszy zakaz. Cała ta struktura to instalacja dla organów ścigania. Nie sięga po prywatne firmy prowadzące zwykłą weryfikację tożsamości.

Częste przypadki, które ludzie błędnie uważają za zakazane

Większość niepokoju wokół Artykułu 5 dotyczy zastosowań, które są zgodne z prawem. Pomaga nazwać je wprost.

• ChatGPT, Copilot, Gemini do codziennej pracy · Status pod Artykułem 5: Nie zakazane · Dlaczego: Zwykłe zastosowanie produktywnościowe nie angażuje żadnego z ośmiu zakazów
• Personalizacja marketingowa i feedy rekomendacji · Status pod Artykułem 5: Nie zakazane · Dlaczego: Zgodna z prawem perswazja to nie ukryta manipulacja powiązana z istotną szkodą
• Scoring kredytowy, scoring ryzyka oszustwa, underwriting ubezpieczeniowy · Status pod Artykułem 5: Nie zakazane · Dlaczego: Scoring ograniczony do konkretnego celu na mocy obowiązującego prawa to nie ogólny social scoring
• Funkcje dostępności dla użytkowników z niepełnosprawnościami · Status pod Artykułem 5: Nie zakazane · Dlaczego: Projektowanie z myślą o podatnej grupie to nie wykorzystywanie jej, żeby zaszkodzić
• Odblokowanie twarzą i kontrola dostępu biometrycznego za zgodą · Status pod Artykułem 5: Nie zakazane · Dlaczego: Ukierunkowana rejestracja za zgodą to nie nieukierunkowany scraping ani identyfikacja biometryczna na potrzeby ścigania przestępstw
• Wykrywanie senności albo zmęczenia dla bezpieczeństwa · Status pod Artykułem 5: Nie zakazane · Dlaczego: Mieści się w wyjątku medycznym albo bezpieczeństwa od zakazu rozpoznawania emocji
• Analityka ruchu klientów albo kolejek na podstawie kamer · Status pod Artykułem 5: Nie zakazane, jeśli nie wnioskuje o wrażliwych cechach · Dlaczego: Liczenie ludzi to nie kategoryzacja biometryczna chronionych cech

Zastosowanie, które wygląda intensywnie, takie jak monitoring, scoring czy personalizacja, nie jest zakazane tylko dlatego, że jest intensywne. Każdy zakaz ma konkretny wyzwalacz, a większość tych codziennych zastosowań tego wyzwalacza nie trafia.

Odwrotną stroną jest krótka lista, która faktycznie zasługuje na drugie spojrzenie: analityka emocji w HR albo call center, wszystko, co wnioskuje o wrażliwych cechach osobistych z biometrii, każdy dostawca sprzedający rozpoznawanie twarzy zbudowane na danych ze scrapingu i każdy ogólny scoring ludzi między kontekstami. To tam realna weryfikacja się opłaca.

Co sprawdzić we własnym stacku

Nie trzeba przeczytać 140 stron, żeby oczyścić większość środowisk. Skupione przejście przez kilka kategorii wystarczy dla typowej firmy.

Zinwentaryzuj zastosowania AI, które dotykają ludzi. Z inwentarza AI wyciągnij wszystko, co profiluje, scoringuje, monitoruje albo wnioskuje o konkretnych osobach. Ogólne narzędzia do czatu i kodowania można szybko odłożyć na bok. Ryzyko koncentruje się w HR tech, narzędziach monitorujących, analityce klientów i biometrii.

Przyjrzyj się uważnie czterem kategoriom. Analiza emocji albo sentymentu stosowana wobec pracowników, kandydatów albo uczniów. Narzędzia biometryczne, które mogłyby wnioskować o wrażliwych cechach z punktu g. Każda funkcja rozpoznawania twarzy i to, skąd wzięła się jej baza danych. Każdy ogólny scoring ludzi, który agreguje zachowanie między niezwiązanymi kontekstami.

Zestaw opis dostawcy z wyjątkami. Jeśli narzędzie twierdzi, że wykrywa emocje, zapytaj, czy jego cel jest naprawdę medyczny albo bezpieczeństwa, czy jest to monitoring miejsca pracy albo klasy w przebraniu. Jeśli narzędzie oferuje wyszukiwanie twarzy, zapytaj, jak zbudowano bazową bazę danych. Wyjątki są konkretne, a karta produktu dostawcy zwykle mówi, po której stronie linii stoi dany produkt.

Udokumentuj wniosek. Dla każdego zastosowania AI dotyczącego ludzi zapisz, dlaczego jest poza Artykułem 5, albo eskaluj je, jeśli tak nie jest. Ten zapis to też dowód, którego będziesz potrzebować, jeśli zapyta kwestionariusz klienta albo regulator. Powiąż go z inwentarzem AI, żeby uzasadnienie żyło w jednym miejscu, a nie w czyjejś pamięci.

Trzymaj to osobno od pytania o wysokie ryzyko. Oczyszczenie z Artykułu 5 oznacza, że zastosowanie nie jest zakazane. Nie oznacza, że zastosowanie jest niskiego ryzyka. Niektóre zgodne z prawem zastosowania, takie jak AI w rekrutacji albo decyzjach kredytowych, są wysokiego ryzyka na mocy Załącznika III i niosą własne obowiązki w późniejszym harmonogramie. Zakazane i wysokiego ryzyka to dwie różne kontrole.

Źródła

• Article 5: Prohibited AI Practices, full text, Regulation (EU) 2024/1689 · https://artificialintelligenceact.eu/article/5/ (dosłowne brzmienie ośmiu zakazów, wyjątków i warunków dla organów ścigania; wejście w życie 2 lutego 2025)
• Commission publishes the Guidelines on prohibited AI practices, European Commission, Shaping Europe's digital future · https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act (wytyczne z lutego 2025, C(2025) 884 final, 4 lutego 2025; status niewiążący; przykłady)
• AI Act, regulatory framework overview, European Commission · https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai (struktura oparta na ryzyku, poziom zakazany, daty stosowania)
• Article 99: Penalties, Regulation (EU) 2024/1689 · https://artificialintelligenceact.eu/article/99/ (najwyższy próg 35 mln EUR albo 7% za naruszenia Artykułu 5; limity dla MŚP i startupów; stosowany od 2 sierpnia 2025)
• Article 113: Entry into Force and Application, Regulation (EU) 2024/1689 · https://artificialintelligenceact.eu/article/113/ (zakazy i obowiązek kompetencji AI w mocy od 2 lutego 2025)