Czy mój system AI jest wysokiego ryzyka według AI Act UE?

Jak Artykuł 6 prowadzi system przez klasyfikację

Klasyfikacja to bramka, przez którą prowadzisz każdy system po kolei. AI Act dzieli systemy według ryzyka, jakie stwarzają dla zdrowia, bezpieczeństwa albo praw podstawowych ludzi. Przed wysokim ryzykiem jest wcześniejszy poziom: praktyki zakazane z Artykułu 5, których żadna praca compliance nie uratuje. Załóż, że już potwierdziłeś, że system nie jest zakazany. Kolejne pytanie brzmi, czy jest wysokiego ryzyka, a Artykuł 6 daje dwie niezależne ścieżki do tej odpowiedzi.

System jest wysokiego ryzyka, jeśli spełnia którąkolwiek z tych ścieżek. Ścieżka pierwsza to ścieżka bezpieczeństwa produktu z Załącznika I w Artykule 6(1). Ścieżka druga to ścieżka zastosowań z Załącznika III w Artykule 6(2). To dwa osobne testy. System może być wysokiego ryzyka na podstawie każdej z nich, a analiza dla każdej wygląda inaczej. Ścieżka z Załącznika III to ta, z którą większość organizacji styka się jako pierwszą, bo obejmuje samodzielne oprogramowanie używane w nazwanych obszarach, a nie fizyczne czy regulowane produkty, więc od niej zaczyna się ten przewodnik.

Jeśli żadna ze ścieżek nie ma zastosowania, system nie jest wysokiego ryzyka. Może nadal nieść obowiązek przejrzystości z Artykułu 50 (na przykład chatbot albo generator treści syntetycznych) albo być ryzykiem minimalnym bez obowiązkowych wymogów. Klasyfikacja dotyczy systemu i zastosowania, nie dostawcy ani modelu. Ten sam model może być wysokiego ryzyka w jednym wdrożeniu i minimalnego w innym, bo Akt wiąże ryzyko z zamierzonym celem, nie z technologią, na której system stoi.

Ścieżka Załącznika III: osiem obszarów

Załącznik III wymienia zastosowania, które sprawiają, że samodzielny system AI jest wysokiego ryzyka na mocy Artykułu 6(2). Jest podzielony na osiem obszarów. System przeznaczony do użycia w jeden z tych sposobów jest wysokiego ryzyka, chyba że zastosowanie ma wyłączenie z Artykułu 6(3), omówione w kolejnej sekcji. Poniżej każdy obszar z prostymi przykładami, wziętymi bezpośrednio z tekstu Załącznika III.

1. Biometria (tam, gdzie dopuszcza to prawo unijne lub krajowe). Trzy podprzypadki: systemy zdalnej identyfikacji biometrycznej, kategoryzacja biometryczna według cech wrażliwych lub chronionych oraz rozpoznawanie emocji. Jest tu konkretne wyłączenie: weryfikacja biometryczna, której jedynym celem jest potwierdzenie, że dana osoba jest tym, za kogo się podaje (na przykład odblokowanie telefonu albo potwierdzenie tożsamości przy logowaniu), nie jest tu objęta.

2. Infrastruktura krytyczna. Systemy AI przeznaczone do użycia jako komponenty bezpieczeństwa w zarządzaniu i eksploatacji krytycznej infrastruktury cyfrowej, ruchu drogowego albo dostaw wody, gazu, ciepła czy energii elektrycznej. Kwalifikator „komponent bezpieczeństwa" ma znaczenie: chodzi o system, którego awaria albo błędne działanie zagraża bezpieczeństwu infrastruktury albo ludzi, nie o oprogramowanie zaplecza, które akurat znajduje się w pobliżu.

3. Edukacja i szkolenie zawodowe. AI używane do decydowania o przyjęciu albo przydzielaniu osób do instytucji; do oceny wyników nauczania, w tym tam, gdzie te wyniki kierują dalszą nauką danej osoby; do oceny odpowiedniego poziomu edukacji, jaki dana osoba otrzyma albo do jakiego będzie miała dostęp; oraz do monitorowania i wykrywania niedozwolonych zachowań podczas testów (nadzór egzaminacyjny).

4. Zatrudnienie, zarządzanie pracownikami i dostęp do samozatrudnienia. AI używane do rekrutacji albo selekcji, w szczególności do kierowania targetowanych ogłoszeń o pracę, analizowania i filtrowania aplikacji oraz oceny kandydatów; oraz AI używane do podejmowania decyzji wpływających na warunki stosunku pracy, awans albo zwolnienie, przydział zadań na podstawie indywidualnego zachowania albo cech, czy do monitorowania i oceny wydajności i zachowania. To obszar, którego dotyka najwięcej firm mid-market, przez narzędzia rekrutacyjne i HR.

5. Dostęp do podstawowych usług prywatnych i publicznych i korzystanie z nich. Cztery podprzypadki: ocena uprawnień do podstawowych świadczeń i usług pomocy publicznej (w tym opieki zdrowotnej) oraz ich przyznawanie, ograniczanie, cofanie czy odzyskiwanie, gdy robią to organy publiczne albo robi się to na ich rzecz; ocena zdolności kredytowej albo ustalanie scoringu kredytowego, z wyraźnym wyjątkiem dla systemów wykrywających oszustwa finansowe; ocena ryzyka i wycena dla ubezpieczeń na życie i zdrowotnych; oraz ocena i klasyfikacja zgłoszeń alarmowych albo dysponowanie służbami ratunkowymi pierwszej reakcji, w tym triaż medyczny.

6. Ściganie przestępstw (tam, gdzie dopuszcza to prawo). AI używane przez organy ścigania albo na ich rzecz do oceny ryzyka, że dana osoba stanie się ofiarą przestępstwa; jako wariograf albo podobne narzędzie; do oceny wiarygodności dowodów; do oceny ryzyka popełnienia albo powtórzenia przestępstwa (poza czystym profilowaniem); oraz do profilowania osób fizycznych podczas wykrywania, śledztwa albo ścigania.

7. Zarządzanie migracją, azylem i kontrolą graniczną (tam, gdzie dopuszcza to prawo). AI używane jako wariograf albo podobne narzędzie; do oceny ryzyka bezpieczeństwa, nielegalnej migracji albo ryzyka zdrowotnego stwarzanego przez osoby wjeżdżające albo już przebywające w państwie członkowskim; do wspierania rozpatrywania wniosków o azyl, wizę i pozwolenie na pobyt oraz powiązanych skarg; oraz do wykrywania, rozpoznawania albo identyfikowania osób w kontekście migracyjnym, z wyjątkiem weryfikacji dokumentów podróży.

8. Wymiar sprawiedliwości i procesy demokratyczne. AI używane do wspierania organu sądowego w badaniu i interpretacji faktów i prawa oraz w stosowaniu prawa do faktów (albo używane podobnie w alternatywnym rozwiązywaniu sporów); oraz AI używane do wpływania na wynik wyborów albo referendum albo na zachowania wyborcze. Drugi podprzypadek wyraźnie wyłącza narzędzia używane do organizowania, optymalizowania albo strukturyzowania kampanii politycznych z punktu widzenia administracyjnego albo logistycznego, gdzie osoby fizyczne nie są bezpośrednio wystawione na działanie wyniku.

Z tej listy warto wynieść dwa wzorce. Po pierwsze, kilka obszarów jest ograniczonych do organów publicznych albo ścigania przestępstw. Firma z sektora prywatnego najprawdopodobniej spotka się z obszarami 3, 4 i 5 (edukacja, zatrudnienie oraz pozycje dotyczące kredytu, ubezpieczeń i podstawowych usług). Po drugie, sam tekst Załącznika III niesie własne wąskie wyłączenia: weryfikacja biometryczna, wykrywanie oszustw finansowych, weryfikacja dokumentów podróży i narzędzia do kampanii logistycznych są wypisane z wysokiego ryzyka już w samym Załączniku, jeszcze zanim dojdziesz do wyłączenia z Artykułu 6(3).

Wyłączenie z Artykułu 6(3) i jego cztery warunki

Wpadnięcie w obszar Załącznika III to początek analizy, nie jej koniec. Artykuł 6(3) przewiduje odstępstwo. System z Załącznika III nie jest wysokiego ryzyka, jeśli nie stwarza istotnego ryzyka szkody dla zdrowia, bezpieczeństwa czy praw podstawowych osób fizycznych, w tym przez to, że nie wpływa istotnie na wynik podejmowania decyzji. Akt wiąże następnie ten standard z czterema warunkami: odstępstwo ma zastosowanie, gdy spełniony jest którykolwiek z nich.

• (a) Wąskie zadanie proceduralne · Co obejmuje: System wykonuje mechaniczną, dobrze zdefiniowaną pracę, która sama w sobie nie kształtuje decyzji o osobie: zamiana danych nieustrukturyzowanych na ustrukturyzowane, klasyfikowanie przychodzących dokumentów, wykrywanie duplikatów. · Gdzie przestaje mieć zastosowanie: W momencie, gdy zadanie zaczyna oceniać albo punktować osobę, zamiast tylko porządkować dane.
• (b) Poprawianie zakończonej czynności ludzkiej · Co obejmuje: System dopracowuje pracę, którą człowiek już skończył, nie zmieniając jej treści: poprawianie sformułowań albo stylu dokumentu, który ktoś już napisał. · Gdzie przestaje mieć zastosowanie: Gdy system tworzy treść, zamiast ją tylko dopracowywać.
• (c) Wykrywanie wzorców decyzji albo odchyleń · Co obejmuje: System oznacza wzorce albo odstępstwa od wcześniejszych wzorców i nie ma zastępować ani wpływać na wcześniej zakończoną ocenę ludzką bez właściwej weryfikacji przez człowieka. · Gdzie przestaje mieć zastosowanie: Gdy oznaczenie automatycznie steruje decyzją, bez realnej weryfikacji przez człowieka.
• (d) Zadanie przygotowawcze do oceny · Co obejmuje: System przygotowuje materiał do oceny dokonywanej przez człowieka, istotnej dla zastosowania z Załącznika III: indeksowanie, wyszukiwanie, łączenie albo tłumaczenie akt sprawy. · Gdzie przestaje mieć zastosowanie: Gdy przygotowanie zamienia się w rekomendację, na podstawie której działa osoba weryfikująca.

Wspólnym wątkiem wszystkich czterech warunków jest standard z pierwszego zdania Artykułu 6(3): system nie może stwarzać istotnego ryzyka szkody, a w szczególności nie może istotnie wpływać na wynik podejmowania decyzji. System, który generuje wynik, wokół którego kręci się decyzja, albo którego rezultat człowiek akceptuje bez prawdziwej weryfikacji, nie spełnia tego standardu, nawet jeśli powierzchownie wygląda jak jedno z czterech zadań. Cztery warunki to drogi do spełnienia standardu, nie sposób na jego obejście.

Provider, który na tej podstawie uznaje, że system nie jest wysokiego ryzyka, ma dwa obowiązki z Artykułu 6(4): udokumentować tę ocenę, zanim system trafi na rynek albo zostanie oddany do użytku, oraz zarejestrować system na mocy Artykułu 49(2). Dokumentacja musi być dostępna dla krajowych właściwych organów na żądanie. Powołanie się na wyłączenie to świadomy, udokumentowany akt podpisany twoim nazwiskiem, nie cichy domyślny wybór.

Nadpisanie przez profilowanie

Jest jedna zasada, która nadpisuje wszystkie cztery warunki. Drugi akapit Artykułu 6(3) stanowi, że system z Załącznika III jest zawsze wysokiego ryzyka, jeśli profiluje osoby fizyczne, niezależnie od tego, który z czterech warunków mógłby spełniać.

Profilowanie, w sensie, w jakim AI Act czerpie je z unijnego prawa ochrony danych, to każda forma zautomatyzowanego przetwarzania danych osobowych w celu oceny, analizy albo przewidywania aspektów danej osoby: jej wyników w pracy, sytuacji ekonomicznej, zdrowia, preferencji osobistych, wiarygodności, zachowania, lokalizacji czy przemieszczania się. Model kredytowy przewidujący, czy dana osoba spłaci zobowiązanie, to profilowanie. Model rekrutacyjny punktujący kandydata względem profilu docelowego to profilowanie. Model ubezpieczenia zdrowotnego przewidujący ryzyko roszczeń wnioskodawcy to profilowanie.

To zasada, która rozstrzyga większość granicznych przypadków. Jeśli system ocenia, analizuje albo przewiduje coś o konkretnych ludziach, cztery warunki nie pomogą: system jest wysokiego ryzyka i analiza się kończy. W praktyce warto najpierw sprawdzić nadpisanie przez profilowanie, ilekroć system dotyka konkretnych osób. Jeśli się ono uruchamia, reszta dyskusji o Artykule 6(3) jest bezprzedmiotowa. Wyłączenie realistycznie działa dla naprawdę mechanicznych i wspierających narzędzi wokół procesu wysokiego ryzyka, nie dla modelu, który stoi w centrum i dokonuje oceny.

Ścieżka Załącznika I: AI wewnątrz regulowanych produktów

Druga ścieżka do wysokiego ryzyka prowadzi przez Artykuł 6(1) i Załącznik I i nie ma nic wspólnego z listą zastosowań. Dotyczy AI powiązanego z produktami, które już podlegają unijnemu prawu bezpieczeństwa produktów. Żeby system był wysokiego ryzyka na tej ścieżce, muszą być spełnione oba warunki:

• System AI jest przeznaczony do użycia jako komponent bezpieczeństwa produktu albo sam jest produktem objętym unijnym prawodawstwem harmonizacyjnym wymienionym w Załączniku I (Artykuł 6(1)(a)). Załącznik I wymienia reżimy sektorowe, takie jak maszyny, wyroby medyczne, wyroby medyczne do diagnostyki in vitro, zabawki, dźwigi, urządzenia radiowe, pojazdy silnikowe i lotnictwo cywilne.
• Produkt (albo sam system AI jako produkt) musi przejść ocenę zgodności przez stronę trzecią, żeby móc zostać wprowadzony na rynek albo oddany do użytku na mocy tego prawodawstwa z Załącznika I (Artykuł 6(1)(b)).

Oba warunki są konieczne. Komponent bezpieczeństwa objęty prawodawstwem z Załącznika I, który nie wymaga oceny zgodności przez stronę trzecią, nie staje się wysokiego ryzyka na tej ścieżce. Zastrzeżenie „niezależnie od tego, czy system AI jest wprowadzany na rynek albo oddawany do użytku niezależnie od produktów" oznacza, że AI nie musi być sprzedawane osobno, żeby zostać objęte: komponent AI wbudowany w regulowany produkt podlega tym samym zasadom.

Dla większości firm software'owych ta ścieżka jest rzadsza niż Załącznik III, ale liczy się dla producentów wyrobów medycznych, maszyn przemysłowych i podobnego regulowanego sprzętu, który dziś wbudowuje AI. Tam, gdzie ma zastosowanie, wymogi AI Act zwykle wplata się w procedurę oceny zgodności, której i tak wymaga prawodawstwo produktowe, zamiast prowadzić je jako osobne ćwiczenie.

Szare strefy

Cztery warunki są napisane tak, jakby ryzyko było cechą systemu typu tak albo nie. W praktyce ocena robi się naprawdę trudna w kilku przewidywalnych miejscach i warto wiedzieć, w których.

Pierwsze to granica między porządkowaniem danych a ocenianiem osoby. Narzędzie do CV, które wyciąga imię i nazwisko, historię stanowisk i umiejętności do pól, wykonuje wąskie zadanie proceduralne z warunku (a). To samo narzędzie, które punktuje albo rankinguje kandydatów, profiluje, i wtedy uruchamia się nadpisanie. Ta różnica często sprowadza się do jednej funkcji.

Drugie to jakość weryfikacji przez człowieka w warunku (c). Warunek utrzymuje się tylko tam, gdzie system nie ma zastępować ani wpływać na ocenę ludzką bez właściwej weryfikacji przez człowieka. Narzędzie, którego oznaczenie człowiek faktycznie sprawdza i na podstawie którego podejmuje decyzję, zostaje w ramach wyłączenia. To samo narzędzie, którego oznaczenie jest automatycznie zatwierdzane albo które działa samodzielnie, przekroczyło granicę i wpływa na wynik. O tym decyduje, czy weryfikacja jest prawdziwa.

Trzecie to kwalifikator „komponent bezpieczeństwa" w obszarze 2 Załącznika III i w ścieżce Załącznika I. Nie każdy fragment oprogramowania dotykający infrastruktury krytycznej albo regulowanego produktu jest komponentem bezpieczeństwa. Pytanie brzmi, czy jego awaria zagraża bezpieczeństwu. Oprogramowanie zaplecza albo administracyjne w pobliżu regulowanego systemu nie jest objęte automatycznie.

Czwarte to różnica między zadaniem przygotowawczym z warunku (d) a rekomendacją. System, który indeksuje i tłumaczy dokumenty w aktach wniosku, jest przygotowawczy. System, który streszcza akta w rekomendację, na podstawie której działa osoba weryfikująca, zaczyna wpływać na wynik, a streszczenie, które ocenia zamiast opisywać, może samo być profilowaniem.

Ponieważ te oceny są kwestią interpretacji, znaczenie ma rola Komisji z Artykułu 6(5). Komisja ma obowiązek dostarczyć wytyczne dotyczące praktycznego wdrożenia Artykułu 6, razem z obszerną listą praktycznych przykładów zastosowań wysokiego ryzyka i tych, które nim nie są. Projekt wytycznych z tymi przykładami opublikowała 19 maja 2026 i otworzyła konsultacje z interesariuszami, a finalne wytyczne są spodziewane do końca 2026. Do czasu finalnej wersji projekt przykładów to najlepsza dostępna wskazówka co do tego, jak Komisja interpretuje granicę, i warto go sprawdzać przy każdym granicznym przypadku.

Co uruchamia klasyfikacja wysokiego ryzyka

Jeśli system jest wysokiego ryzyka, wiąże się z nim zdefiniowany zestaw obowiązków, a podział na obowiązki providera i deployera zależy od twojej roli z Artykułu 3.

Wymogi na poziomie systemu z Artykułów 8-15 spoczywają na providerze: system zarządzania ryzykiem przez cały cykl życia (Artykuł 9), dane i zarządzanie danymi (Artykuł 10), dokumentacja techniczna (Artykuł 11 i Załącznik IV), prowadzenie rejestrów i logowanie (Artykuł 12), przejrzystość i informacje dla deployerów (Artykuł 13), nadzór ludzki zaprojektowany w systemie (Artykuł 14) oraz dokładność, odporność i cyberbezpieczeństwo (Artykuł 15). Provider prowadzi też system zarządzania jakością (Artykuł 17), ocenę zgodności (Artykuł 43), sporządza deklarację zgodności (Artykuł 47), umieszcza oznakowanie CE (Artykuł 48) i rejestruje system (Artykuł 49).

Deployerzy systemów wysokiego ryzyka mają swój własny zestaw obowiązków z Artykułu 26: używanie systemu zgodnie z instrukcją, przydzielenie kompetentnego nadzoru ludzkiego, monitorowanie działania, prowadzenie logów i informowanie osób, których to dotyczy, w określonych przypadkach. Niektórzy deployerzy (podmioty publiczne oraz prywatni operatorzy świadczący usługi publiczne, plus zastosowania kredytowe i ubezpieczeniowe) muszą też przeprowadzić ocenę wpływu na prawa podstawowe (FRIA) na mocy Artykułu 27 przed pierwszym użyciem. Warto zauważyć, że rola może się zmienić: na mocy Artykułu 25 deployer może stać się providerem, na przykład przez istotną modyfikację systemu wysokiego ryzyka albo umieszczenie na nim własnej nazwy, i przejąć obowiązki providera.

Jeśli chodzi o terminy, obowiązki dla systemów wysokiego ryzyka mają bazową datę stosowania z Artykułu 113: 2 sierpnia 2026 dla samodzielnych systemów wysokiego ryzyka z Załącznika III i 2 sierpnia 2027 dla wbudowanych systemów wysokiego ryzyka z Załącznika I. Digital Omnibus, przyjęty przez Parlament 16 czerwca 2026 i przez Radę 29 czerwca 2026, przesuwa te daty na 2 grudnia 2027 (Załącznik III) i 2 sierpnia 2028 (Załącznik I). Na lipiec 2026 nie został jeszcze opublikowany w Dzienniku Urzędowym, więc na razie niczego nie zmienia. Daty bazowe to obowiązujące prawo i to one powinny kierować planowaniem do czasu publikacji. Praca budowlana stojąca za zgodnością dla wysokiego ryzyka, system zarządzania ryzykiem i dokumentacja techniczna z Załącznika IV, zajmuje wiele miesięcy, więc data obowiązywania liczy się mniej niż czas, jaki z niej wynika na przygotowania.

Źródła

• Article 6: Classification Rules for High-Risk AI Systems, EU Artificial Intelligence Act (Regulation (EU) 2024/1689) · https://artificialintelligenceact.eu/article/6/ (dwie ścieżki, wyłączenie z Artykułu 6(3) i cztery warunki, nadpisanie przez profilowanie, obowiązek dokumentacyjny z Artykułu 6(4), mandat na wytyczne z Artykułu 6(5))
• Annex III: High-Risk AI Systems Referred to in Article 6(2), EU Artificial Intelligence Act · https://artificialintelligenceact.eu/annex/3/ (osiem obszarów i ich podprzypadki, plus wyłączenia w samym Załączniku dla weryfikacji biometrycznej, wykrywania oszustw, weryfikacji dokumentów podróży i narzędzi do kampanii logistycznych)
• Annex I: List of Union Harmonisation Legislation, EU Artificial Intelligence Act · https://artificialintelligenceact.eu/annex/1/ (prawodawstwo bezpieczeństwa produktów stojące za ścieżką z Artykułu 6(1))
• Article 26: Obligations of Deployers of High-Risk AI Systems, EU Artificial Intelligence Act · https://artificialintelligenceact.eu/article/26/ (obowiązki deployera, gdy system jest wysokiego ryzyka)
• Article 27: Fundamental Rights Impact Assessment for High-Risk AI Systems, EU Artificial Intelligence Act · https://artificialintelligenceact.eu/article/27/ (kiedy deployer musi przeprowadzić FRIA)
• Article 113: Entry into Force and Application, EU Artificial Intelligence Act · https://artificialintelligenceact.eu/article/113/ (bazowe daty stosowania: 2 sierpnia 2026 dla Załącznika III, 2 sierpnia 2027 dla Załącznika I)
• Draft Commission guidelines on the classification of high-risk AI systems, European Commission, Shaping Europe's Digital Future, 19 May 2026 · https://digital-strategy.ec.europa.eu/en/library/draft-commission-guidelines-classification-high-risk-ai-systems (projekt wytycznych z Artykułu 6(5) i praktycznych przykładów, opublikowany do konsultacji, finalna wersja spodziewana do końca 2026)
• Artificial intelligence: Council and Parliament agree to simplify and streamline rules, Council of the EU, 7 May 2026 · https://www.consilium.europa.eu/en/press/press-releases/2026/05/07/artificial-intelligence-council-and-parliament-agree-to-simplify-and-streamline-rules/ (wstępne porozumienie w sprawie Digital Omnibus i zmiany dat dla wysokiego ryzyka; od tego czasu przyjęte przez Parlament 16 czerwca i Radę 29 czerwca 2026)
• EU AI Act Omnibus Agreement: Postponed High-Risk Deadlines and Other Key Changes, Gibson Dunn · https://www.gibsondunn.com/eu-ai-act-omnibus-agreement-postponed-high-risk-deadlines-and-other-key-changes/ (przesunięcie na 2 grudnia 2027 i 2 sierpnia 2028, w oczekiwaniu na publikację w Dzienniku Urzędowym)