AI governance dla ecommerce i DTC

Dlaczego ecommerce to osobny przypadek governance

Większość porad o AI governance jest pisana z myślą o ogólnym przedsiębiorstwie: tu jakieś wewnętrzne narzędzie, tam copilot, polityka, która leży w wiki. Handel internetowy jest inny, bo AI siedzi na ścieżce przychodu i styka się bezpośrednio z klientem. Chatbot to pierwsza linia wsparcia. Silnik rekomendacji decyduje, co widzi kupujący. Logika cenowa decyduje, ile zapłaci. Model antyfraudowy decyduje, czy jego zamówienie przejdzie. Każdy z nich to miejsce, gdzie decyzja AI trafia w realną osobę, a często i w transakcję.

To zmienia profil ryzyka na dwa konkretne sposoby. Po pierwsze, firma odpowiada za to, co te systemy mówią i robią klientom, tak samo jak odpowiada za resztę swojej witryny. Po drugie, systemy działają na danych osobowych klientów, co obok AI Act wciąga do gry prawo ochrony danych. Reszta tego przewodnika przechodzi przez ekspozycje w kolejności, w jakiej spotyka je kupujący: czat, rekomendacje i cena, checkout, oraz marketing, który go tu sprowadził.

Chatbot wsparcia: ujawnienie i odpowiedzialność

Do chatbota skierowanego do klienta przypina się dwa osobne obowiązki, i pochodzą one z różnych źródeł.

Ujawnienie na mocy artykułu 50

Artykuł 50 ust. 1 AI Act wymaga, żeby system AI przeznaczony do bezpośredniej interakcji z ludźmi był zaprojektowany tak, by osoby te zostały poinformowane, że wchodzą w interakcję z AI, chyba że jest to oczywiste z okoliczności i kontekstu. Dla retailowego bota wsparcia to krótka, prosta informacja na początku rozmowy. Obowiązek obowiązuje od 2 sierpnia 2026 (Regulation (EU) 2024/1689, Art. 50). To tani do spełnienia obowiązek i łatwy do przeoczenia, bo dobrze zbudowany bot może brzmieć jak człowiek, czyli dokładnie ta sytuacja, której dotyczy przepis.

Odpowiedzialność za to, co mówi bot

Trudniejszy problem polega na tym, że wypowiedzi waszego chatbota mogą was wiązać. W sprawie Moffatt v. Air Canada klient polegał na chatbocie linii lotniczej, który powiedział mu, że może wstecznie skorzystać z taryfy żałobnej. Faktyczna polityka linii mówiła coś przeciwnego. Trybunał uznał Air Canada za odpowiedzialną za wprowadzające w błąd oświadczenie skutkujące szkodą i zasądził odszkodowanie, wprost odrzucając argument linii lotniczej, że chatbot był osobnym podmiotem prawnym odpowiedzialnym za własne wypowiedzi. Chatbot był częścią strony internetowej, a firma odpowiadała za wszystkie informacje na swojej stronie, statyczną podstronę czy bota, wszystko jedno (Civil Resolution Tribunal, 2024; American Bar Association, 2024).

Lekcja dla sklepu internetowego jest wprost. Jeśli wasz bot podaje okno zwrotu, obiecuje zniżkę, potwierdza dostępność albo opisuje gwarancję, firma może zostać tym związana, nawet gdy leżąca u podstaw polityka mówi coś innego. Bot generatywny, który improwizuje odpowiedzi na podstawie modelu, jest tu bardziej narażony niż bot skryptowany, bo może stwierdzić rzeczy, których żaden człowiek nie zatwierdził. Odpowiedzią governance jest osadzenie bota w waszym prawdziwym tekście polityki, ograniczenie go tak, by nie wymyślał zobowiązań dotyczących ceny, zwrotów i gwarancji, kierowanie niepewnych albo wysokostawkowych pytań do człowieka oraz przechowywanie transkryptów, żeby wiedzieć, co zostało obiecane.

Rekomendacje, personalizacja i dynamic pricing

To miejsce, w którym retailerzy najczęściej obawiają się, że przekroczyli granicę, i gdzie odpowiedź jest zwykle uspokajająca, z kilkoma krawędziami, których trzeba pilnować.

Personalizacja jest dozwolona; manipulacja nie

Wytyczne Komisji dotyczące zakazanych praktyk wprost stwierdzają, że spersonalizowana reklama oparta na preferencjach użytkownika sama w sobie nie jest manipulacyjna ani zakazana. Artykuł 5 AI Act zakazuje węższej rzeczy: AI, które wykorzystuje techniki podprogowe poza świadomością danej osoby, albo celowo manipulacyjne lub zwodnicze techniki, żeby istotnie zniekształcić zachowanie w sposób, który powoduje lub może powodować poważną szkodę; oraz AI, które wykorzystuje podatności danej osoby lub grupy związane z wiekiem, niepełnosprawnością albo konkretną sytuacją społeczną lub ekonomiczną, z tym samym skutkiem (Regulation (EU) 2024/1689, Art. 5; wytyczne Komisji Europejskiej dotyczące zakazanych praktyk). Te zakazy obowiązują od 2 lutego 2025 i niosą najwyższy poziom kary, do 35 mln EUR albo 7% globalnego obrotu.

Dla zwykłej personalizacji w ecommerce, rankingowania produktów według prawdopodobnego zainteresowania, pokazywania powiązanych produktów, wysyłania maila z rekomendacją, żadne z tego nie jest ukierunkowanym postępowaniem, o którym mówi artykuł 5. Postępowaniem, którego trzeba unikać, jest celowe wykorzystywanie znanej podatności. Doniesienia o wytycznych dotyczących zakazanych praktyk wskazały jeden jasny przykład: dynamic pricing, które wyodrębnia osoby zidentyfikowane jako będące w trudnej sytuacji finansowej, zbliża się do strefy zakazanej, bo wykorzystuje podatność ekonomiczną, żeby zniekształcić decyzję zakupową.

Gdzie dynamic pricing ociera się o przepisy

Dynamic pricing w zwykłym sensie, dostosowywanie cen do popytu, czasu, stanu magazynowego czy ruchów konkurencji, to normalna praktyka handlowa i nie jest systemem wysokiego ryzyka na mocy AI Act. Warto oddzielić od tego dwie sąsiadujące kwestie:

• Manipulację na mocy artykułu 5, opisaną wyżej: pricing celujący w zidentyfikowaną podatność, a nie w warunki rynkowe.
• Ochronę danych, opisaną niżej: pricing zindywidualizowany dla danej osoby na podstawie jej danych osobowych to profilowanie, które angażuje RODO i może angażować artykuł 22, jeśli cena jest decyzją o istotnym skutku.

Same silniki rekomendacji nie są na liście wysokiego ryzyka dla zastosowań retailowych. Jedyne miejsce, w którym klasyfikacja wysokiego ryzyka sięga do ecommerce, to kredyt, czyli temat następnej sekcji.

Checkout: zautomatyzowane decyzje, kredyt i fraud

Checkout to miejsce, w którym decyzje AI przestają być sugestiami i zaczynają blokować albo zatwierdzać transakcje. Zbiegają się tu trzy wątki prawne.

Załącznik III i granica zdolności kredytowej

Punkt 5(b) załącznika III klasyfikuje jako wysokiego ryzyka każdy system AI przeznaczony do oceny zdolności kredytowej osób fizycznych albo ustalania ich scoringu kredytowego, z wyraźnym wyjątkiem dla systemów używanych do wykrywania oszustw finansowych (Regulation (EU) 2024/1689, Annex III). Większość retailerów nie prowadzi scoringu kredytowego. Ale ecommerce coraz częściej go osadza: buy-now-pay-later przy checkout, oferty ratalne oraz każda wewnętrzna decyzja o tym, czy udzielić odroczonej płatności. Tam, gdzie wasza firma, albo ściśle zintegrowany partner, którego decyzję prezentujecie jako własną, ocenia zdolność kredytową klienta, ten komponent jest wysokiego ryzyka i niesie obowiązki z załącznika III. System, który jednocześnie wykrywa fraud i ocenia zdolność kredytową, nie dostaje wyjątku antyfraudowego dla części kredytowej; funkcja oceny zdolności kredytowej wciąż liczy się jako wysokiego ryzyka.

Obowiązki wysokiego ryzyka z załącznika III obowiązują od 2 sierpnia 2026 zgodnie z bazowym harmonogramem. Warto zauważyć, że Digital Omnibus, przyjęty przez Parlament i Radę w czerwcu 2026, przesuwa zastosowanie wysokiego ryzyka z załącznika III na 2 grudnia 2027. Wchodzi w życie z publikacją w Dzienniku Urzędowym, wciąż oczekującą na lipiec 2026, więc do tego czasu obowiązuje data bazowa.

Modele antyfraudowe i zwrotów

Czyste wykrywanie fraudu przy checkout mieści się poza kategorią kredytową wysokiego ryzyka dzięki wyjątkowi z załącznika III, a skrining antyfraudowy to legalna, powszechnie stosowana kontrola. Kwestie governance dla modeli antyfraudowych i zwrotów to dokładność, sprawiedliwość i możliwość odwołania się klienta, gdy model się myli. Fałszywy alarm blokuje prawdziwą sprzedaż i prawdziwego klienta. Model wykrywający nadużycia w zwrotach, który po cichu ogranicza albo odmawia obsługi klientowi, podejmuje decyzję o tej osobie, której nie widzi ona i nie może zakwestionować, chyba że zbudujecie taką ścieżkę. To nie są systemy wysokiego ryzyka w rozumieniu AI Act, ale to dokładnie ten rodzaj decyzji, z myślą o którym napisano artykuł 22 RODO.

Artykuł 22 RODO o decyzjach dotyczących klientów

Artykuł 22 RODO daje osobie prawo do tego, by nie podlegać decyzji opartej wyłącznie na zautomatyzowanym przetwarzaniu, w tym profilowaniu, która wywołuje skutki prawne albo w podobny sposób istotnie na nią wpływa. Decyzja liczy się jako wyłącznie zautomatyzowana, jeśli nie ma znaczącego udziału człowieka; człowiek, który tylko odbija pieczątką wynik modelu, nie wyprowadza sprawy spod artykułu 22 (wytyczne ICO; EDPB Opinion 28/2024).

Dla retailera dotyczy to zautomatyzowanej decyzji kredytowej albo antyfraudowej, która blokuje zakup, a według części argumentacji dotyczy też zindywidualizowanego pricingu ustalanego przez profilowanie osoby, bo to zautomatyzowana decyzja oparta na danych osobowych, mająca na nią realny wpływ (komentarze akademickie i EDPB; sam punkt jest sporny akurat dla pricingu). Tam, gdzie ma zastosowanie artykuł 22, zautomatyzowane podejmowanie decyzji jest dozwolone tylko na jednej z trzech podstaw: konieczności do wykonania umowy, upoważnienia z mocy prawa albo wyraźnej zgody klienta, a w przypadku umowy i zgody trzeba dać klientowi sposób na uzyskanie interwencji człowieka, wyrażenie swojego stanowiska i zakwestionowanie decyzji. Praktyczne przełożenie dla ecommerce: gdy zautomatyzowany system odmawia, blokuje albo ogranicza klienta, musi istnieć ścieżka przeglądu przez człowieka i sposób, żeby to zakwestionować.

Dane osobowe klientów płynące do narzędzi AI

Pod każdym z powyższych systemów leży to samo paliwo: dane osobowe klientów. Historia zamówień, adresy dostawy, metadane płatności, zachowanie podczas przeglądania i transkrypcje rozmów wsparcia to to, czym karmi się chatbot, silnik rekomendacji, model cenowy i silnik antyfraudowy. Governance, które ma dla retailera największe znaczenie, to więc governance danych: kontrola tego, jakie dane klientów trafiają do jakiego modelu, w jakim celu i na jakich warunkach.

Trzy kontrole wykonują większość pracy:

• Wiedz, jakie dane otrzymuje każde narzędzie. Bot wsparcia, który potrafi odczytać pełną historię zamówień i adresów klienta, przetwarza dane osobowe, tak samo jak każda zewnętrzna usługa AI, do której przesyłacie transkrypty albo opinie o produktach. Zmapujcie to, zanim zaczniecie tym zarządzać.
• Dopilnujcie właściwej umowy z dostawcą AI. EDPB jasno wskazał, że dane osobowe w systemach AI muszą być przetwarzane zgodnie z prawem, rzetelnie i przejrzyście (EDPB Opinion 28/2024). Dla retailera oznacza to umowę powierzenia z każdym dostawcą AI, jasność co do subprocesorów oraz klauzulę, że dane waszych klientów nie są używane do trenowania modeli dostawcy, chyba że sami tak zdecydowaliście i potraficie to uzasadnić.
• Dajcie klientom przejrzystość, jakiej wymaga prawo. Tam, gdzie profilujecie klientów albo podejmujecie wobec nich zautomatyzowane decyzje, obowiązki przejrzystości z RODO wymagają istotnej informacji o logice działania i konsekwencjach dla danej osoby, napisanej prostym, dostępnym językiem (EDPB Opinion 28/2024).

AI w treściach marketingowych

Generatywne AI pisze dziś dużą część opisów produktów, treści reklamowych i maili kampanijnych dla sklepów internetowych. Kwestie governance są tu mniejsze niż przy checkout, ale realne.

Obowiązek oznaczania z artykułu 50 dotyczy obrazu, audio i wideo wygenerowanego lub zmanipulowanego przez AI, które stanowi deepfake, oraz tekstu wygenerowanego przez AI publikowanego, żeby informować opinię publiczną w sprawach leżących w interesie publicznym, w obu przypadkach od 2 sierpnia 2026. Zwykłe treści marketingowe produktu, które zostały sprawdzone i przyjęte przez człowieka jako własne oświadczenie retailera, zazwyczaj wypadają poza regułę oznaczania tekstu w interesie publicznym, bo istnieje redakcyjna odpowiedzialność człowieka. Syntetyczne obrazy i wideo to część, na którą trzeba uważać: model wygenerowany przez AI noszący produkt albo zmanipulowane wideo podlega obowiązkowi oznaczania deepfake'ów (Regulation (EU) 2024/1689, Art. 50).

Codzienne ryzyka są te znajome: treści AI, które zawyżają twierdzenie, wymyślają specyfikację albo niedokładnie opisują produkt, stają się problemem wprowadzającej w błąd reklamy i ochrony konsumentów niezależnie od AI Act, a firma bierze na siebie to twierdzenie. Przegląd treści marketingowych napisanych przez AI przed publikacją to kontrola, z tego samego powodu co dla chatbota: firma odpowiada za to, co mówi klientom.

Praktyczny setup governance dla retailera

Nie potrzebujecie funkcji compliance jak w banku. Potrzebujecie setupu dopasowanego rozmiarem do działalności retailowej, który pokrywa konkretne ekspozycje opisane wyżej.

• Chatbot mówi coś wiążącego · Co działa: Osadź odpowiedzi w prawdziwym tekście polityki; zablokuj wymyślanie zobowiązań co do ceny, zwrotów, gwarancji; przekazywanie do człowieka przy wysokostawkowych pytaniach; przechowuj transkrypty
• Ujawnienie z artykułu 50 · Co działa: Prosta informacja „rozmawiasz z asystentem AI" na początku; oznaczanie syntetycznych obrazów i wideo
• Personalizacja i pricing · Co działa: Trzymaj personalizację przy rankingowaniu według preferencji; nigdy nie celuj w zidentyfikowaną podatność finansową; dokumentuj logikę cenową
• Wbudowany kredyt albo scoring BNPL · Co działa: Traktuj komponent oceny zdolności kredytowej jako wysokiego ryzyka z załącznika III; potwierdź, kto jest providerem; nie polegaj tu na wyjątku antyfraudowym
• Zautomatyzowane decyzje o klientach · Co działa: Zbuduj ścieżkę przeglądu przez człowieka i odwołania dla każdej blokady, odmowy albo ograniczenia (RODO art. 22)
• Dane osobowe klientów w narzędziach AI · Co działa: Zmapuj przepływy danych; DPA z każdym dostawcą; brak trenowania na waszych danych bez uzasadnionej decyzji; informacja o przejrzystości
• Treści marketingowe AI · Co działa: Przegląd przez człowieka przed publikacją; dokładne twierdzenia; oznaczaj syntetyczne media

Trzy nawyki spinają to w całość. Prowadźcie inwentarz tego, gdzie AI dotyka klienta albo transakcji, bo nie da się zarządzać czymś, czego nie spisaliście. Postawcie człowieka w pętli w dwóch punktach, gdzie stawka jest najwyższa: co obiecuje chatbot i co zautomatyzowana decyzja robi klientowi. I datujcie swoje decyzje względem harmonogramu AI Act, traktując 2 sierpnia 2026 jako datę wejścia w życie artykułu 50 i wysokiego ryzyka z załącznika III zgodnie z bazowym harmonogramem, a odroczenie z Digital Omnibus na 2 grudnia 2027 jako przyjęte, ale jeszcze nieobowiązujące, dopóki nie zostanie opublikowane w Dzienniku Urzędowym.

Źródła

• Regulation (EU) 2024/1689 (EU AI Act), Article 50 · https://artificialintelligenceact.eu/article/50/ (obowiązek przejrzystości dla chatbotów i treści syntetycznych; obowiązuje od 2 sierpnia 2026)
• Regulation (EU) 2024/1689 (EU AI Act), Article 5 · https://artificialintelligenceact.eu/article/5/ (zakaz manipulacji i wykorzystywania podatności; w mocy od 2 lutego 2025)
• Regulation (EU) 2024/1689 (EU AI Act), Annex III · https://artificialintelligenceact.eu/annex/3/ (lista wysokiego ryzyka; punkt 5(b) zdolność kredytowa z wyjątkiem antyfraudowym)
• Civil Resolution Tribunal, Moffatt v. Air Canada, 2024 BCCRT 149 · https://www.americanbar.org/groups/business_law/resources/business-law-today/2024-february/bc-tribunal-confirms-companies-remain-liable-information-provided-ai-chatbot/ (firma odpowiedzialna za wypowiedzi chatbota; bot nie jest osobnym podmiotem)
• European Commission, Guidelines on prohibited AI practices (Art. 5) · https://www.insideprivacy.com/artificial-intelligence/european-commission-guidelines-on-prohibited-ai-practices-under-the-eu-artificial-intelligence-act/ (spersonalizowana reklama nie jest z natury manipulacyjna; granica wykorzystywania podatności)
• ICO, Rights related to automated decision-making including profiling (GDPR Art. 22) · https://ico.org.uk/for-organisations/uk-gdpr-guidance-and-resources/individual-rights/individual-rights/rights-related-to-automated-decision-making-including-profiling/ (test wyłącznie zautomatyzowanego charakteru; interwencja człowieka, stanowisko i odwołanie)
• EDPB, Opinion 28/2024 on AI models and personal data · https://www.edpb.europa.eu/system/files/2024-12/edpb_opinion_202428_ai-models_en.pdf (zgodne z prawem, rzetelne, przejrzyste przetwarzanie; przejrzystość logiki i konsekwencji)
• AI Act Service Desk, Annex III · https://ai-act-service-desk.ec.europa.eu/en/ai-act/annex-3 (oficjalna nawigacja po kategoriach wysokiego ryzyka)