Jakie ryzyka AI naprawdę musi rozumieć lider biznesu?

Ryzyko pierwsze: wrażliwe informacje wpisane do narzędzi AI

Co się dzieje. Pracownik wkleja listę klientów, projekt umowy, kod źródłowy albo prezentację dla zarządu do publicznego narzędzia AI, żeby dostać pomoc w jego uporządkowaniu. Praca idzie szybciej. Informacja opuściła twoją kontrolę i leży teraz w systemach strony trzeciej.

Dlaczego to ma znaczenie. Te dane mogą obejmować informacje osobowe, za które odpowiadasz prawnie na mocy RODO, warunki handlowe, które doceniłby konkurent, albo materiał objęty umową poufności z klientem. Jeśli umowa z klientem mówi, że jego dane zostają wewnątrz zatwierdzonych systemów, a twój zespół podał je konsumenckiemu narzędziu AI, złamałeś tę obietnicę, niezależnie od tego, czy cokolwiek kiedykolwiek wyciekło.

Jedna zasada, która to łagodzi. Zdecyduj, które narzędzia są zatwierdzone, i powiedz ludziom, czego nie wklejać do niczego innego. Krótka, nazwana lista zatwierdzonych narzędzi plus prosta zasada („dane klientów i dane osobowe trafiają wyłącznie do zatwierdzonych narzędzi") usuwa większość ekspozycji. Ludzie przestrzegają jasnych zasad, kiedy zatwierdzona ścieżka jest łatwa w użyciu.

Ryzyko drugie: dostawcy trenujący na twoich danych

Co się dzieje. Wiele narzędzi AI poprawia swoje modele, ucząc się z tego, co wpisują użytkownicy. W planach konsumenckich to często jest domyślnie włączone. Więc dokument, który twój zespół dziś wprowadził, może jutro kształtować zachowanie narzędzia, a w rzadkich przypadkach fragmenty mogą pojawić się u innych użytkowników.

Dlaczego to ma znaczenie. To różnica między narzędziem, które przetwarza twoje dane, a narzędziem, które je wchłania. Dla firmy obsługującej dane klientów, dane regulowane albo metody zastrzeżone, „dostawca trenuje na naszych danych wejściowych" to linia, której często nie powinno się przekraczać bez świadomej decyzji.

Jedna zasada, która to łagodzi. Korzystaj z planów biznesowych albo enterprise, w których wiarygodni dostawcy umownie zobowiązują się, że nie trenują na twoich danych wejściowych, i potwierdź to zobowiązanie na piśmie. Ustawienie, które to kontroluje, zwykle jest schowane w opcjach konta w planach konsumenckich i domyślnie włączone. Przeczytanie warunków użycia danych przed wdrożeniem narzędzia i wybór planu, który zostawia twoje dane twoimi, to cała gra.

Ryzyko trzecie: pewne siebie, ale błędne odpowiedzi wykorzystywane na zewnątrz

Co się dzieje. Narzędzia AI generują płynne, pewne siebie odpowiedzi, nawet gdy są błędne. Nie wahają się i nie sygnalizują wątpliwości. Wypolerowany ton jest taki sam, niezależnie od tego, czy treść jest trafna, czy zmyślona. Kiedy taka odpowiedź trafia prosto do klienta, regulatora albo opinii publicznej bez sprawdzenia przez człowieka, błąd staje się twój.

Dlaczego to ma znaczenie. W lutym 2024 kanadyjski trybunał nakazał Air Canada zrekompensować klientowi stratę, bo chatbot na stronie linii lotniczej podał mu błędną informację o taryfach żałobnych. Air Canada argumentowała, że chatbot jest osobnym podmiotem, odpowiedzialnym za własne wypowiedzi. Trybunał to odrzucił i uznał linię lotniczą za odpowiedzialną za to, co powiedział jej chatbot, przyznając klientowi zwrot strat. Wniosek jest prosty i dotyczy każdej firmy: „AI to powiedziało klientowi" nie jest obroną. Jeśli to nosi twoją nazwę, odpowiadasz za to, co mówi.

Jedna zasada, która to łagodzi. Trzymaj człowieka w pętli wszędzie tam, gdzie odpowiedź AI wychodzi na zewnątrz. Wewnętrzne szkicowanie może działać szybko i swobodnie. Wszystko, co trafia do klienta, regulatora, opinii publicznej albo do umowy, przechodzi przez czyjeś oczy, zanim wyjdzie. Im wyższa stawka, tym twardsza ta zasada.

Ryzyko czwarte: shadow AI, którego nie widzisz

Co się dzieje. „Shadow AI" to każde narzędzie AI, z którego korzystają twoi ludzie, a którego nie zatwierdziłeś i o którym nie wiesz. Marketer zapisuje się do asystenta pisania. Handlowiec podpina notatnika AI do każdego spotkania. Deweloper przyjmuje asystenta programistycznego. Nic z tego nie przechodzi przez IT ani zakupy, więc nic z tego nie pojawia się na żadnej liście, którą masz.

Dlaczego to ma znaczenie. Każde z powyższych ryzyk pogarsza się, gdy go nie widzisz. Nie możesz zweryfikować dostawcy, o którym nie wiesz, że go używasz, nie możesz sprawdzić warunków użycia danych narzędzia, o którym nikt ci nie powiedział, i nie możesz uczciwie odpowiedzieć na kwestionariusz bezpieczeństwa klienta, jeśli prawdziwa odpowiedź brzmi „nie jesteśmy pewni, czego używamy". Badania na rynku konsekwentnie pokazują, że spora część użycia AI wewnątrz firm jest niezatwierdzona, co oznacza, że większość liderów zarządza tylko tą częścią, którą widzi.

Jedna zasada, która to łagodzi. Najpierw zdobądź widoczność. Zanim spiszesz choćby jedną zasadę, dowiedz się, co faktycznie jest w użyciu. To może być tak proste, jak bezpośrednie zapytanie zespołów, przejrzenie, które aplikacje strony trzeciej dostały dostęp do twojej poczty i systemów plików, oraz sprawdzenie rozliczeń wydatków pod kątem subskrypcji AI. Nie da się zarządzać czymś, czego nie widać, więc inwentaryzacja poprzedza politykę.

Ryzyko piąte: asystenci i agenci AI z za dużym dostępem

Co się dzieje. Nowsze narzędzia AI robią więcej niż odpowiadanie na pytania. Podejmują działania: czytają twoje dyski współdzielone, przeszukują pocztę, wysyłają wiadomości, aktualizują rekordy. Żeby to robić, ktoś nadaje narzędziu dostęp do systemów firmowych. Często nadany dostęp jest dużo szerszy, niż wymaga tego zadanie, bo najszybsza konfiguracja to zatwierdzenie wszystkiego.

Dlaczego to ma znaczenie. Asystent AI z szerokim dostępem to potężny pomocnik, a jeśli coś pójdzie nie tak albo zostanie zmanipulowany, potężne zagrożenie. Jeśli potrafi odczytać każdy plik w firmie, wadliwa instrukcja albo złośliwy prompt może ujawnić informacje daleko wykraczające poza to, co powinien widzieć jeden pracownik. Wygoda „to sięga wszędzie" to jednocześnie rozmiar blast radius, kiedy coś się posypie.

Jedna zasada, która to łagodzi. Daj narzędziom AI dostęp minimalny, nie maksymalny. Ta sama zasada, którą stosujesz wobec pracowników, dotyczy też oprogramowania działającego w twoim imieniu: dostęp dopasowany do zadania, przeglądany okresowo i usuwany, gdy nie jest już potrzebny. Kiedy wdrażasz narzędzie, które podłącza się do twoich systemów, pytanie brzmi „do czego dokładnie ma dostęp", a odpowiedź powinna brzmieć „tylko do tego, czego potrzebuje".

Ryzyko szóste: deepfake i oszustwa polegające na podszywaniu się

Co się dzieje. AI potrafi dziś sklonować głos z krótkiego nagrania i wygenerować przekonujące wideo prawdziwej osoby. Atakujący wykorzystują to, żeby podszywać się pod kadrę zarządzającą i dostawców: głos brzmiący jak CEO, dzwoniący do księgowości w sprawie pilnej płatności, albo wideorozmowa z kimś, kto wygląda jak starszy menedżer autoryzujący przelew.

Dlaczego to ma znaczenie. Stare mechanizmy obrony przed oszustwem zakładały, że znajomy głos albo twarz to dowód tożsamości. To założenie już nie działa. Cele są przewidywalne i wysokiej wartości: instrukcje płatności, zmiany danych bankowych dostawcy, pilne prośby, które naciskają, żeby ktoś pominął standardowe kontrole. Firmy z segmentu mid-market są dokładnie w zasięgu, bo przesuwają realne pieniądze i często brakuje im sztywnych kontroli dużego przedsiębiorstwa.

Jedna zasada, która to łagodzi. Weryfikuj prośby o wysokiej wartości albo nietypowe drugim, zaufanym kanałem, bez względu na to, kto rzekomo pyta. Jeśli przychodzi instrukcja płatności albo zmiana danych bankowych, potwierdź ją, dzwoniąc na znany numer albo pytając osobiście. Zrób z tego stałą zasadę, żeby nikt nie czuł się niezręcznie, egzekwując ją wobec szefa. Prośba, która nie przetrwa oddzwonienia, nie była bezpieczna do wykonania.

Jak wygląda „dobrze"

Nie potrzebujesz dużego programu, żeby być w dobrym stanie. Firma z segmentu mid-market, która opanowała te ryzyka, zwykle ma na miejscu kilka rzeczy:

• Krótką, nazwaną listę zatwierdzonych narzędzi AI, na planach biznesowych, z warunkami użycia danych, które ktoś faktycznie przeczytał.
• Prostą zasadę o tym, jakie dane gdzie mogą trafić, którą ludzie rozumieją i potrafią stosować.
• Rozsądnie aktualny obraz tego, jakie AI jest w użyciu w firmie, odświeżany co jakiś czas, nie zgadywany raz.
• Nawyk ludzkiej weryfikacji wszystkiego wygenerowanego przez AI, co opuszcza firmę.
• Narzędzia AI podłączone do systemów firmowych z dostępem dopasowanym do potrzeb.
• Zasadę weryfikacji przez oddzwonienie dla pieniędzy i wrażliwych zmian, stosowaną wobec wszystkich.

Zwróć uwagę, jak mało z tego jest techniczne. To głównie jasność, kilka decyzji i dyscyplina, żeby je utrzymywać na bieżąco.

Wspólny mianownik

Pięć z tych sześciu ryzyk wraca do tego samego korzenia: nie da się zarządzać czymś, czego nie widać. Wrażliwe dane wyciekają, bo nikt nie określił, dokąd powinny trafiać. Dostawcy trenują na twoich danych, bo nikt nie przeczytał warunków. Shadow AI rośnie, bo nikt nie sprawdził. Nadmiernie szeroki dostęp się rozprzestrzenia, bo najłatwiejsza konfiguracja to zatwierdzenie wszystkiego. Widoczność jest na pierwszym miejscu, a resztę robi kilka jasnych guardraili.

Nic z tego nie jest powodem, żeby spowalniać zespół. Firmy, które robią AI dobrze, zwykle nie zakazały go ani nie zignorowały ryzyk, tylko zdobyły widoczność, ustaliły kilka zasad i pozwoliły ludziom pracować dalej. Te ryzyka da się opanować. Z jasnym obrazem tego, co masz uruchomione, i garścią guardraili dostajesz korzyści z AI bez nagłówków w prasie.

Źródła

• Moffatt v. Air Canada, 2024 BCCRT 149 (CanLII case comment) · https://www.canlii.org/en/commentary/doc/2025CanLIIDocs1963 · trybunał uznał Air Canada za odpowiedzialną za błędną informację, jaką klientowi podał jej chatbot; decyzja z lutego 2024.
• Air Canada found liable for chatbot's bad advice on bereavement rates (CBC News) · https://www.cbc.ca/news/canada/british-columbia/air-canada-chatbot-lawsuit-1.7116416 · relacja z orzeczenia, odszkodowania i odrzuconego argumentu Air Canada o „osobnym podmiocie".
• BC Tribunal Confirms Companies Remain Liable for Information Provided by AI Chatbot (American Bar Association) · https://www.americanbar.org/groups/business_law/resources/business-law-today/2024-february/bc-tribunal-confirms-companies-remain-liable-information-provided-ai-chatbot/ · analiza prawna potwierdzająca zasadę odpowiedzialności.