Wyciek danych do AI

czym jest wyciek danych do AI

Wyciek danych do AI występuje wtedy, gdy dane firmowe, czyli informacje, które organizacja ma interes chronić, trafiają do zewnętrznego modelu AI bez umowy powierzenia przetwarzania danych (DPA), bez przeglądu warunków korzystania dostawcy i bez wiedzy organizacji, że to się wydarzyło.

Dane, których to dotyczy, obejmują zarówno informacje wrażliwe biznesowo, jak i chronione prawnie. Kod źródłowy i dokumentację produktu. Nazwiska klientów, dane kontaktowe i korespondencję. Prognozy finansowe i warunki umów. Dane pracowników. Wewnętrzne dokumenty strategiczne.

Mechanizm jest zwyczajny i codzienny: pracownik potrzebuje pomocy w napisaniu dokumentu, poprawieniu tłumaczenia, streszczeniu spotkania czy wyjaśnieniu fragmentu kodu. Wkleja odpowiednią treść do narzędzia AI i dostaje użyteczny wynik. Dane właśnie opuściły organizację na warunkach, których organizacja nigdy nie sprawdziła.

dlaczego wyciek danych do AI to problem strukturalny

Zachowanie, które prowadzi do wycieku danych do AI, jest uzasadnione i produktywne. Pracownicy używają narzędzi AI, żeby pracować szybciej. Problem w tym, że adopcja nastąpiła przed governance, więc nie ma jasnych zasad, co można udostępniać, a czego nie.

Narzędzia AI w wersji konsumenckiej, w tym darmowe wersje szeroko używanych platform, zwykle zastrzegają sobie prawo do wykorzystywania danych wejściowych do ulepszania swoich modeli. Pracownik korzystający z konta prywatnego lub darmowego działa na warunkach konsumenckich, których niemal na pewno nie przeczytał, a nie na Twojej umowie DPA.

W 2023 roku pracownicy Samsunga wklejali kod źródłowy i dane wewnętrzne do ChatGPT przez okres około trzech tygodni. Firma wykryła te incydenty i ograniczyła wewnętrzne użycie narzędzi AI. Ten przypadek wyróżnia się, bo wykrycie i zgłoszenie uczyniły go widocznym. Ten sam wzorzec występuje w organizacjach, które nie mają porównywalnej zdolności wykrywania ani żadnego zapisu tego, co wyciekło.

konkretne ryzyko związane z wyciekiem danych do AI

Konsekwencje niekontrolowanego wycieku danych do AI zależą od tego, co wyciekło i dokąd trafiło.

Ekspozycja regulacyjna. Dane osobowe klientów lub pracowników trafiające do modelu AI bez DPA to problem z RODO. Pytanie brzmi, czy masz podstawę prawną dla tego transferu i czy możesz to wykazać, niezależnie od tego, czy doszło do jakiejkolwiek szkody. W większości przypadków narzędzie AI w wersji konsumenckiej nie zapewnia warunków DPA, które uczyniłyby ten transfer zgodnym z prawem.

Ekspozycja własności intelektualnej. Kodu źródłowego, roadmapy produktu czy niepublikowanych badań, które trafią do danych treningowych modelu strony trzeciej, nie da się wycofać. Ta ekspozycja jest trwała.

Ekspozycja umowna. Informacje objęte NDA, które trafią do modelu strony trzeciej, mogą stanowić naruszenie NDA, nawet jeśli pracownik nie miał zamiaru niczego ujawniać. Umowy z klientami coraz częściej zawierają klauzule dotyczące obsługi danych, które może naruszyć prywatne użycie narzędzi AI.

Brak audit trail. Jeśli dane wyciekną przez prywatne konto AI, nie masz z tego żadnego logu. W kolejnym przeglądzie, dochodzeniu w sprawie incydentu czy audycie nie jesteś w stanie wykazać, co się wydarzyło, bo nic nie zostało zarejestrowane.

co działa

Kontrola zaczyna się od nazwania danych, które nie mogą wyciec. Klasyfikacja, która przypisuje kategorie do użycia AI, dane osobowe pod RODO, informacje objęte NDA, dane finansowe jeszcze niepubliczne, kod źródłowy, daje każdemu pracownikowi test, który może zastosować do konkretnej rzeczy, którą właśnie zamierza wkleić. Tutaj większość pracy wykonuje samo sformułowanie: „nie udostępniaj poufnych informacji" jest zbyt abstrakcyjne, żeby na nie zadziałać, podczas gdy krótka lista kategorii z przykładami z realnej pracy ludzi jest wystarczająco konkretna, żeby zmienić zachowanie. Klasyfikacja działa lepiej razem z opublikowaną listą zatwierdzonych narzędzi, która wskazuje, które mają wdrożone DPA i które działają z włączonym trybem enterprise, bo pracownicy, którzy widzą usankcjonowaną opcję, przestają improwizować.

Kontrole techniczne trzymają linię tam, gdzie stawka jest najwyższa. Polityki DLP skonfigurowane na wrażliwych kategoriach danych mogą oznaczać lub blokować transfery, a DLP działające na poziomie przeglądarki, dostępne w niektórych platformach endpoint management, obserwuje wzorzec wklejania do formularza webowego, który dominuje w realnych incydentach. Nie wychwytuje wszystkiego i nie musi, bo najczęstsze ścieżki wycieku to dokładnie to, co widzi.

Cichsza ekspozycja leży w warstwie OAuth. Aplikacje-konektory z szerokimi grantami do poczty czy dokumentów sięgają dużo dalej niż cokolwiek, co pracownik świadomie wklei, więc okresowy przegląd grantów związanych z AI w IdP, przycinający zakresy przekraczające zadanie, redukuje ekspozycję na poziomie dostępu, a nie prompt po prompcie.