Trenowanie AI na danych firmowych

co w praktyce oznacza „trenowanie na danych firmowych"

Większość dużych dostawców modeli AI oferuje kilka wersji. Wersje konsumenckie lub darmowe są zwykle częściowo finansowane przez zbierane dane. Warunki korzystania z tych wersji często stwierdzają, w języku, który różni się w zależności od dostawcy, że dane wejściowe mogą być wykorzystywane do ulepszania modeli, trenowania systemów AI lub powiązanych celów badawczych.

Wersje enterprise, często nazywane planami „enterprise" lub „business", zwykle zawierają umowę powierzenia przetwarzania danych i zobowiązanie, że dane wejściowe klienta nie są wykorzystywane do trenowania. Dostawca przetwarza Twoje dane, żeby dostarczyć usługę, i nic ponadto.

Praktyczna różnica polega na tym, że pracownik korzystający z konta darmowego wysyła dane firmowe do infrastruktury dostawcy na warunkach, które mogą zezwalać na trwałe zachowanie tych danych i ich wykorzystanie do trenowania modelu. Pracownik korzystający z konta enterprise wysyła te same dane na warunkach, które zabraniają takiego zachowania.

W 2023 roku pracownicy Samsunga wklejali kod źródłowy i dane wewnętrzne do ChatGPT przez okres około trzech tygodni. Incydent skłonił firmę do ograniczenia wewnętrznego dostępu do narzędzi AI. Ten przypadek pokazuje, co się dzieje, gdy adopcja darmowych wersji narzędzi wyprzedza governance.

dlaczego pracownicy domyślnie sięgają po konta prywatne i darmowe wersje

Darmowe narzędzia AI są dostępne od razu, nie wymagają procesu zakupowego i w większości przypadków wykonują te same podstawowe zadania co wersje enterprise. Pracownik, który chce użyć asystenta AI, nie ma powodu czekać, aż IT skonfiguruje konto enterprise, skoro może zacząć od konta prywatnego w kilka minut.

Różnica w obsłudze danych między wersjami nie jest widocznie eksponowana w interfejsie użytkownika. Narzędzie działa tak samo, niezależnie od tego, z jakiej wersji się korzysta. Różnica istnieje w warunkach korzystania, których większość użytkowników nie czyta, i w dokumentacji dostawcy, której większość zespołów IT nie przejrzała dla każdego narzędzia w użyciu.

W efekcie użycie darmowych narzędzi AI gromadzi się organicznie, napędzane produktywnością i wygodą, bez tego, żeby konsekwencje dotyczące obsługi danych były widoczne dla pracownika czy dla organizacji.

co trenowanie na danych firmowych oznacza dla Twojej organizacji

Ekspozycja zależy od tego, jakie dane zostały udostępnione i na co pozwalają warunki dostawcy.

Trwałe zachowanie danych. Dane wykorzystane do trenowania modeli AI są zwykle wbudowywane w wagi modelu w formie, której nie da się odzyskać ani usunąć. Jeśli dane firmowe zostały użyte do trenowania modelu dostawcy, nie da się ich wycofać. Prawo do bycia zapomnianym z RODO, na przykład, praktycznie nie da się zastosować do danych treningowych już wbudowanych w wagi modelu. To znane ograniczenie, z którym regulatorzy wciąż się mierzą.

Zgodność z RODO. Przesyłanie danych osobowych stronie trzeciej wymaga podstawy prawnej. Żeby dostawca mógł przetwarzać dane osobowe, zwykle wymagana jest umowa powierzenia przetwarzania danych. Konsumenckie narzędzie AI bez DPA nie zapewnia tej podstawy prawnej. Obowiązek zgodności spoczywa na firmie, która używa narzędzia.

Własność intelektualna. Kod źródłowy, zastrzeżone algorytmy, dokumentacja produktu i niepublikowane badania, które trafią do zbioru treningowego, mogą zostać odtworzone w wynikach modelu w odpowiedzi na zapytania innych użytkowników. Trudno to ryzyko oszacować, ale nie jest ono zerowe.

Zobowiązania umowne. Umowy z klientami i NDA często zawierają ograniczenia dotyczące obsługi danych. To, czy użycie darmowego narzędzia AI stanowi naruszenie, zależy od konkretnej umowy, ale organizacje używające takich narzędzi z danymi klientów bez przeglądu swoich zobowiązań umownych podejmują nieoszacowane ryzyko.

co działa

Na pytanie o warunki można odpowiedzieć tylko narzędzie po narzędziu, dlatego punktem wyjścia jest inwentaryzacja: jakie narzędzia AI są w użyciu w całej organizacji, w tym konta prywatne i darmowe, które nigdy nie przeszły przez dział zakupów. Dla każdego zidentyfikowanego narzędzia sprawę rozstrzygają trzy fakty: czy dostawca wykorzystuje dane wejściowe do trenowania lub ulepszania modeli, czy plan enterprise lub business wyłącza to zachowanie i czy oferowane jest DPA.

Dla narzędzi w regularnym użyciu, dotykających danych firmowych, przejście na enterprise jest zwykle najbardziej praktycznym rozwiązaniem. Zmienia pozycję prawną, trenowanie wyłączone, DPA wdrożone, retencja zdefiniowana, bez konieczności zmieniania przez pracowników choćby jednego workflow, dlatego działa tam, gdzie zakazy zawodzą. Trzeba jednak wyjaśnić tę różnicę, bo produkt wygląda i działa identycznie w obu wersjach. Jedno zdanie w polityce dopuszczalnego użycia AI, że narzędzia AI obsługujące dane robocze działają wyłącznie na kontach dostarczonych przez firmę, plus linijka wyjaśniająca dlaczego, niesie większość tego przekazu.

Część narzędzi kończy analizę wcześnie. Dostawca, który nie oferuje ani warunków enterprise, ani DPA, nie może wspierać zgodnej z prawem obsługi danych firmowych, a dla takich narzędzi realistyczne opcje zawężają się do użycia bez danych firmowych albo braku użycia w ogóle.