Shadow AI

czym jest shadow AI

Shadow AI to narzędzia i usługi AI używane w organizacji, które nie zostały przejrzane, zatwierdzone ani udokumentowane przez IT. Obejmuje to prywatne konta AI, których pracownicy używają do zadań roboczych, konsumenckie narzędzia AI instalowane lub dostępne przez przeglądarkę, rozszerzenia AI w przeglądarce czytające zawartość stron oraz aplikacje AI do produktywności podłączone do służbowej poczty lub dokumentów przez granty OAuth.

Według Work Trend Index Microsoftu z 2024 roku 75% pracowników wiedzy używa AI w pracy, a 78% osób używających AI w pracy przynosi własne narzędzia, zamiast czekać na zatwierdzoną opcję.

Te liczby odzwierciedlają, jak szybko rozprzestrzeniają się przydatne narzędzia, gdy rozwiązują realne problemy. Shadow AI to odpowiednik shadow SaaS w świecie AI: adopcja, która zachodzi w luce między tym, czego potrzebuje biznes, a tym, co formalnie ocenił dział IT.

dlaczego shadow AI jest problemem strukturalnym, nie behawioralnym

Przyczyną jest luka w zatwierdzaniu, nie zaniedbanie. Gdy pracownik znajduje narzędzie, które istotnie przyspiesza jego pracę, nie istnieje zatwierdzona alternatywa, a barierą użycia jest karta w przeglądarce albo instalacja rozszerzenia, adopcja następuje. To przewidywalne zachowanie w każdej organizacji.

Konsumenckie narzędzia AI są celowo zaprojektowane, żeby były bezproblemowe. Nie ma zamówienia, zgłoszenia do IT, onboardingu. Pracownik rejestruje się na prywatny mail, zaczyna korzystać z darmowej wersji, a Twój katalog nie ma po tym żadnego śladu.

Wzorzec narasta w czasie. Więcej narzędzi, więcej działów, więcej prywatnych kont, więcej połączeń OAuth nawiązanych na danych uwierzytelniających poszczególnych pracowników. Każde z nich jest niewidoczne, dopóki coś nie wywoła przeglądu.

czego nie widać, tym nie da się zarządzać

Ekspozycja danych. Pracownicy używający prywatnych kont AI działają na warunkach korzystania dostawcy dla użytku osobistego, nie na Twojej umowie DPA. Wiele konsumenckich narzędzi AI wprost stwierdza, że dane wejściowe mogą być wykorzystywane do ulepszania ich modeli. Dane firmowe wprowadzone do tych narzędzi, czy to szkic umowy, mail do klienta czy liczba finansowa, opuszczają Twoje środowisko na warunkach, których nigdy nie sprawdziłeś.

Dostęp, którego nie autoryzowałeś. Narzędzia AI często żądają dostępu OAuth do poczty, kalendarza, dokumentów czy katalogu przy rejestracji użytkownika. Te granty są nadawane na danych uwierzytelniających pracownika i pojawiają się w Twoim IdP. W większości środowisk nigdy nie są przeglądane.

Brak audit trail. Gdy dane przepływają przez prywatne konto AI, nie ma logu, do którego masz dostęp. Jeśli później incydent bezpieczeństwa obejmie to narzędzie, nie masz zapisu, co zostało udostępnione, kiedy i przez kogo.

co działa

Odkrywanie zaczyna się od IdP. Google Workspace, Okta i Entra dają widok aplikacji trzecich z dostępem do katalogu, a przefiltrowanie go pod kątem aplikacji związanych z AI, z odnotowanymi nadanymi zakresami, ujawnia większość shadow AI dotykającego systemów firmowych. Endpoint management dodaje kolejną warstwę: raport zainstalowanych rozszerzeń przeglądarki, oznaczonych jako AI i sprawdzonych pod kątem żądanych uprawnień, odczytu kart, dostępu do tekstu, przechowywania. Filtrowanie lub monitorowanie na poziomie DNS zamyka techniczną pętlę, pokazując, jakie domeny AI są osiągane z sieci, co wychwytuje narzędzia oparte na przeglądarce, które nie zostawiają żadnego innego śladu.

Odkrywanie techniczne wciąż pomija prywatne konto na prywatnym urządzeniu, a najszybszą drogą do tej części obrazu jest zapytanie. Krótka wewnętrzna ankieta o tym, jakich narzędzi AI ludzie używają w pracy, zanonimizowana, żeby odpowiedzi pozostały szczere, działa, gdy ludzie ufają, że celem jest zarządzanie danymi, nie kontrolowanie poszczególnych osób. Porównanie przychodzi na końcu: narzędzia w użyciu zestawione z jakąkolwiek istniejącą listą zatwierdzonych. Luka to powierzchnia shadow AI i naturalnie porządkuje się według zakresu dostępu, przy czym szerokie granty do poczty i dokumentów obsługuje się przed narzędziami jednofunkcyjnymi, które nie dotykają niczego wrażliwego.