AI w wielu firmach wdrożyło się szybciej niż jakiekolwiek zasady jego używania. I właśnie dlatego zaczyna robić się ciekawie.
Przez lata organizacje walczyły z Shadow IT. Pracownicy instalowali narzędzia poza oficjalnym procesem, korzystali z prywatnych aplikacji i omijali governance. Dziś bardzo podobny mechanizm zaczyna działać przy AI.
Tyle że stawka jest wyższa, bo do modeli mogą trafiać dane klientów, kod, dokumenty, informacje poufne, dane osobowe, strategie, umowy, dane finansowe albo całe fragmenty wewnętrznego know-how.
Shadow AI nie oznacza, że ktoś używa AI źle. Oznacza, że organizacja nie wie, jak AI jest używane i gdzie kończy się kontrola nad danymi, promptami oraz wynikiem.
Czego dowiesz się z tego tekstu?
- czym jest Shadow AI i dlaczego rośnie tak szybko,
- jakie ryzyka pojawiają się wokół danych, promptów i narzędzi,
- dlaczego AI governance przestaje być opcjonalne,
- co software house, SaaS i organizacja korzystająca z AI powinny uporządkować już teraz.
AI wdraża się oddolnie
I właśnie to jest największa zmiana. Wiele organizacji nie „wdrożyło AI” w klasycznym sensie. Nie było projektu, uchwały, analizy ryzyka, polityki, rejestru narzędzi i oficjalnego rollout’u.
AI po prostu pojawiło się w organizacji samo.
Ktoś używa ChatGPT do streszczania dokumentów. Ktoś korzysta z Copilota. Ktoś analizuje dane w zewnętrznym narzędziu. Ktoś wrzuca fragment kodu do modelu. Ktoś generuje treści marketingowe. Ktoś testuje automatyzacje, bo chce szybciej dowieźć zadanie.
Z perspektywy biznesu to zrozumiałe. AI realnie pomaga. Z perspektywy compliance problem polega na tym, że organizacja często nie wie:
- jakich narzędzi używają pracownicy,
- jakie dane trafiają do modeli,
- czy są to dane osobowe albo informacje poufne,
- czy dane są wykorzystywane do trenowania modeli,
- gdzie są przetwarzane,
- kto ma dostęp do historii promptów,
- kto odpowiada za wynik wygenerowany przez AI.
To właśnie jest Shadow AI. Nie chodzi o to, że ktoś używa AI „źle”. Chodzi o to, że organizacja nie ma nad tym żadnej realnej kontroli.
Problemem nie jest samo AI
Największy problem zwykle nie polega na tym, że firma korzysta z modelu AI. Problem wygląda raczej tak:
- organizacja nie wie, jakie dane trafiają do modeli,
- nie kontroluje promptów,
- nie ma mapy narzędzi AI,
- nie wie, kto zatwierdza narzędzia,
- nie wie, kto odpowiada za błędny wynik,
- nie wie, co wolno automatyzować,
- nie wie, kiedy człowiek musi sprawdzić rezultat.
AI bez zasad szybko zaczyna działać jak skrót operacyjny. A skróty operacyjne mają to do siebie, że świetnie działają do momentu pierwszego problemu.
Przykłady?
- Pracownik wrzuca umowę klienta do publicznego narzędzia AI, żeby przygotować streszczenie.
- Developer analizuje fragment kodu w modelu, nie sprawdzając, czy może ujawnić repozytorium lub logikę biznesową.
- Zespół sprzedaży generuje odpowiedzi dla klientów bez kontroli zgodności z ofertą, regulaminem albo dokumentacją produktu.
- HR używa AI do selekcji kandydatów bez zasad dotyczących ryzyka dyskryminacji i bez wyjaśnienia, jak narzędzie wpływa na decyzję.
- Marketing generuje treści, grafiki lub claimy produktowe, których nikt nie weryfikuje pod kątem praw autorskich, oznaczeń, dowodów albo ryzyka wprowadzenia w błąd.
Każda z tych sytuacji może być drobna. Ale razem tworzą systemowy problem.
Dane i prompty są częścią ryzyka
W rozmowach o AI dużo mówi się o modelach. Mniej o promptach. A prompt bardzo często zawiera najcenniejszy kontekst.
Może zawierać dane klienta, treść umowy, opis sporu, fragment kodu, założenia produktu, insighty z rynku, strategię negocjacyjną, dane pracownika albo informacje objęte NDA.
Dlatego pytanie nie brzmi tylko: czy możemy używać tego narzędzia AI? Trzeba zapytać: jakie dane wolno do niego wkleić?
To jest bardzo praktyczne rozróżnienie. W jednej organizacji można dopuścić używanie AI do:
- redakcji neutralnych treści,
- tworzenia szkiców maili,
- burzy mózgów,
- generowania checklist,
- porządkowania notatek bez danych wrażliwych.
Ale jednocześnie zakazać albo ograniczyć:
- wklejania danych klientów,
- wklejania danych osobowych,
- wklejania kodu źródłowego,
- analizowania dokumentów objętych poufnością,
- automatycznego podejmowania decyzji wobec ludzi,
- używania AI do spraw, które wymagają zatwierdzenia przez człowieka.
To nie jest blokowanie AI. To jest ustawienie bezpiecznych torów.
3 ryzyka i 3 rekomendacje
Ryzyko 1: prywatne narzędzia AI używane do danych firmowych
Najczęstszy scenariusz Shadow AI to pracownik korzystający z prywatnego konta w narzędziu AI do pracy na danych firmowych. Czasem robi to w dobrej wierze. Chce szybciej wykonać zadanie, poprawić tekst, streścić dokument albo znaleźć błąd w kodzie.
Problem polega na tym, że firma traci kontrolę nad tym, gdzie trafiają dane, kto ma do nich dostęp i jakie warunki korzystania obowiązują.
Rekomendacja: stworzyć mapę narzędzi AI w organizacji.
Na początek nie musi to być rozbudowany system. Wystarczy praktyczna tabela:
- nazwa narzędzia,
- właściciel biznesowy,
- cel użycia,
- typ danych,
- dostawca,
- model licencji,
- czy dane mogą być używane do trenowania,
- czy jest umowa powierzenia danych,
- czy narzędzie jest dopuszczone, ograniczone czy zakazane.
Ryzyko 2: brak zasad dotyczących promptów i danych
Drugie ryzyko to brak odpowiedzi na pytanie, co wolno wpisać do modelu. Bez jasnych zasad pracownicy sami ustalają granice. A granice będą różne w każdym zespole.
Rekomendacja: wdrożyć podstawową AI usage policy.
Taki dokument nie musi mieć 40 stron. Na początek powinien jasno wskazywać:
- jakie narzędzia AI są dopuszczone,
- do czego można ich używać,
- jakich danych nie wolno wprowadzać,
- kiedy wymagana jest anonimizacja,
- kiedy wynik AI musi być sprawdzony przez człowieka,
- kto odpowiada za finalną treść, decyzję albo kod,
- gdzie zgłaszać nowe narzędzia AI do oceny.
Ryzyko 3: brak ownershipu governance
Trzecie ryzyko jest organizacyjne. W wielu firmach AI znajduje się „wszędzie i nigdzie”. IT patrzy na bezpieczeństwo. Legal patrzy na umowy i compliance. HR patrzy na pracowników. Biznes patrzy na efektywność. Product patrzy na funkcje.
Ale nikt nie ma całości.
Rekomendacja: wyznaczyć ownera AI governance.
Nie musi to być jedna osoba podejmująca wszystkie decyzje. Chodzi raczej o jasny punkt odpowiedzialności:
- kto prowadzi mapę narzędzi,
- kto zatwierdza nowe użycia,
- kto zbiera ryzyka,
- kto aktualizuje politykę,
- kto koordynuje Legal, IT, Security, HR i biznes,
- kto odpowiada za reakcję, gdy pojawi się incydent albo użycie niezgodne z zasadami.
Bez ownera AI governance bardzo szybko staje się dokumentem, którego nikt nie utrzymuje.
AI governance przestaje być opcjonalne
AI governance nie oznacza, że firma musi od razu budować skomplikowany komitet, wdrażać wielki system i zamrozić wszystkie eksperymenty. Na początku chodzi o minimum porządku.
Organizacja powinna wiedzieć:
- jakich narzędzi AI używa,
- do jakich celów,
- na jakich danych,
- z jakimi dostawcami,
- kto odpowiada za wynik,
- które użycia są zakazane,
- gdzie człowiek musi zatwierdzić rezultat.
To jest ważne nie tylko z perspektywy RODO, poufności, cyberbezpieczeństwa i IP. To będzie coraz ważniejsze również w kontekście AI Act.
W praktyce firmy będą musiały rozumieć, czy tylko korzystają z systemu AI, czy też dostarczają własne rozwiązanie oparte o AI, a w niektórych przypadkach, czy system może wchodzić w kategorie wyższego ryzyka. Szerzej pisałem o tym w tekście o rolach deployer i provider w AI Act.
Nie każda firma używająca AI będzie od razu podmiotem z ciężkimi obowiązkami regulacyjnymi. Ale każda firma, która używa AI bez żadnych zasad, zwiększa ryzyko operacyjne.
Co powinien uporządkować software house albo SaaS?
Shadow AI dotyczy nie tylko dużych organizacji. Software house i SaaS mają dodatkowy problem: często są jednocześnie użytkownikiem AI i dostawcą rozwiązań dla klientów.
To oznacza, że trzeba spojrzeć na AI w dwóch kierunkach.
Po pierwsze: jak zespół używa AI wewnętrznie?
Przykładowe pytania:
- czy developerzy mogą wklejać kod do narzędzi AI,
- czy można używać AI do analizy logów,
- czy można generować fragmenty dokumentacji klienta,
- czy można używać AI w pracy nad ticketami,
- czy narzędzia AI są objęte zasadami bezpieczeństwa,
- czy klient wie, że AI jest używane przy realizacji usługi.
Po drugie: czy produkt albo usługa zawiera funkcje AI?
Jeżeli SaaS oferuje użytkownikom asystenta, rekomendacje, automatyczne podsumowania, klasyfikację, scoring albo generowanie treści, trzeba ustalić:
- jak opisać funkcję AI w regulaminie albo umowie,
- jakie dane użytkownika trafiają do modelu,
- czy dane są przetwarzane przez zewnętrznego dostawcę,
- kto odpowiada za wynik,
- czy użytkownik powinien być poinformowany, że korzysta z AI,
- czy wynik AI wymaga weryfikacji przez człowieka,
- jakie logi i dokumentację należy utrzymywać.
To są pytania produktowe, prawne i techniczne jednocześnie. Warto ułożyć je razem z dokumentacją stacku, szczególnie gdy AI zaczyna być elementem produktu, a nie tylko narzędziem pracy. Ten kontekst rozwijam w tekście o AI, energii, emisjach i dokumentacji stacku.
Minimum AI governance na start
Nie każda organizacja potrzebuje od razu pełnego programu AI governance. Ale większość organizacji korzystających z AI potrzebuje przynajmniej minimum.
- Mapa narzędzi AI: lista narzędzi używanych w organizacji, wraz z celem, właścicielem i typem danych.
- AI usage policy: krótka polityka używania AI, czyli co wolno, czego nie wolno i kto zatwierdza wyjątki.
- Zasady dotyczące danych i promptów: proste reguły, jakich danych nie wolno wprowadzać do modeli i kiedy konieczna jest anonimizacja.
- Lista zakazanych lub ograniczonych użyć: na przykład decyzje HR, oceny osób, dane wrażliwe, poufne dokumenty klientów, kod źródłowy bez zgody.
- Human review: wskazanie, kiedy wynik AI musi być sprawdzony przez człowieka przed użyciem.
- Procedura zgłaszania nowych narzędzi: prosty proces, w którym zespół zgłasza nowe narzędzie AI do oceny przed użyciem.
- Klauzule w umowach i regulaminach: jeżeli AI jest używane w produkcie albo usłudze, trzeba to odzwierciedlić w dokumentach z klientem i użytkownikiem.
Takie minimum nie zastępuje pełnego programu compliance. Ale daje organizacji pierwszy, bardzo praktyczny punkt kontroli.
Na koniec
Shadow AI bardzo szybko staje się nowym Shadow IT. I firmy, które dziś tego nie widzą, mogą szybko odkryć, że problemem nie jest sam model AI.
Problemem jest brak kontroli nad tym, jak organizacja z niego korzysta. AI nie trzeba blokować. Ale trzeba je uporządkować.
Im szybciej firma odpowie na pytania o narzędzia, dane, prompty, odpowiedzialność i nadzór człowieka, tym łatwiej będzie korzystać z AI bez chaosu, niepotrzebnego ryzyka i gaszenia pożarów po fakcie.
Korzystacie z AI, ale nie macie jeszcze zasad?
Pomagam firmom, software house’om i startupom uporządkować AI governance: mapę narzędzi, AI usage policy, zasady pracy z danymi i promptami, odpowiedzialność za wyniki AI oraz dokumenty dla klientów i użytkowników.