Aplikacje w ChatGPT Business. Kto dostaje dane firmy po podłączeniu integracji?

Zespół chce połączyć ChatGPT Business z systemem zgłoszeń klientów. Dzięki temu pracownik zapyta o historię sprawy bez przełączania kart. W zgłoszeniach są jednak nazwiska, adresy e-mail, opisy awarii, a czasem fragmenty danych produkcyjnych. Administrator widzi zapewnienie, że dane firmowe nie służą do trenowania modeli. Czy to wystarcza, żeby włączyć aplikację?

Nie. Deklaracja o treningu dotyczy sposobu wykorzystania danych przez OpenAI. Integracja dokłada kolejną relację: dostęp do systemu źródłowego i, zależnie od działania aplikacji, przekazanie informacji dostawcy zewnętrznemu. Zanim ją uruchomicie, trzeba zobaczyć ten przepływ, przeczytać warunki drugiego dostawcy i ograniczyć uprawnienia do tego, czego potrzebuje zespół.

Poniżej prowadzę przykład modelowy firmy SaaS obsługującej zgłoszenia klientów. Nie opisuje on konkretnego wdrożenia ani nie zakłada, że każda aplikacja działa tak samo.

Czego dowiesz się z tego tekstu?

W skrócie

• OpenAI deklaruje, że domyślnie nie używa treści workspace’u ChatGPT Business, także informacji pobranych przez aplikacje, do trenowania modeli. Brak treningu nie oznacza braku przechowywania ani braku przekazania danych aplikacji zewnętrznej.
• Warunki usług OpenAI przewidują, że przy korzystaniu z aplikacji odpowiednia część treści może zostać przekazana podmiotowi, który ją udostępnia. Po przekazaniu obowiązują także jego własne warunki.
• Aplikacja zewnętrzna nie staje się automatycznie podprocesorem OpenAI. Jej rolę trzeba ustalić na podstawie konkretnego przepływu i umów.
• Przed uruchomieniem sprawdź dostęp do źródła, możliwe odczyty i zapisy, retencję, logi, transfery oraz sposób odłączenia integracji.

Czy ChatGPT Business trenuje model na danych z podłączonej aplikacji?

Według aktualnej dokumentacji OpenAI o aplikacjach treść workspace’u Business, w tym informacje dostępne przez aplikacje, domyślnie nie jest wykorzystywana do treningu modeli OpenAI. To samo potwierdza opis prywatności ChatGPT Business. Jeśli firma korzysta z innego planu, konta prywatnego albo odrębnej usługi, musi sprawdzić warunki właściwe dla tego produktu.

Pytanie o trening jest potrzebne, lecz obejmuje tylko jeden cel wykorzystania danych. Informacje mogą być potrzebne do wykonania zapytania, pojawić się w odpowiedzi, pozostać w historii rozmowy albo w osobnym indeksie synchronizowanego źródła. Mogą też zostać wysłane do aplikacji wykonującej działanie. Każdy z tych etapów trzeba ocenić osobno. OpenAI wyjaśnia, że treści uwzględnione w rozmowach podlegają zasadom retencji właściwym dla rozmowy, funkcji i workspace’u, a źródła synchronizowane przez administratora mają odrębny indeks.

W naszym przykładzie brak treningu na zgłoszeniach nie odpowiada jeszcze na pytanie, czy aplikacja może odczytać całą skrzynkę zgłoszeń, co otrzyma jej dostawca, jak długo zachowa dane z wykonanych działań i kto będzie mógł je później odtworzyć.

Kiedy dane wychodzą poza usługę OpenAI?

Gdy aplikacja komunikuje się z usługą zewnętrzną, odpowiednia część treści może trafić do tej usługi. Sekcja 7 warunków usług OpenAI mówi wprost o wysyłaniu danych aplikacji do podłączonego podmiotu i o stosowaniu jego warunków do otrzymanych danych. Umowa dla klientów biznesowych dodaje, że korzystanie z usług podmiotów trzecich podlega również ich własnym warunkom. Nie wynika z tego, że każda aplikacja otrzymuje całą historię rozmów. Zakres zależy od funkcji, uprawnień i konkretnego wywołania.

Warto rozdzielić trzy kierunki przepływu:

• Ze źródła do ChatGPT: aplikacja może pobrać zgłoszenie albo jego fragment, aby odpowiedzieć pracownikowi. Trzeba ustalić, czy działa na bieżąco, czy buduje indeks synchronizowany.
• Z ChatGPT do aplikacji: działanie, na przykład utworzenie zadania lub zapisanie notatki, może przekazać treść i dane do usługi zewnętrznej. Trzeba sprawdzić, co dokładnie jest wysyłane.
• Z aplikacji do źródła: działanie z uprawnieniem zapisu może zmienić zgłoszenie, wysłać odpowiedź albo uruchomić inny proces. Tu znaczenie ma nie tylko prywatność, lecz także poprawność i możliwość cofnięcia działania.

W modelowym SaaS pracownik chce tylko odczytać status reklamacji. Nadanie aplikacji prawa do edycji wszystkich zgłoszeń byłoby szersze od tego celu. Przed połączeniem warto sprawdzić uprawnienia nadawane u dostawcy źródła, ustawienia działań w ChatGPT i zakres danych, które pojawiają się w odpowiedzi. Te trzy kontrole są odrębne: zgoda na uprawnienie u dostawcy nie włącza sama z siebie nowego działania w ChatGPT, a wyłączenie przyszłych działań nie cofa wcześniej udzielonych uprawnień. Tak opisuje to dokumentacja ustawień administratora.

Czy DPA z OpenAI obejmuje dostawcę aplikacji?

Nie zakładaj tego bez sprawdzenia konkretnej relacji. DPA OpenAI reguluje przetwarzanie danych klienta przez OpenAI przy świadczeniu jego usług. Lista podprocesorów z tego DPA dotyczy podmiotów, którym OpenAI powierza część własnego świadczenia. Dostawca aplikacji, z której firma korzysta na podstawie osobnych warunków, może mieć odrębną rolę i nie musi należeć do tego łańcucha powierzenia.

Z perspektywy RODO trzeba ustalić, kto decyduje o celu i zasadniczych sposobach przetwarzania na każdym etapie. Jeżeli dostawca aplikacji przetwarza dane osobowe wyłącznie na udokumentowane polecenie firmy, może być jej procesorem. Wtedy trzeba ocenić umowę powierzenia zgodnie z art. 28 RODO. Jeśli firma sama działa jako procesor klienta, podłączenie kolejnego dostawcy może wymagać uprzedniej zgody klienta na podprocesora i odpowiedniej umowy w dalszym łańcuchu. Gdy dostawca aplikacji ustala własne cele, trzeba osobno ocenić jego status administratora, podstawę i zakres ujawnienia danych. Sama nazwa „integracja” nie rozstrzyga żadnego z tych przypadków. Wytyczne EROD 07/2020 wiążą role z faktycznym wpływem na cele i sposoby przetwarzania.

Dla zgłoszeń klientów sprawdź więc zarówno umowę z OpenAI, jak i regulamin, politykę prywatności oraz ewentualne DPA dostawcy aplikacji. Jeżeli w systemie są dane należące do klientów firmy SaaS, zajrzyj też do umów z tymi klientami. Mogą ograniczać korzystanie z dalszych dostawców lub wymagać powiadomienia o zmianie.

Jak sprawdzić uprawnienia, retencję i miejsce przetwarzania?

Zacznij od jednego konkretnego zadania, a potem prześledź dane potrzebne do jego wykonania. W przykładzie jest to odczyt statusu pojedynczego zgłoszenia. Dopiero po sprawdzeniu tego przepływu warto rozważać streszczanie całego portfela klientów albo zapis odpowiedzi do systemu.

Przy przeglądzie aplikacji zapisz:

• Źródło i zakres: do jakich kont, folderów, projektów i zgłoszeń ma dostęp po autoryzacji; czy uprawnienia źródłowe ograniczają wyniki;
• Odczyt i zapis: jakie działania aplikacja wykonuje, czy administrator może ograniczyć je do odczytu i jak zatwierdzane są operacje zmieniające dane;
• Treść przekazywana dalej: czy usługa zewnętrzna otrzymuje całe dokumenty, wybrane fragmenty, prompty, wyniki lub metadane;
• Przechowywanie: co trafia do historii rozmowy, indeksu synchronizacji, logów OpenAI i zapisów dostawcy aplikacji oraz jak długo tam pozostaje;
• Lokalizacja i transfery: gdzie dane są przechowywane i skąd można uzyskać do nich dostęp, także przez wsparcie techniczne i dalszych dostawców;
• Zakończenie: jak cofnąć zgodę u dostawcy źródła, wyłączyć aplikację, usunąć indeks i sprawdzić los danych już przekazanych.

OpenAI wskazuje, że warunki retencji i lokalizacji danych wysyłanych do niesynchronizowanej aplikacji zależą od dostawcy tej aplikacji. Ustawienie regionu danych w ChatGPT nie oznacza też, że każda zewnętrzna integracja lub każdy etap przetwarzania pozostaje w tym regionie. Jeżeli dostawca albo jego dalsi podwykonawcy przekazują dane osobowe poza EOG, trzeba zbadać podstawę transferu i wymagane zabezpieczenia zgodnie z rozdziałem V RODO. Nie wystarczy sprawdzić adresu serwera.

Nie zakładaj również, że plan Business daje takie same możliwości audytu jak Enterprise. Dokumentacja OpenAI opisuje platformę zgodności i część logów aplikacji jako funkcje zależne od produktu, planu i konfiguracji. Jeżeli potrzebujesz śladu pokazującego, kto odczytał dane klienta lub wykonał zapis, potwierdź dostępność konkretnego logu przed wdrożeniem.

Jak przeprowadzić pilotaż na danych klientów?

Najpierw przetestuj integrację na danych fikcyjnych albo skutecznie zanonimizowanych. Dane zamaskowane tylko z nazwy mogą nadal pozwalać rozpoznać osobę. Zespół powinien wykonać te same kroki, które później wykona na prawdziwym zgłoszeniu: odczyt, przygotowanie odpowiedzi i ewentualny zapis. W każdym kroku sprawdź, jakie informacje są pokazywane w ChatGPT i wysyłane do aplikacji.

W modelowym SaaS rozsądna kolejność wygląda tak:

1. Właściciel procesu opisuje zadanie i wskazuje, które pola zgłoszenia są naprawdę potrzebne.
2. Administrator sprawdza ustawienia workspace’u, działania aplikacji oraz uprawnienia konta w systemie źródłowym. Zapisuje stan przed pilotażem.
3. Osoba odpowiedzialna za ochronę danych i umowy ocenia role, warunki drugiego dostawcy, retencję, transfery oraz zobowiązania wobec klientów. Gdy przetwarzanie może powodować wysokie ryzyko dla praw i wolności osób, analizuje potrzebę oceny skutków dla ochrony danych z art. 35 RODO.
4. Zespół testuje odczyt na ograniczonym zbiorze i dopiero po sprawdzeniu wyników rozważa działania z zapisem. Dla zapisów ustala, kiedy pracownik musi je zatwierdzić i jak poprawić błąd.
5. Po pilotażu administrator odbiera zbędne uprawnienia, a właściciel procesu dokumentuje decyzję: włączyć, ograniczyć albo zrezygnować.

Jeżeli nie można ustalić, jakie dane aplikacja przekazuje dostawcy albo jak ten dostawca je usuwa, nie podłączaj na próbę pełnej bazy klientów. Można zacząć od mniej wrażliwego procesu. Szerszy przegląd dostawcy AI, także poza integracjami, znajdziesz w checkliście przed zakupem narzędzia AI. Przy oddolnym podłączaniu narzędzi przez pracowników przyda się też tekst o shadow AI i zasadach korzystania z AI w firmie.

Co zrobić przed włączeniem aplikacji w firmie?

Wpisz w decyzji wdrożeniowej nazwę aplikacji, zadanie, źródło danych, kategorie osób i informacji, potrzebne uprawnienia, właściciela procesu oraz datę ponownego przeglądu. Zachowaj wersje warunków i ustawień, na których oparto decyzję. Przy zmianie funkcji albo uprawnień wróć do oceny. Aplikacja z prawem odczytu dziś może jutro dostać możliwość zapisu, jeśli administrator dopuści nowe działania bez przeglądu.

Możesz poradzić sobie samodzielnie, gdy proces dotyczy neutralnych materiałów, a przepływ i uprawnienia są jasne. Przy danych klientów, tajemnicach przedsiębiorstwa, szerokim dostępie do źródła albo niejasnych warunkach drugiego dostawcy warto sprawdzić konfigurację i dokumenty przed uruchomieniem. Jeśli potrzebujesz pomocy w takim przeglądzie, napisz do Lis.Legal albo zobacz, jak wspieramy firmy SaaS.