Badacze wysłali do routerów AI dwa miliony spreparowanych promptów zawierających pułapki — między innymi unikalne, „baitowe” klucze API do AWS oraz ukryte adresy URL, które miały ujawnić, kto realnie czyta treść zapytania. W kilku przypadkach klucze zostały użyte lub podjęto próbę ich użycia. W jednym z incydentów osoba z domowego komputera we Francji próbowała wykorzystać hasła roota wyciągnięte z promptu-pułapki do logowania na serwer badaczy. W innym — mimo włączonego trybu Zero Data Retention — ktoś dotarł do ukrytego URLA z promptu i zaczął go klonować.
Sprawa dotyczy każdej organizacji, która wysyła dane do modeli językowych nie bezpośrednio, lecz przez pośrednika — router, agregator, broker dostępu do modeli. OpenRouter wskazał trzech swoich dostawców jako niebezpiecznych i usunął ich z oferty; jeden z nich przyznał, że doszło do włamania i kradzieży danych z promptów. To ważne, bo routery AI są sprzedawane jako sposób na obniżenie kosztów i wygodę, a nie jako element łańcucha dostaw danych, który trzeba audytować. Tymczasem to właśnie tam firma traci bezpośrednią kontrolę nad tym, kto widzi treść zapytania.
Co dokładnie się wydarzyło
Materiał dowodowy opisuje badanie polegające na masowym wysyłaniu spreparowanych zapytań przez routery AI. Router w tym kontekście to usługa, z którą komunikuje się system klienta, a która następnie kieruje zapytanie do jednego z wielu modeli — wymieniane są m.in. Anthropic, Google, OpenAI, DeepSeek i Kimi. Dostawcy dostępu do modeli zgłaszają się do routera z ofertami różniącymi się ceną i opóźnieniami.
W treści promptów badacze umieścili pułapki:
- baitowe klucze API do AWS — unikalne dla różnych usług AI, co pozwalało zawęzić, kto konkretnie próbował ich użyć;
- ukryte adresy URL — kanarki, których odwiedzenie lub sklonowanie sygnalizowało, że ktoś czyta treść zapytania;
- baitowe obrazy — element tak zwanego AI traceroute, gdzie każdy obrazek miał unikalny adres URL w infrastrukturze badaczy.
Efekt: w kilku przypadkach baitowe klucze AWS zostały wykorzystane lub podjęto próby ich użycia. W jednym przypadku atakujący z domowego komputera we Francji próbował użyć haseł roota z promptu-pułapki do logowania na serwer badaczy. W innym — mimo ustawień Zero Data Retention wybranych przez badaczy — ktoś dostał się do ukrytego URLA i zaczął go klonować.
OpenRouter wskazał trzech dostawców AI jako niebezpiecznych i usunął ich ze swojej oferty. Jeden z dostawców napisał wprost, że doszło do włamania i ktoś kradł dane z promptów.
To nie jest dowód, że każdy router jest niebezpieczny. To dowód, że w łańcuchu pośredników istnieje warstwa, której klient końcowy zwykle nie widzi i nie kontroluje.
Tło techniczne prostym językiem
Po co komu router AI
Model językowy można wywoływać bezpośrednio u dostawcy albo przez pośrednika. Router AI zbiera oferty od wielu dostawców i wybiera tańszą lub szybszą ścieżkę do modelu. Dla firmy to wygoda: jedno API, jedno rozliczenie, możliwość przełączania modeli bez przepisywania integracji. Dla dostawcy to sposób na sprzedaż mocy obliczeniowej lub dostępu do modeli, których sam nie trenował.
Problem polega na tym, że router nie jest przezroczystym kablem. Treść zapytania przechodzi przez kolejne warstwy, a każda z nich może ją zapisać, przetworzyć lub odesłać gdzie indziej. Klient widzi tylko umowę z routerem, nie z dostawcami, których router podstawia pod spodem.
Jak działa metoda pułapek
Klasyczny kanarek to unikalny znacznik, którego pojawienie się w nieoczekiwanym miejscu dowodzi wycieku. W wersji dla modeli językowych znacznikiem może być:
- unikalny klucz API — jeśli ktoś go użyje, dostawca chmury odnotuje wywołanie i będzie wiadomo, że klucz opuścił prompt;
- unikalny adres URL — jeśli ktoś go odwiedzi lub sklonuje zasób, serwer badaczy zarejestruje żądanie;
- unikalny obrazek — działa jak adres URL, ale dodatkowo pozwala śledzić, czy treść promptu jest przetwarzana przez systemy pobierające zasoby zewnętrzne.
Unikalność jest tu kluczowa. Jeden klucz przypisany do jednego kanału pozwala wskazać palcem konkretną ścieżkę, a nie tylko stwierdzić, że „coś” wyciekło.
Zero Data Retention: deklaracja, nie gwarancja
Zero Data Retention (ZDR) to ustawienie, w którym dostawca deklaruje, że nie przechowuje treści zapytań po zakończeniu przetwarzania. Materiał dowodowy pokazuje jednak przypadek, w którym mimo ZDR ktoś dotarł do ukrytego URLA z promptu. To nie musi oznaczać złamania deklaracji przez samego dostawcę modelu — może oznaczać, że po drodze jest jeszcze inny podmiot, którego ZDR nie obejmuje, albo że treść zapytania została przetworzona w sposób, którego polityka nie przewidziała.
Wniosek praktyczny: ZDR jest oświadczeniem o polityce, a nie techniczną gwarancją, że treść nigdzie nie została zapisana ani odczytana. Bez wiedzy o tym, kto jeszcze uczestniczy w przetwarzaniu, nie da się tego zweryfikować.
Realne konsekwencje dla organizacji
Skala konsekwencji zależy od tego, co trafia do promptów. Jeśli są to wyłącznie ogólne pytania, ryzyko jest ograniczone. Jeśli w treści zapytań znajdują się dane klientów, fragmenty umów, konfiguracje infrastruktury, klucze dostępu lub dane osobowe — pośrednik staje się punktem, w którym firma traci kontrolę nad informacją.
| Rodzaj danych w promptach | Możliwy skutek wycieku | Kto odczuwa skutek |
|---|---|---|
| Dane osobowe klientów | Obowiązki informacyjne, ryzyko sankcji, utrata zaufania | Organizacja, klienci |
| Sekrety techniczne (klucze, hasła) | Nieautoryzowany dostęp do zasobów chmurowych, koszty | Zespół IT, finanse |
| Fragmenty umów i strategii | Utrata przewagi, ryzyko prawne | Zarząd, dział prawny |
| Kod źródłowy | Ujawnienie własności intelektualnej | Dział produktu |
Drugi skutek jest mniej oczywisty: utrata zdolności do odpowiedzi na pytanie „kto widział te dane”. Jeśli regulator lub klient zapyta o zakres przetwarzania, firma korzystająca z routera bez dokumentacji podwykonawców nie będzie w stanie tego odtworzyć.
Scenariusze ryzyka
Scenariusz 1: przejęcie po stronie dostawcy pośredniego
Dostawca obsługujący część ruchu routera zostaje przejęty lub ma włamanie. Treść zapytań, które przez niego przechodzą, jest dostępna dla atakującego. To scenariusz opisany w materiale: jeden z dostawców przyznał, że doszło do włamania i kradzieży danych z promptów.
Scenariusz 2: nadmiarowe przetwarzanie mimo deklaracji
Dostawca deklaruje brak retencji, ale w praktyce treść zapytania jest przetwarzana przez dodatkowy komponent — na przykład system pobierający zasoby z adresów URL wymienionych w promptach. Materiał pokazuje przypadek, w którym ukryty URL został odwiedzony i klonowany mimo ZDR.
Scenariusz 3: wewnętrzne nadużycie
Pracownik dostawcy pośredniego ma techniczną możliwość odczytu treści zapytań. Bez kontroli dostępu i logowania po stronie pośrednika klient nie ma sposobu, by to wykryć.
Scenariusz 4: pułapka na sekrety w promptach
Klucze i hasła wklejone do promptów są łakomym celem. W materiale widać, że baitowe klucze AWS były wykorzystywane lub podejmowano próby ich użycia, a jeden atakujący próbował zalogować się na serwer badaczy hasłami roota z promptu.
Jak sprawdzić, czy problem dotyczy twojej organizacji
Pytanie nie brzmi „czy używamy AI”, ale „czy wysyłamy zapytania przez pośrednika”. Routery AI bywają wbudowane w narzędzia, z których zespół korzysta bez wiedzy działu IT.
- Przejrzyj integracje. Sprawdź, do jakich adresów wysyłane są zapytania do modeli. Jeśli endpoint nie należy bezpośrednio do dostawcy modelu, prawdopodobnie jest to pośrednik.
- Zapytaj dostawców narzędzi. Poproś o listę podwykonawców przetwarzających treść zapytań oraz o informację, czy korzystają z routerów.
- Sprawdź polityki retencji. Ustal, czy deklaracja ZDR obejmuje wszystkich uczestników przetwarzania, czy tylko dostawcę modelu.
- Zidentyfikuj dane wrażliwe w promptach. Przeszukaj logi i szablony zapytań pod kątem kluczy, haseł, danych osobowych i fragmentów umów.
- Zweryfikuj umowy. Sprawdź, czy umowa z pośrednikiem zawiera obowiązek informowania o podwykonawcach i incydentach.
Plan reakcji krok po kroku
Krok 1: inwentaryzacja
Zbierz listę wszystkich miejsc, w których organizacja wysyła dane do modeli językowych. Uwzględnij narzędzia SaaS, wewnętrzne aplikacje, skrypty i eksperymenty zespołów. Dla każdego wpisz endpoint, dostawcę i rodzaj przesyłanych danych.
Krok 2: ocena ekspozycji
Oznacz integracje, w których treść zapytań może zawierać dane wrażliwe lub sekrety. Priorytet mają te, które przechodzą przez pośredników bez udokumentowanej listy podwykonawców.
Krok 3: ograniczenie treści
Wprowadź filtrowanie promptów po stronie aplikacji: usuwanie kluczy, haseł i identyfikatorów przed wysłaniem zapytania. To działanie doraźne, ale skutecznie zmniejsza skutki ewentualnego wycieku.
Krok 4: decyzja o ścieżce dostępu
Dla integracji o wysokiej ekspozycji rozważ bezpośredni dostęp do dostawcy modelu. To zmniejsza liczbę pośredników, choć — jak zaznacza materiał — nie eliminuje ryzyka do zera.
Krok 5: aktualizacja umów i polityk
Wprowadź wymóg informowania o podwykonawcach, zgłaszania incydentów w określonym czasie oraz prawa do audytu. Ustal, kto w organizacji odpowiada za akceptację nowych pośredników.
Krok 6: monitorowanie
Ustal okresowy przegląd integracji i polityk dostawców. Zmiany w ofercie routera mogą pojawić się bez zapowiedzi.
Typowe błędy
- Traktowanie ZDR jako gwarancji technicznej. To deklaracja polityki, której zakres zależy od tego, kto jeszcze uczestniczy w przetwarzaniu.
- Zakładanie, że router to tylko optymalizacja kosztów. Router to element łańcucha dostaw danych.
- Brak listy podwykonawców. Bez niej nie da się odpowiedzieć na pytanie o zakres przetwarzania.
- Wklejanie sekretów do promptów. Materiał pokazuje, że takie dane bywają wykorzystywane.
- Pomijanie narzędzi wbudowanych. Routery bywają ukryte w narzędziach, z których zespół korzysta na co dzień.
- Ocena ryzyka tylko na poziomie dostawcy modelu. Ryzyko może leżeć w warstwie pośredniej.
Działania krótkoterminowe
- Zablokuj przesyłanie sekretów w promptach po stronie aplikacji.
- Zidentyfikuj integracje przechodzące przez pośredników i oznacz je jako wymagające przeglądu.
- Poproś dostawców o aktualną listę podwykonawców i politykę retencji.
- Wstrzymaj wdrażanie nowych integracji z pośrednikami do czasu przeglądu.
Działania długoterminowe
- Wprowadź wymóg dokumentowania łańcucha dostaw danych w procesie zakupowym.
- Ustal standard umowny dla pośredników: zgłaszanie incydentów, lista podwykonawców, prawo do audytu.
- Zbuduj rejestr integracji AI z właścicielami i klasyfikacją danych.
- Okresowo weryfikuj polityki dostawców i zmiany w ofercie routerów.
- Przeszkol zespoły z zakresu danych, które nie powinny trafiać do promptów.
Checklista praktyczna
- Czy wiem, do jakich endpointów wysyłamy zapytania do modeli?
- Czy każdy pośrednik ma udokumentowaną listę podwykonawców?
- Czy wiem, jakie dane trafiają do promptów w poszczególnych integracjach?
- Czy filtrujemy klucze, hasła i dane osobowe przed wysłaniem zapytania?
- Czy umowa z pośrednikiem zawiera obowiązek zgłaszania incydentów?
- Czy ZDR jest potwierdzony dla wszystkich uczestników przetwarzania?
- Czy mamy procedurę reakcji na incydent po stronie pośrednika?
- Czy nowe integracje AI przechodzą przegląd przed wdrożeniem?
Co powinien zrobić właściciel firmy / administrator
Właściciel firmy: potraktuj pośredników AI jak każdego innego podwykonawcę przetwarzającego dane. Ustal, kto odpowiada za ich akceptację, i wymagaj dokumentacji łańcucha dostaw. Zapytaj zespół, jakie dane trafiają do promptów i czy są wśród nich informacje objęte szczególną ochroną. Zdecyduj, czy dla najbardziej wrażliwych zastosowań dopuszczasz dostęp przez pośredników.
Administrator: zinwentaryzuj endpointy i integracje, wdróż filtrowanie treści promptów, zbierz listy podwykonawców od dostawców i sprawdź zakres deklaracji ZDR. Przygotuj procedurę reakcji na incydent po stronie pośrednika: kogo informować, jak ograniczyć ekspozycję, jak odtworzyć zakres przetwarzanych danych.
Materiał dowodowy nie pozwala stwierdzić, jak powszechne są opisane incydenty ani ilu dostawców stosuje podobne praktyki. Pokazuje jednak coś istotnego: w łańcuchu pośredników istnieje warstwa, którą można przetestować i w której można zaobserwować nieoczekiwane zachowania. To wystarczający powód, by przestać traktować routery AI jako niewidoczne tło.
Praktyczna weryfikacja dostawców routerów AI
Weryfikacja nie polega na wierzeniu deklaracjom, lecz na obserwacji zachowania warstwy pośredniej. Materiał źródłowy pokazuje metodę, którą można zaadaptować na własne potrzeby: badacze wysłali dwa miliony spreparowanych promptów zawierających baity — tzw. kanarki z poufnymi danymi — i zaobserwowali, że część z nich została wykorzystana. Poniżej przedstawiono sposób przełożenia tego podejścia na realia organizacji.
Metoda kanarków w praktyce
Kanarek to unikalny, identyfikowalny znacznik wstawiony do treści zapytania. W materiale rolę tę pełniły baitowe klucze API do AWS oraz unikalne adresy URL obrazków hostowanych w infrastrukturze badaczy. Kluczowe właściwości takiego znacznika:
- jest unikalny dla konkretnej integracji lub konkretnego dostawcy,
- jego użycie poza zamierzonym kontekstem jest jednoznacznym sygnałem incydentu,
- pozwala przypisać zdarzenie do konkretnej ścieżki przetwarzania.
W materiale generowanie unikalnych kluczy AWS dla różnych usług AI pozwoliło dokładniej ustalić, kto kradnie. To bezpośrednia wskazówka projektowa: jeśli chcesz wiedzieć, która ścieżka zawiodła, każda ścieżka musi mieć własny kanarek.
Projektowanie testu weryfikacyjnego
- Wybierz integrację do testu i ustal, jakie dane w niej przepływają.
- Wygeneruj unikalny znacznik — klucz, token lub adres URL — przypisany wyłącznie do tej integracji.
- Umieść znacznik w treści zapytania w sposób, który nie zakłóca normalnego działania aplikacji.
- Ustal punkt kontrolny: system, który rejestruje każdą próbę użycia znacznika poza aplikacją.
- Uruchom test przez okres obejmujący typowy ruch, w tym szczyty.
- Przeanalizuj zdarzenia: każda próba użycia znacznika poza aplikacją to sygnał do zbadania.
Materiał pokazuje, że takie znaczniki bywają wykorzystywane: odnotowano próby użycia baitowych kluczy AWS, a w jednym przypadku atakujący z domowego komputera we Francji próbował użyć haseł na roota z promptu-baita do zalogowania się na serwer badaczy. Wniosek praktyczny: testuj nie tylko klucze API, ale też inne sekrety, które mogłyby trafić do promptu.
Weryfikacja deklaracji Zero Data Retention
Materiał opisuje przypadek, w którym mimo ustawień prywatności wybranych przez badaczy (Zero Data Retention) ktoś dostał się do ukrytego URLa wskazanego w prompcie i zaczął go klonować. To oznacza, że deklaracja ZDR nie obejmowała całego łańcucha przetwarzania. Sposób weryfikacji:
- umieść w prompcie unikalny URL wskazujący na kontrolowany przez siebie zasób,
- obserwuj logi dostępu do tego zasobu,
- każde odwiedzenie URL-a, którego nie zainicjowała twoja aplikacja, wskazuje na dodatkowy komponent przetwarzający treść zapytania.
Technika ta jest wprost opisana w materiale jako element podejścia nazwanego AI traceroute, bazującego w szczególności na baitowych obrazkach hostowanych w infrastrukturze badaczy, z unikalnym URL-em dla każdego obrazka.
Weryfikacja listy podwykonawców
Deklaracja dostawcy to punkt wyjścia, nie wynik. Materiał pokazuje, że usługa OpenRouter wskazała trzech swoich dostawców AI jako niebezpiecznych i wyrzuciła ich ze swojej oferty, a jeden z dostawców napisał wprost, że było do nich włamanie i ktoś kradł dane z promptów. Praktyczna weryfikacja obejmuje:
- porównanie deklarowanej listy podwykonawców z rzeczywistymi endpointami, do których trafiają zapytania,
- sprawdzenie, czy zmiany w ofercie routera są komunikowane,
- ustalenie, czy dostawca informuje o usunięciu podwykonawcy z oferty i czy ma to wpływ na przetwarzane dane.
Monitoring po wdrożeniu
Wdrożenie zabezpieczeń to moment, w którym monitoring dopiero się zaczyna. Materiał wskazuje, że zmiany w ofercie routera mogą pojawić się bez zapowiedzi, a deklaracje polityk bywają ignorowane. Monitoring musi więc obejmować zarówno warstwę techniczną, jak i warstwę dostawcy.
Monitoring techniczny
- Rejestruj wszystkie endpointy, do których aplikacje wysyłają zapytania do modeli, i alarmuj o pojawieniu się nowego endpointu niebędącego bezpośrednim dostawcą modelu.
- Utrzymuj aktywne kanarki w integracjach o wysokiej ekspozycji i monitoruj próby ich użycia poza aplikacją.
- Filtruj ruch wychodzący pod kątem sekretów: kluczy, haseł i tokenów w treści zapytań.
- Monitoruj logi dostępu do kontrolowanych zasobów wskazywanych w promptach testowych.
Monitoring dostawcy
- Śledź komunikaty dostawcy o incydentach i zmianach w ofercie podwykonawców.
- Okresowo ponawiaj testy kanarkowe — nie jednorazowo, lecz cyklicznie.
- Porównuj aktualną listę podwykonawców z listą z momentu zawarcia umowy.
- Weryfikuj, czy deklaracja ZDR nadal obejmuje wszystkich uczestników przetwarzania.
Reakcja na sygnał z monitoringu
- Zidentyfikuj integrację i ścieżkę, której dotyczy zdarzenie, korzystając z unikalności kanarka.
- Ogranicz ekspozycję: wstrzymaj ruch przez podejrzaną ścieżkę lub przełącz na dostęp bezpośredni.
- Ustal zakres danych, które mogły przejść przez podejrzaną ścieżkę w okresie ekspozycji.
- Powiadom dostawcę i zażądaj informacji o incydencie.
- Odtwórz zakres przetwarzania na potrzeby komunikacji z regulatorem lub klientem.
- Udokumentuj zdarzenie i zaktualizuj rejestr integracji.
Materiał nie pozwala stwierdzić, jak powszechne są opisane incydenty ani ilu dostawców stosuje podobne praktyki. To dodatkowy argument, by monitoring traktować jako stały element, a nie jednorazową weryfikację.
Checklisty wdrożeniowe i kontrolne
Checklista przed wdrożeniem nowej integracji AI
- Czy endpoint docelowy należy bezpośrednio do dostawcy modelu, czy do pośrednika?
- Czy dla pośrednika istnieje udokumentowana lista podwykonawców?
- Czy umowa zawiera obowiązek informowania o podwykonawcach i incydentach?
- Czy ustalono, jakie dane mogą trafiać do promptów w tej integracji?
- Czy filtrowanie sekretów działa przed wysłaniem zapytania?
- Czy przypisano właściciela integracji i klasyfikację danych?
- Czy zaplanowano test kanarkowy po wdrożeniu?
Checklista konfiguracji ochrony promptów
- Czy klucze API, hasła i tokeny są usuwane z treści zapytań po stronie aplikacji?
- Czy dane osobowe są oznaczane i filtrowane przed wysłaniem?
- Czy fragmenty umów i strategii są wykluczone z promptów?
- Czy kod źródłowy jest objęty kontrolą przed wysłaniem do modelu?
- Czy istnieje procedura zgłaszania wyjątków od filtrowania?
Checklista monitoringu okresowego
- Czy lista endpointów została zweryfikowana w ostatnim okresie?
- Czy testy kanarkowe zostały wykonane i przeanalizowane?
- Czy lista podwykonawców dostawcy została porównana z poprzednią wersją?
- Czy deklaracja ZDR została potwierdzona dla wszystkich uczestników przetwarzania?
- Czy odnotowano komunikaty dostawcy o incydentach lub zmianach w ofercie?
- Czy rejestr integracji AI jest aktualny?
Checklista gotowości na incydent po stronie pośrednika
- Czy wiadomo, kogo informować wewnętrznie i zewnętrznie?
- Czy istnieje sposób na szybkie wstrzymanie ruchu przez podejrzaną ścieżkę?
- Czy można odtworzyć zakres danych przetwarzanych przez pośrednika?
- Czy umowa przewiduje termin zgłoszenia incydentu przez dostawcę?
- Czy zespół wie, jak udokumentować zdarzenie na potrzeby regulatora lub klienta?
Checklista decyzji o ścieżce dostępu
- Czy dla integracji o wysokiej ekspozycji rozważono bezpośredni dostęp do dostawcy modelu?
- Czy wiadomo, że bezpośredni dostęp zmniejsza liczbę pośredników, ale nie eliminuje ryzyka do zera?
- Czy decyzja o pozostaniu przy pośredniku jest udokumentowana wraz z uzasadnieniem?
- Czy dla najbardziej wrażliwych zastosowań ustalono dopuszczalność dostępu przez pośredników?
Utrzymanie i przegląd
Materiał kończy się wnioskiem, że routery AI nie powinny być traktowane jako niewidoczne tło. Utrzymanie tego stanu wymaga cyklicznych działań:
- okresowy przegląd integracji i polityk dostawców,
- ponawianie testów kanarkowych w regularnych odstępach,
- aktualizacja rejestru integracji AI wraz z właścicielami i klasyfikacją danych,
- przegląd standardu umownego dla pośredników,
- szkolenie zespołów z zakresu danych, które nie powinny trafiać do promptów.
Każde z tych działań ma odpowiednik w materiale źródłowym: testy kanarkowe odpowiadają wysłaniu dwóch milionów spreparowanych promptów, przegląd polityk odpowiada obserwacji, że ustawienia ZDR czasem działają, a czasem są ignorowane, a przegląd oferty routera odpowiada przypadkowi OpenRouter, który wskazał trzech dostawców jako niebezpiecznych i wyrzucił ich ze swojej oferty.
Źródła i materiały do dalszej weryfikacji
Artykuł jest autorskim opracowaniem przygotowanym na podstawie poniższych materiałów. Linki prowadzą do publikacji źródłowych.
Zdjęcie wyróżniające: Brett Sayles / Pexels.


