Badacz bezpieczeństwa wysłał prawie dwa miliony zapytań do usług AI, w każde wplatając unikalny, śledzony „sekret”. Okazało się, że dane przekazywane przez pośredników w łańcuchu dostaw AI wyciekają w kilku miejscach naraz – także wtedy, gdy użytkownik włączył opcje prywatności.
Jak zbudowano pułapki
HD Moore, główny badacz w firmie Dragos zajmującej się cyberbezpieczeństwem, przygotował zestaw przynęt: klucze dostępu do Amazon Web Services, dane logowania do pustych kont AWS, hasła SSH, unikalne adresy URL, nazwy DNS oraz odwołania do prywatnych repozytoriów git. Żadnego z tych sekretów wcześniej nie używano, a infrastrukturę, która odbierała ewentualne próby wykorzystania, kontrolował sam badacz.
Każdy sekret trafił dokładnie do jednego zapytania wysłanego do jednego dostawcy. Dzięki temu, gdy ktoś później próbował go użyć, dało się ustalić, na którym ogniwie łańcucha doszło do wycieku. Takie przynęty nazywa się „kanarkami” – od ptaków, które dawniej ostrzegały górników przed gazem.
Dlaczego prompty tak łatwo wyciekają
Wiele aplikacji z AI nie łączy się bezpośrednio z Anthropic, OpenAI czy innym dużym dostawcą. Korzysta z tzw. routerów lub bramek AI, takich jak OpenRouter czy Vercel, które wybierają model według kryteriów, np. najniższej ceny lub dopasowania do zadania. Zapytanie jest szyfrowane w trakcie przesyłania, ale na każdym etapie jest odszyfrowywane, bo router musi odczytać treść, by zdecydować, dokąd je przekazać. Może też trafić do kolejnego routera albo do firmy hostingowej. Każdy z uczestników może więc zapisywać prompty i przechowywać je tak długo, jak pozwala jego polityka – a czasem bezterminowo.
Wyniki badania były alarmujące:
- co najmniej trzech dostawców zostało przejętych przez atakujących, którzy kopiowali przychodzące prompty,
- kilku pośredników sprzedających dostęp do modeli zapisywało zapytania i w jakiś sposób przekazywało je osobom, które potem używały wykradzionych danych,
- w wielu przypadkach ignorowano ustawienia prywatności, takie jak Zero Data Retention (ZDR) czy „brak zbierania danych”.
W przypadku jednego z przejętych dostawców skradziono „kilkaset” kluczy AWS. Wszystkie zapytania wysłane w krótkich oknach czasowych pod koniec października zostały przechwycone, także te odrzucone, zanim uruchomiono jakikolwiek model. Wskazuje to, że atakujący podsłuchiwał już „przy drzwiach wejściowych” usługi. U dwóch pozostałych dostawców część skradzionych zapytań miała flagę ZDR, która nic nie dała. Klucze testowano czasem w ciągu kilku godzin, przeszukiwano zasoby w chmurze, próbowano włączać modele w AWS Bedrock i dodawano własnych użytkowników IAM. Łącznie użyto ich „dziesiątki tysięcy” razy. Sekrety z dwóch przejętych usług wykorzystywano niemal równocześnie z tego samego wynajętego serwera, co sugeruje jednego napastnika.
Część pośredników wabiła klientów niskimi cenami, po czym włączała logowanie zapytań. Badacz wykrył to, wysyłając zapytania do tego samego modelu przez różnych sprzedawców i sprawdzając, kto przekazuje dane dalej.
Skrapowanie adresów mimo zapewnień o prywatności
Moore opisał też przypadek chińskiego laboratorium AI, którego systemy pobierały tajne adresy URL z ponad połowy promptów wysłanych do jego modeli między lipcem a październikiem. Dotyczyło to także około dwóch trzecich zapytań oznaczonych jako „no data collection” lub ZDR. Podobne zachowanie zaobserwowano u amerykańskich firm hostingowych odsprzedających te modele, więc klient wybierający usługę w USA, by dane nie opuszczały kraju, nie dostał tego, za co zapłacił.
Co to oznacza w praktyce
Dla polskich firm i programistów wniosek jest prosty: nie należy wklejać do promptów kluczy API, haseł ani adresów prywatnych repozytoriów, zwłaszcza gdy aplikacja korzysta z taniego pośrednika. Jeśli taki sekret już gdzieś trafił, trzeba go natychmiast unieważnić i wygenerować nowy. Badanie nie opisuje przepisów unijnych, ale dla organizacji w UE sprawa ma też wymiar RODO: dane osobowe wysyłane do modeli mogą przechodzić przez wielu podwykonawców, o których firma nie wie.
Moore wskazuje, że najskuteczniejszym zabezpieczeniem jest uruchamianie modeli na własnych serwerach, choć to kosztowne. Tańszą alternatywą jest korzystanie bezpośrednio z dużego dostawcy, z jedną umową i jedną polityką prywatności do przeczytania. Nawet wtedy nie ma gwarancji, że nic nie wycieknie, ale ryzyko jest mniejsze. Warto też samodzielnie wybierać dostawców modeli, zamiast zdawać się na domyślne pule pośredników.
Źródło: Ars Technica – „Researcher plants 2m canaries into the AI supply chain. A privacy disaster surfaced.”
