Badanie firmy Vals, opisane przez WIRED 6 listopada 2026 roku, pokazuje, że chińskie modele open-weight — DeepSeek i GLM — osiągają w symulowanych atakach na sieci korporacyjne wyniki zbliżone do najlepszego zamkniętego modelu cyber OpenAI, udostępnianego wyłącznie zaufanym partnerom. DeepSeek ukończył średnio 73 proc. zadań, podczas gdy model Daybreak — 81 proc. W części zadań oba modele uzyskały wynik równy. Różnica w koszcie tokenów jest jednak znacznie większa niż różnica w skuteczności: atak z użyciem GPT-6-Sol kosztował od 17 do 46 dolarów, a z użyciem DeepSeek — od 2 do 3 dolarów.
To nie jest informacja o nowej podatności ani o incydencie. To dane o przesunięciu progu dostępności zdolności ofensywnych. Dotyczy każdej organizacji, która opiera część swojej strategii bezpieczeństwa na założeniu, że zaawansowane modele AI pozostaną poza zasięgiem przeciętnego atakującego. Badanie Vals sugeruje, że to założenie jest już nieaktualne — nie dlatego, że ataki AI są powszechne, ale dlatego, że bariera kosztowa i dostępowa przestała być istotna. Poniższa analiza oddziela to, co źródło faktycznie stwierdza, od tego, co z tego wynika dla polskich firm i zespołów odpowiedzialnych za bezpieczeństwo.
Co dokładnie zmierzono i czego badanie nie mówi
Vals to firma zajmująca się pomiarem zdolności modeli AI. W opisanym eksperymencie modele otrzymały zadania w dwóch symulowanych scenariuszach. Pierwszy obejmował wyimaginowaną sieć korporacyjną dostępną przez publiczną stronę internetową. Drugi — dwie odrębne sieci firmowe, przy czym warunkiem dostępu do drugiej było wcześniejsze przełamanie pierwszej. Taki układ wymusza wieloetapowe działanie, a nie pojedyncze, wyizolowane polecenie.
Wyniki: Daybreak, najbardziej zaawansowany model cyber OpenAI dostępny tylko dla zaufanych partnerów, ukończył 81 proc. zadań średnio w dwóch testach. DeepSeek — 73 proc. Na części zadań wyniki były identyczne. Koszt tokenów: 17–46 dolarów dla GPT-6-Sol wobec 2–3 dolarów dla DeepSeek.
Co z tego nie wynika:
- Badanie nie mówi, jak często takie ataki udają się w realnych sieciach produkcyjnych, z monitoringiem, segmentacją i systemami detekcji.
- Nie mówi, czy modele open-weight są równie skuteczne w omijaniu konkretnych zabezpieczeń stosowanych w polskich organizacjach.
- Nie mówi, jak wygląda rozkład wyników — średnia z dwóch testów nie pozwala ocenić stabilności rezultatów.
- Nie mówi, czy koszt tokenów przekłada się wprost na koszt ataku po uwzględnieniu infrastruktury do uruchomienia modelu na własnym sprzęcie.
Rayan Krishnan, CEO Vals, wskazuje, że tanie modele open-weight stanowią również zachętę dla obrońców — mogą ich używać do testowania własnych sieci zamiast płacić za dostęp do modeli zamkniętych. To interpretacja, nie ustalenie badania, ale wynika wprost z przedstawionych liczb.
Tło techniczne bez żargonu
Model open-weight to model, którego wagi są publicznie dostępne. Można go pobrać i uruchomić na własnym sprzęcie — bez wysyłania zapytań do zewnętrznego dostawcy i bez rozliczania się za każdy token. Model zamknięty działa wyłącznie przez API dostawcy, który kontroluje, kto ma dostęp i w jakim zakresie.
Różnica w koszcie wynika właśnie z tego. Przy modelu zamkniętym płacisz za każde zapytanie. Przy open-weight ponosisz koszt sprzętu i energii, ale kolejne zapytania są praktycznie darmowe na granicy. Dla zadania wymagającego setek kroków — a tak wygląda wieloetapowe przełamywanie sieci — ta różnica się kumuluje.
Zdolności ofensywne modeli AI w tym kontekście oznaczają umiejętność planowania sekwencji działań: rozpoznania dostępnych usług, wyboru wektora wejścia, eskalacji uprawnień, przejścia do kolejnego segmentu sieci. Model nie „włamuje się” sam — wykonuje polecenia i podejmuje decyzje w ramach narzędzi, które mu udostępnisz. Badanie Vals mierzy właśnie tę warstwę decyzyjną.
„Najlepsze modele frontier, zamknięte w laboratoriach i dostępne wyłącznie przez programy zaufanego dostępu, zaczynają być dorównywane przez modele otwarte, które każdy może pobrać” — Nikil Ravi, badacz Vals.
To zdanie jest sednem sprawy. Ograniczenia dostępu do modeli zamkniętych nie zatrzymują rozprzestrzeniania się zdolności — przesuwają je w czasie o tyle, ile laboratoriom udaje się utrzymać przewagę. Logan Graham z Anthropic mówił WIRED w kwietniu, że trzeba przygotować się na świat, w którym te zdolności będą szeroko dostępne w perspektywie 6, 12 lub 24 miesięcy. Według Vals ten moment nadszedł zgodnie z harmonogramem.
Realne konsekwencje dla polskich firm
Polski rynek IT i zespoły bezpieczeństwa działają w tym samym obiegu narzędzi co reszta świata. Model open-weight pobrany w Warszawie działa tak samo jak pobrany w Singapurze. Nie ma tu regionalnego opóźnienia, które chroniłoby lokalne organizacje.
Konsekwencje układają się w trzy warstwy.
Warstwa ekonomiczna
Bariera kosztowa przestała odgrywać rolę odstraszającą. Atakujący, którego budżet wcześniej nie pozwalał na setki zapytań do modelu zamkniętego, może teraz przeprowadzić wieloetapową symulację na własnym sprzęcie. Dla firmy oznacza to, że „nas nie stać na zaawansowany atak” przestaje być argumentem w ocenie ryzyka — nie dlatego, że każdy atakujący ma motywację, ale dlatego, że koszt próby spadł do poziomu, przy którym opłaca się próbować.
Warstwa detekcji
Automatyzacja rozpoznania i prób eskalacji zwiększa wolumen zdarzeń w logach. Zespoły, które dotąd odfiltrowywały „szum skanerów”, mogą zobaczyć więcej aktywności przypominającej ukierunkowane, wieloetapowe próby. To nie znaczy, że każda z nich jest prowadzona przez model — ale odsetek takich, które wymagają analizy przez człowieka, rośnie.
Warstwa regulacyjna
Polskie firmy objęte NIS2 lub ustawą o krajowym systemie cyberbezpieczeństwa mają obowiązki w zakresie zarządzania ryzykiem i zgłaszania incydentów. Rosnąca automatyzacja ataków nie zmienia tych obowiązków, ale zmienia kontekst ich wypełniania: ocena ryzyka, która nie uwzględnia dostępności tanich modeli ofensywnych, jest niepełna. To interpretacja, nie cytat z przepisów — konkretny zakres obowiązków zależy od kategorii podmiotu i powinien być weryfikowany z aktualnymi wytycznymi regulatora.
Scenariusze ryzyka
Warto oddzielić scenariusze prawdopodobne od tych, które źródło uznaje za mniej realne.
| Scenariusz | Prawdopodobieństwo według materiału | Co to oznacza w praktyce |
|---|---|---|
| Masowe, w pełni automatyczne ataki z użyciem najlepszych modeli | Niskie — obserwacje realnej aktywności pokazują, że atakujący oszczędzają zasoby i używają starszych, słabszych modeli | Nie spodziewaj się fali zaawansowanych ataków w najbliższych tygodniach |
| Wzrost liczby wieloetapowych prób o niskim koszcie | Umiarkowane — wynika z obniżki kosztu tokenów | Więcej zdarzeń wymagających triage’u, większe obciążenie zespołów SOC |
| Użycie modeli open-weight przez obrońców do testów własnych sieci | Wysokie — wprost wskazane przez Krishnana jako zachęta | Realna szansa na tańsze, częstsze testy penetracyjne wewnętrzne |
| Modele abliterated (z wyłączonym treningiem bezpieczeństwa) w rękach atakujących | Umiarkowane — Alex Zenla z Edera wskazuje je jako realne zagrożenie | Większe ryzyko przy self-hosted AI w firmie, jeśli ktoś wgra niezaufany model |
| Przewaga modeli zamkniętych utrzyma się dzięki niepublikowanym modelom | Możliwe — Zenla: laboratoria prawdopodobnie mają dodatkowe, nieujawnione modele | Wyścig trwa; nie zakładaj, że open-weight dogoniło definitywnie |
Alex Zenla z firmy Edera zwraca uwagę na niuans: modele open-weight potrafią dziś generować zaawansowane ataki, zwłaszcza gdy ktoś zmodyfikuje wagi, by wyłączyć trening bezpieczeństwa. Jednocześnie laboratoria zamknięte prawdopodobnie dysponują modelami przewyższającymi publicznie dostępne. To wyścig, w którym przewaga może się przesuwać, ale kierunek jest jasny — zdolności się upowszechniają.
Jak sprawdzić, czy problem dotyczy Twojej organizacji
Nie da się „sprawdzić”, czy ktoś użyje modelu open-weight przeciwko Tobie. Można natomiast sprawdzić, czy Twoja organizacja jest przygotowana na wzrost wolumenu i jakości prób.
- Przejrzyj logi z ostatnich 90 dni pod kątem sekwencji zdarzeń, a nie pojedynczych alertów. Wieloetapowe próby zostawiają ślad w postaci łańcucha: skanowanie → próba logowania → eskalacja. Jeśli Twój monitoring analizuje tylko pojedyncze zdarzenia, ten wzorzec może umykać.
- Sprawdź, czy masz zdefiniowane progi eskalacji dla zdarzeń o niskiej pojedynczej istotności, ale wysokiej kumulacji. Automatyzacja obniża koszt generowania takich zdarzeń.
- Zweryfikuj, jakie modele AI działają w Twojej infrastrukturze — także te wgrane przez pracowników na potrzeby własne. Model abliterated uruchomiony wewnątrz sieci to ryzyko, którego nie widać w zewnętrznym monitoringu.
- Oceń, czy Twoja ocena ryzyka uwzględnia zmianę kosztu ataku. Jeśli w rejestrze ryzyka masz pozycję „zaawansowany atak AI” oznaczoną jako mało prawdopodobną z powodu kosztu, ta ocena wymaga aktualizacji.
- Sprawdź, czy zespół ma dostęp do modeli open-weight do testów. Jeśli nie, bariera wewnętrzna może być wyższa niż bariera atakującego.
Plan reakcji krok po kroku
Poniższy plan zakłada, że jesteś odpowiedzialny za bezpieczeństwo w firmie średniej lub większej. Nie wymaga zakupu nowych narzędzi w pierwszym kroku.
Krok 1: Inwentaryzacja (tydzień 1)
Zbierz listę modeli AI używanych w organizacji — przez zespoły formalnie i przez pracowników nieformalnie. Uwzględnij modele uruchamiane lokalnie. Ustal, skąd pochodzą wagi i czy ktoś je modyfikował. To najczęściej pomijany element, a przy modelach open-weight właśnie on decyduje o ryzyku wewnętrznym.
Krok 2: Przegląd detekcji (tydzień 1–2)
Sprawdź, czy reguły detekcji obejmują sekwencje wieloetapowe. Jeśli nie, dodaj przynajmniej korelację zdarzeń w ramach jednej sesji lub jednego adresu źródłowego. Nie chodzi o budowę nowego SOC — o wykorzystanie danych, które już masz.
Krok 3: Test własnej sieci tanim modelem (tydzień 2–4)
Uruchom model open-weight w izolowanym środowisku i przeprowadź kontrolowany test na wyodrębnionym segmencie sieci. Celem jest ocena, jakiego rodzaju zadania model wykonuje sprawnie w Twoim środowisku — nie uzyskanie pełnego obrazu podatności. Wyniki porównaj z raportem z ostatniego testu penetracyjnego. Jeśli rozbieżność jest duża, masz temat do pogłębienia.
Krok 4: Aktualizacja oceny ryzyka (tydzień 3–4)
Zaktualizuj rejestr ryzyka o zmianę kosztu ataku. Uzasadnij zmianę danymi z badania Vals i własnych testów. Udokumentuj — przy audycie NIS2 lub KSC będziesz potrzebować śladu decyzyjnego.
Krok 5: Decyzja o modelu ciągłego testowania (miesiąc 2)
Zdecyduj, czy wprowadzasz cykliczne testy z użyciem modeli open-weight jako element programu bezpieczeństwa. To decyzja kosztowa i organizacyjna, nie techniczna. Krishnan z Vals wskazuje, że tanie modele dają obrońcom przewagę kosztową — ale wymaga to kompetencji wewnętrznych lub stałego partnera.
Typowe błędy
- Traktowanie wyniku 73 proc. jako „prawie 81 proc.” bez kontekstu. Średnia z dwóch testów nie mówi nic o wariancji. Model, który raz osiąga 90 proc., a raz 56 proc., ma inną charakterystykę ryzyka niż model stabilny na 73 proc.
- Zakładanie, że atakujący natychmiast przesiadają się na najlepsze modele. Źródło wprost mówi, że realna aktywność pokazuje oszczędzanie zasobów i używanie starszych modeli. To nie unieważnia ryzyka, ale zmienia horyzont czasowy.
- Porównywanie kosztu tokenów z kosztem ataku bez uwzględnienia infrastruktury. Model open-weight jest tani w tokenach, ale wymaga sprzętu, energii i kompetencji. Dla jednorazowej próby koszt całkowity może być wyższy niż się wydaje. Dla powtarzalnych działań — odwrotnie.
- Ignorowanie modeli abliterated w środowisku wewnętrznym. Jeśli pracownicy wgrywają modele z niezweryfikowanych źródeł, kontrola dostępu do modeli zamkniętych nic nie daje.
- Odpowiedź wyłącznie techniczna bez aktualizacji procesu. Nowe narzędzie detekcji bez zmiany procedur eskalacji i progów reakcji nie zmienia zdolności organizacji do odpowiedzi.
Działania krótkoterminowe i długoterminowe
Krótkoterminowe (do 30 dni)
- Inwentaryzacja modeli AI w organizacji, w tym lokalnych.
- Przegląd reguł korelacji zdarzeń w monitoringu.
- Aktualizacja wpisu o ryzyku ataku AI w rejestrze ryzyka z uzasadnieniem.
- Briefing zespołu SOC o zmianie charakterystyki zdarzeń — więcej sekwencji, nie tylko pojedynczych alertów.
Długoterminowe (3–12 miesięcy)
- Włączenie modeli open-weight do cyklicznego programu testów własnych sieci.
- Budowa lub wzmocnienie kompetencji w zakresie analizy wieloetapowych zdarzeń.
- Przegląd polityki dopuszczania modeli AI do infrastruktury wewnętrznej — z wymogiem weryfikacji źródła wag.
- Uwzględnienie zmiany kosztu ataku w corocznej ocenie ryzyka i planie ciągłości działania.
- Monitorowanie publikacji Vals i podobnych pomiarów — zdolności modeli zmieniają się szybciej niż cykl przeglądu ryzyka.
Checklista praktyczna
- ☐ Znam wszystkie modele AI działające w mojej organizacji, w tym lokalnie.
- ☐ Wiem, skąd pochodzą wagi modeli lokalnych i czy były modyfikowane.
- ☐ Mój monitoring wykrywa sekwencje zdarzeń, nie tylko pojedyncze alerty.
- ☐ Mam zdefiniowane progi eskalacji dla kumulacji zdarzeń o niskiej istotności.
- ☐ Moja ocena ryzyka uwzględnia zmianę kosztu ataku opartego na AI.
- ☐ Zespół ma dostęp do modeli open-weight do testów własnych sieci.
- ☐ Ostatni test penetracyjny został porównany z wynikami testu modelem open-weight.
- ☐ Polityka dopuszczania modeli AI do infrastruktury wymaga weryfikacji źródła.
- ☐ Mam udokumentowany ślad decyzyjny dotyczący zmiany oceny ryzyka.
- ☐ Wiem, które obowiązki NIS2 lub KSC dotyczą mojej organizacji i jak je wypełniam.
Co powinien zrobić właściciel firmy / administrator
Właściciel firmy: nie musisz rozumieć, jak działają modele open-weight. Musisz zrozumieć jedną rzecz: koszt przeprowadzenia zaawansowanej próby ataku spadł o rząd wielkości. To zmienia ocenę ryzyka, niekoniecznie natychmiastowe zagrożenie. Zlec aktualizację rejestru ryzyka i zapytaj zespół, czy ma plan testowania własnych sieci tanimi modelami. Jeśli firma podlega NIS2 lub KSC, upewnij się, że zmiana jest udokumentowana — regulator może o to zapytać przy kontroli. Nie traktuj tego jako powodu do paniki; traktuj jako powód do przeglądu założeń.
Administrator: Twoje zadania są konkretne. Po pierwsze, sprawdź, jakie modele AI działają w infrastrukturze — także te uruchomione przez pracowników poza oficjalnym obiegiem. Po drugie, zweryfikuj, czy reguły monitoringu wykrywają sekwencje, a nie tylko pojedyncze zdarzenia. Po trzecie, jeśli macie środowisko testowe, uruchom w nim model open-weight i sprawdź, jak radzi sobie z zadaniami w Waszej sieci — w kontrolowanych warunkach i z zgodą przełożonych. Po czwarte, nie wgrywaj modeli z niezweryfikowanych źródeł na produkcję; modele abliterated to realne ryzyko wewnętrzne. Po piąte, udokumentuj każdą zmianę w konfiguracji detekcji — przy audycie liczy się ślad, nie tylko efekt.
Badanie Vals nie mówi, że Twoja firma zostanie zaatakowana w przyszłym tygodniu. Mówi, że założenie o niedostępności zaawansowanych zdolności ofensywnych przestało być prawdziwe. To wystarczający powód, by przejrzeć, co z tego założenia wynikało w Twojej organizacji — i co trzeba zmienić.
Weryfikacja praktyczna: jak sprawdzić, czy wnioski z badania Vals dotyczą Twojej organizacji
Badanie Vals opisuje zdolności modeli w środowisku symulowanym. Zanim przeniesiesz wnioski do własnego rejestru ryzyka, musisz ustalić, które elementy tego badania mają odniesienie do Twojej infrastruktury, a które są wyłącznie tłem. Poniżej praktyczna ścieżka weryfikacji, oparta na danych ze źródła.
Krok A: Odtworzenie warunków zbliżonych do scenariuszy Vals
Vals testował modele w dwóch scenariuszach: pierwszy to firmowa sieć dostępna przez publiczną stronę, drugi wymagał skompromitowania pierwszej sieci, by uzyskać dostęp do drugiej. Zanim uznasz, że Twoja organizacja jest odporna lub podatna, sprawdź, czy w Twoim środowisku istnieje analogiczna ścieżka przejścia między segmentami. W praktyce chodzi o odpowiedź na pytanie: czy z segmentu publicznego da się technicznie dotrzeć do segmentu wewnętrznego, i czy to przejście jest monitorowane jako sekwencja, a nie jako dwa osobne zdarzenia.
Uwaga metodologiczna ze źródła: wynik 81 proc. dla Daybreak i 73 proc. dla DeepSeek to średnia z dwóch testów. Nie traktuj tych liczb jako precyzyjnego wskaźnika zdolności w Twoim środowisku. Wykorzystaj je jako punkt odniesienia do porównania własnych obserwacji, nie jako prognozę.
Krok B: Pomiar kosztu po Twojej stronie
Vals podaje koszt tokenów: 17–46 USD dla GPT-6-Sol wobec 2–3 USD dla DeepSeek przy przeprowadzeniu ataku. To dane po stronie atakującego. Po Twojej stronie koszt jest inny — obejmuje sprzęt, energię i kompetencje potrzebne do uruchomienia modelu open-weight. Rayan Krishnan z Vals wskazuje, że tanie modele dają obrońcom przewagę kosztową, ale wymaga to zdolności wewnętrznych lub stałego partnera. Zanim wpiszesz „tanie testy modelem open-weight” do planu, oszacuj koszt całkowity: ile godzin pracy zespołu, ile sprzętu, ile czasu na przygotowanie izolowanego środowiska.
Krok C: Weryfikacja założenia o „niedostępności”
Źródło wprost stwierdza, że obrońcy muszą zakładać, iż najlepiej finansowani i najbardziej zmotywowani atakujący mieli przez cały czas przynajmniej częściowy dostęp do modeli zamkniętych. Sprawdź, czy w Twojej dokumentacji ryzyka istnieje założenie przeciwne — np. że zaawansowane zdolności ofensywne są zarezerwowane dla wąskiej grupy i przez to mało prawdopodobne w Twoim przypadku. Jeśli tak, to założenie wymaga korekty niezależnie od tego, czy używasz modeli open-weight.
Monitoring po wdrożeniu: co obserwować i jak mierzyć
Po wprowadzeniu zmian w detekcji i testach potrzebujesz zestawu miar, które pozwolą ocenić, czy zmiany działają. Poniższe wskaźniki wynikają bezpośrednio z charakterystyki opisanej w źródle — wieloetapowości, kumulacji zdarzeń i zmiany kosztu.
Miary detekcji sekwencji
- Odsetek alertów skorelowanych w sekwencje względem alertów pojedynczych — jeśli spada, korelacja może być zbyt agresywna lub źle skonfigurowana.
- Liczba wykrytych sekwencji typu skanowanie → próba logowania → eskalacja w podziale na segmenty sieci.
- Czas od pierwszego zdarzenia w sekwencji do eskalacji do zespołu reagowania.
Miary kumulacji zdarzeń o niskiej istotności
Automatyzacja obniża koszt generowania zdarzeń, dlatego pojedyncze zdarzenia o niskiej istotności mogą nabrać znaczenia w kumulacji. Ustal progi: ile zdarzeń z jednego adresu źródłowego w jakim oknie czasowym uruchamia eskalację. Progi zapisz i wersjonuj — przy audycie liczy się ślad decyzyjny, nie tylko efekt.
Miary kosztu i wykorzystania modeli
- Rejestr modeli AI działających w infrastrukturze, aktualizowany przy każdej zmianie — z informacją o źródle wag i ewentualnych modyfikacjach.
- Liczba modeli uruchomionych lokalnie poza oficjalnym obiegiem — to najczęściej pomijany element, a przy modelach open-weight właśnie on decyduje o ryzyku wewnętrznym.
- Koszt cyklicznego testu modelem open-weight w przeliczeniu na jeden test — porównywany z kosztem testu penetracyjnego zewnętrznego.
Miary pokrycia testów
Porównuj wyniki testów modelem open-weight z raportem z ostatniego testu penetracyjnego. Nie chodzi o to, by liczby się zgadzały — chodzi o to, by rozbieżność była świadomie wyjaśniona. Duża rozbieżność to temat do pogłębienia, nie dowód na jakość jednej lub drugiej metody.
Checklista weryfikacji przed i po wdrożeniu
Poniższa lista uzupełnia wcześniejszą checklistę o elementy weryfikacji praktycznej i monitoringu po wdrożeniu. Wypełniaj ją przy każdym przeglądzie, nie tylko przy pierwszym wdrożeniu.
Przed wdrożeniem
- Czy zidentyfikowałeś w swojej sieci ścieżki przejścia między segmentami analogiczne do scenariuszy Vals (dostęp publiczny → sieć wewnętrzna)?
- Czy oszacowałeś koszt całkowity testu modelem open-weight po swojej stronie, a nie tylko koszt tokenów?
- Czy sprawdziłeś, czy w dokumentacji ryzyka nie ma założenia o niedostępności zaawansowanych zdolności ofensywnych?
- Czy masz izolowane środowisko do uruchomienia modelu open-weight, z zgodą przełożonych?
- Czy wiesz, które modele AI działają w infrastrukturze, w tym te uruchomione przez pracowników poza oficjalnym obiegiem?
Po wdrożeniu
- Czy mierzysz odsetek alertów skorelowanych w sekwencje i czy ta miara jest stabilna?
- Czy masz zdefiniowane i wersjonowane progi kumulacji zdarzeń o niskiej istotności?
- Czy rejestr modeli AI jest aktualizowany przy każdej zmianie, z informacją o źródle wag?
- Czy porównałeś wyniki testu modelem open-weight z raportem z ostatniego testu penetracyjnego i wyjaśniłeś rozbieżności?
- Czy koszt cyklicznego testu jest znany i uwzględniony w budżecie?
- Czy zmiany w konfiguracji detekcji mają udokumentowany ślad decyzyjny?
Jak czytać wyniki i czego nie wyciągać z danych
Źródło podaje, że na niektórych zadaniach DeepSeek i Daybreak osiągnęły równy wynik. To ważna informacja, ale nie oznacza, że modele są wymienne w każdym scenariuszu. Średnia z dwóch testów nie mówi nic o wariancji — model, który raz osiąga 90 proc., a raz 56 proc., ma inną charakterystykę ryzyka niż model stabilny na 73 proc. Przy interpretacji własnych testów pytaj o rozrzut, nie tylko o średnią.
Źródło zaznacza również, że realna aktywność cyberprzestępcza i państwowa pokazuje oszczędzanie zasobów i używanie starszych, słabszych modeli w większości działań. To nie unieważnia ryzyka, ale zmienia horyzont czasowy. Wniosek praktyczny: nie planuj reakcji wyłącznie na scenariusz „atakujący używa najlepszego modelu”. Planuj na scenariusz „atakujący używa modelu wystarczająco dobrego, by osiągnąć cel taniej niż dotychczas”.
Alex Zenla z Edera wskazuje, że modele open-weight są zdolne do zaawansowanych ataków i znajdowania podatności, zwłaszcza gdy uwzględni się modele abliterated, w których modyfikacja wag wyłącza trening bezpieczeństwa. To ryzyko wewnętrzne, którego nie widać w zewnętrznym monitoringu — dlatego rejestr modeli lokalnych jest elementem monitoringu po wdrożeniu, a nie jednorazową inwentaryzacją.
Rytm przeglądów i odpowiedzialności
Zdolności modeli zmieniają się szybciej niż cykl przeglądu ryzyka. Ustal rytm: przegląd rejestru modeli przy każdej zmianie w infrastrukturze, przegląd progów kumulacji co kwartał, przegląd oceny ryzyka w cyklu rocznym z możliwością aktualizacji po publikacji nowych pomiarów, takich jak badanie Vals. Przypisz odpowiedzialność: kto prowadzi rejestr modeli, kto weryfikuje źródło wag, kto zatwierdza zmiany w progach eskalacji, kto dokumentuje ślad decyzyjny. Bez przypisania odpowiedzialności checklista staje się dokumentem, który nikt nie wypełnia.
Jeśli organizacja podlega NIS2 lub KSC, upewnij się, że każda zmiana w ocenie ryzyka i konfiguracji detekcji jest udokumentowana — regulator może o to zapytać przy kontroli. Dokumentacja powinna obejmować uzasadnienie zmiany, dane, na których się oparto (w tym wyniki własnych testów), oraz datę i osobę zatwierdzającą.
Źródła i materiały do dalszej weryfikacji
Artykuł jest autorskim opracowaniem przygotowanym na podstawie poniższych materiałów. Linki prowadzą do publikacji źródłowych.
- Free Chinese AI Models Are Getting Scary Good at Hacking (www.wired.com)
Zdjęcie wyróżniające: panumas nikhomkhai / Pexels.


