Korzystanie z AI i bezpieczeństwo AI

Shadow AI to korzystanie w pracy z narzędzi AI bez wiedzy lub zgody osób odpowiedzialnych za IT, bezpieczeństwo czy ochronę danych. Obejmuje pracowników używających prywatnych kont chatbotów do zadań służbowych, rozszerzenia przeglądarki z wbudowaną AI, funkcje AI włączone w istniejącym oprogramowaniu, programistów uruchamiających lokalne modele lub asystentów kodowania oraz agentów AI podłączonych do systemów firmy. Zwykle wynika z dobrych intencji: ludzie chcą pracować szybciej. Ryzyka są konkretne. Dane firmy lub klientów trafiają do dostawców, z którymi nie masz umowy, na warunkach, które mogą pozwalać im je przechowywać lub trenować na nich modele. Dane osobowe mogą być przetwarzane bez podstawy prawnej. Wyniki trafiają do dokumentów i kodu bez weryfikacji. A nikt nie odpowie klientowi czy audytorowi, które usługi AI miały kontakt z jego danymi. Odpowiedzią nie jest zakaz, lecz widoczność, zatwierdzona alternatywa i jasna polityka. Od planu Pro NetSenX pokazuje, które hosty łączą się z którymi usługami AI i ile danych tam trafia, a nie to, co wpisano.

Tak, od planu Pro. NetSenX oznacza ruch do zewnętrznych usług AI i do lokalnie uruchomionych modeli językowych, dzięki czemu niezatwierdzone użycie AI staje się widoczne, zanim przerodzi się w problem z ochroną danych.

Przyjrzyj się połączeniom wychodzącym do usług AI: cel i nazwa serwera w handshake'u TLS wskazują usługę bez odszyfrowywania czegokolwiek. NetSenX od planu Pro oznacza ten ruch oraz ruch do lokalnie uruchamianych środowisk modeli językowych.

Zwykle z większej liczby, niż ktokolwiek spisał, i właśnie ta różnica jest powodem, by to sprawdzić. Realistyczna lista ma cztery warstwy: usługi, za które płacisz na kontach firmowych; funkcje AI włączone w oprogramowaniu, którego już używasz, takim jak pakiety biurowe, CRM, helpdesk czy narzędzia graficzne; usługi, do których pracownicy wchodzą z prywatnych kont w przeglądarce lub w aplikacjach desktopowych; i modele działające lokalnie na laptopach, serwerach kompilacji czy stacjach z GPU. Zacznij od tego, co wiesz, z umów, wyciągów kart i konsol administracyjnych, a potem dodaj to, co pokazuje sieć. Pogrupuj wyniki według funkcji biznesowych, bo finanse, sprzedaż i programiści używają zwykle różnych narzędzi do różnych danych, i nadaj każdej usłudze status: zatwierdzona, tolerowana dla danych niewrażliwych albo do zastąpienia. Ta lista jest podstawą polityki AI, szkoleń z kompetencji wymaganych przez AI Act i odpowiedzi dla klientów. Od planu Pro NetSenX pokazuje, które hosty łączą się z którymi zewnętrznymi usługami AI i lokalnymi środowiskami modeli, kiedy i ile danych trafia do każdej; nie pokazuje, co wpisano.

Można to zmierzyć na poziomie sieci, dla każdej usługi i każdego hosta, a ta liczba jest bardziej użyteczna, niż się wydaje. Ilość danych nie mówi, czym te dane były, ale odróżnia lekkie użycie, takie jak krótkie pytania i odpowiedzi, od intensywnego, takiego jak wysyłanie całych dokumentów, arkuszy, repozytoriów kodu czy nagrań. Nagły skok z jednego hosta albo stały strumień z serwera, który w ogóle nie powinien łączyć się z usługami AI, to powód, by zapytać. Śledź to co miesiąc, według funkcji biznesowych, obok listy zatwierdzonych usług: rosnące użycie zatwierdzonego narzędzia to dobra wiadomość; rosnące użycie niezatwierdzonego to luka w polityce. Konsola administracyjna dostawcy AI może dodać szczegóły na poziomie użytkownika dla kont firmowych. Od planu Pro NetSenX pokazuje, które hosty łączą się z którymi usługami AI, także z lokalnymi środowiskami modeli, i ile danych trafia do każdej w czasie. Nigdy nie czyta treści, więc nie powie, czy dane były poufne; tę ocenę dają osoby, do których dane należą.

Częściowo. Logi DNS pokazują, które hosty odpytują domeny znanych usług AI, co jest dobrym początkiem i nic nie kosztuje, jeśli Twój resolver już loguje zapytania: wyeksportuj tydzień zapytań i dopasuj je do listy domen usług AI. Pomijają szyfrowany DNS omijający resolver, usługi osiągane przez inne domeny lub sieci CDN, funkcje AI wbudowane w narzędzia, z których już korzystasz, i to, ile danych faktycznie przesłano. Pokazują też host, a nie osobę, a pojedyncze zapytanie może pochodzić z przeglądarki, która wstępnie ładuje stronę. Traktuj DNS jako tani pierwszy widok i potwierdzaj danymi o połączeniach, zanim podejmiesz działania. NetSenX od planu Pro łączy cele z ilością danych i czasem połączeń, więc widzisz, które hosty korzystają z których usług AI, także z lokalnych środowisk modeli, i jak intensywnie; nie widzi treści promptów. Połącz to z logami administracyjnymi dostawcy AI, jeśli chodzi o treść.

Tak, jeśli chodzi o połączenia, nie, jeśli chodzi o treść. Aplikacja chatbota na komputer, asystent AI w edytorze kodu i narzędzie wiersza poleceń wywołujące API AI muszą dotrzeć do dostawcy przez sieć, więc cel, czas i ilość danych są widoczne tak samo jak dla przeglądarki. Ma to znaczenie, bo te narzędzia często wymykają się kontrolom opartym na przeglądarce: polityka rozszerzeń ani proxy WWW ich nie widzi, a asystenci AI programistów potrafią wysyłać jako kontekst duże części kodu. Ograniczenia: gdy narzędzie łączy się z ogólnym punktem końcowym chmury lub firmowym proxy, dostawca AI może być za nim ukryty; Encrypted Client Hello może ukryć nazwę serwera; a laptopy używane poza biurem są widoczne tylko wtedy, gdy działa na nich agent. NetSenX od planu Pro pokazuje, które hosty łączą się z którymi zewnętrznymi usługami AI i lokalnie uruchomionymi środowiskami modeli językowych oraz ile danych trafia do każdej, niezależnie od tego, która aplikacja nawiązała połączenie; nie widzi, jaki plik czy prompt wysłano.

Nie. Treść sesji jest szyfrowana, a NetSenX nigdy jej nie odszyfrowuje. Pokazuje, że host skorzystał z usługi AI, kiedy i ile danych wysłał; do treści potrzebne są logi firmowej wersji usługi albo narzędzie DLP.

Bo treść podróżuje w szyfrowanych połączeniach do usług, których firma nie kontroluje. Gdy ktoś wkleja tekst do chatbota w przeglądarce, zapora widzi połączenie HTTPS z dostawcą i co najwyżej nazwę usługi; sam prompt jest zaszyfrowany na całej drodze między przeglądarką a dostawcą. Konta prywatne przechowują historię po stronie dostawcy, poza zasięgiem firmy. Funkcje AI w zatwierdzonych aplikacjach wyglądają jak zwykły ruch tych aplikacji, a telefony na danych komórkowych w ogóle nie dotykają sieci firmowej. Widoczność na poziomie treści wymaga kontroli na jednym z końców: konta firmowego, którego konsola administracyjna i logi audytowe pokazują użycie, ochrony przed wyciekiem danych w przeglądarce lub na urządzeniu albo proxy przechwytującego, każde z własnymi pytaniami o prywatność. Sieć może dać kolejną najlepszą rzecz: które hosty korzystają z których usług AI, kiedy i jak intensywnie. Dokładnie to pokazuje NetSenX od planu Pro.

Nie. Jest częścią planu Pro i wyższych. Plan Free obejmuje detekcję behawioralną, np. beaconingu, skanowania i ruchu lateralnego, bez limitu czasu.

To zależy od miejsca, w którym działa narzędzie, a o odpowiedź warto poprosić każdego dostawcę na piśmie, bo ta sama etykieta oznacza bardzo różne rzeczy. Narzędzie na urządzeniu końcowym widzi, jakie aplikacje AI i rozszerzenia przeglądarki są zainstalowane, a czasem jakie strony są odwiedzane; narzędzie oparte na DNS widzi zapytania o domeny AI przez kontrolowany przez siebie resolwer; rozszerzenie przeglądarki widzi strony, a przy odpowiednich uprawnieniach to, co się w nich wpisuje; czujnik sieciowy widzi połączenia z usługami AI wraz z ilością danych i czasem; a konsole administracyjne dostawców AI pokazują użycie na kontach firmowych. Żadne z nich osobno nie widzi wszystkiego. Pytaj konkretnie: z jakiego źródła pochodzi widoczność, czy widzi treść, czy tylko cele, czy obejmuje aplikacje desktopowe i modele lokalne, jak radzi sobie z szyfrowanym DNS, co robi na urządzeniach niezarządzanych i jakie dane osobowe pracowników zbiera. NetSenX należy do kategorii sieciowej: od planu Pro pokazuje, które hosty łączą się z którymi zewnętrznymi usługami AI i lokalnymi środowiskami modeli i ile danych przepływa, nigdy to, co wpisano.

Zależy to mniej od usługi, a bardziej od konta i danych. Połączenie jest szyfrowane, a duzi dostawcy prowadzą dojrzałe programy bezpieczeństwa, więc główne ryzyka leżą gdzie indziej. Konto prywatne podlega warunkom dla konsumentów: zależnie od dostawcy i ustawień rozmowy mogą być przechowywane i używane do ulepszania modeli, a firma nie ma widoku administracyjnego, umowy powierzenia danych ani możliwości usunięcia tego, co udostępniono. Konto firmowe lub korporacyjne zwykle to zmienia: daje umowne ograniczenia trenowania, ustawienia przechowywania, logowanie jednokrotne, kontrolę administracyjną i logi audytowe. Pozostałe ryzyka są ludzkie: poufne lub osobowe dane wklejone bez zastanowienia, odpowiedzi pewne siebie, a błędne, oraz wygenerowany kod czy tekst użyty bez weryfikacji. Praktyczne zasady: zatwierdzone narzędzie na koncie firmowym, krótka lista danych, które nigdy tam nie trafiają, uwierzytelnianie wieloskładnikowe (MFA) na koncie i sprawdzanie wyników, zanim trafią do klientów. NetSenX od planu Pro pokazuje, z jakich usług AI faktycznie się korzysta i ile danych do nich trafia.

Traktuj usługę AI jak każdego innego dostawcę przetwarzającego Twoje dane i skonfiguruj ją świadomie. Wybierz jedną lub dwie zatwierdzone usługi i używaj kont firmowych z logowaniem jednokrotnym i uwierzytelnianiem wieloskładnikowym, by osoby odchodzące traciły dostęp, a administratorzy widzieli użycie. Sprawdź umowę: czy Twoje dane służą do trenowania, jak długo są przechowywane, gdzie są przetwarzane i czy zawarto umowę powierzenia przetwarzania zgodną z RODO. Napisz jednostronicową politykę z przykładami tego, co wolno, a czego nie wolno wprowadzać, i do kogo zwracać się z pytaniami. Włącz ustawienia administracyjne dostawcy, takie jak limity przechowywania i ograniczenia wtyczek czy konektorów. Ustal, jak wyniki są sprawdzane, zanim trafią do klientów lub kodu produkcyjnego. Przeszkol ludzi z polityki i z obowiązku kompetencji w zakresie AI z AI Act. Potem sprawdź rzeczywistość: od planu Pro NetSenX pokazuje, z których usług AI hosty faktycznie korzystają, łącznie z niezatwierdzonymi i lokalnymi modelami, i ile danych trafia do każdej, bez czytania treści.

Zacznij od polityki, której ludzie mogą przestrzegać: które narzędzia AI są zatwierdzone, do jakich danych i przez jakie konto firmowe. Potem spraw, by zatwierdzone narzędzie było łatwe w użyciu, bo ludzie omijają zasady, które blokują im pracę, a konto firmowe u dostawcy AI zwykle daje umowne warunki korzystania z danych, ustawienia administracyjne i logi, których konto prywatne nie ma. Wyjaśnij powód na konkretnych przykładach: listy klientów, umowy, kod źródłowy, dane płacowe i wszystko objęte umową o poufności nie trafia do niezatwierdzonych narzędzi. Dalej przychodzą zabezpieczenia techniczne: ochrona przed wyciekiem danych (DLP) na komputerach lub w przeglądarce, proxy WWW i ustawienia administracyjne samego dostawcy AI. Sprawdzaj efekt co miesiąc, a nie raz. NetSenX daje widoczność, a nie blokadę: od planu Pro pokazuje, które hosty łączą się z którymi usługami AI i ile danych tam trafia, więc widzisz, czy polityka działa. Nie widzi, co wpisano ani wysłano.

Sama blokada rzadko działa: ludzie przechodzą na telefony, sieci domowe lub inne narzędzia AI, a Ty tracisz wgląd w użycie, czyli osiągasz odwrotność tego, czego chcesz. Listy blokad też nie nadążają, bo nowe usługi AI pojawiają się co miesiąc, a wiele z nich jest wbudowanych w aplikacje, które już dopuszczasz. Jaśniejsza droga ma trzy elementy: politykę określającą, które narzędzia AI są zatwierdzone i jakie dane można do nich wprowadzać; zatwierdzone narzędzie z kontem firmowym tam, gdzie jest realne zapotrzebowanie, żeby ludzie mieli dobrą alternatywę; i widoczność tego, co jest faktycznie używane, regularnie przeglądaną. Blokada nadal ma sens dla konkretnych usług wysokiego ryzyka, dla niezarządzanych urządzeń w sieci gościnnej albo w trakcie incydentu. NetSenX od planu Pro pokazuje, z którymi usługami AI łączą się hosty w sieci, łącznie z lokalnie uruchomionymi modelami, i ile danych trafia do każdej; widzi cel i ilość danych, nie to, co wpisano, i sam niczego nie blokuje.

Zanim napiszesz zasady, sprawdź, z czego się korzysta i dlaczego. W większości firm pierwsza fala użycia AI pochodzi od ludzi, którzy rozwiązują realne problemy: piszą maile, streszczają dokumenty, piszą kod lub tłumaczą. Zakaz spycha to użycie w cień; zatwierdzone narzędzie z jasnymi wskazówkami utrzymuje je na widoku. Potem wyjaśnij ryzyka językiem codziennej pracy: umowa z klientem wklejona do prywatnego chatbota może naruszyć klauzulę poufności; streszczenie AI może pominąć to jedno zdanie, które się liczy; wygenerowany kod może mieć podatności lub problemy licencyjne. Daj krótką listę danych, które nigdy nie trafiają do niezatwierdzonych narzędzi, pokaż, jak korzystać z zatwierdzonego, i wskaż osobę, do której można się zwrócić. Krótkie, powtarzane szkolenia działają lepiej niż jedno długie, a od lutego 2025 r. AI Act wymaga od organizacji korzystających z AI podjęcia środków wspierających kompetencje personelu w zakresie AI. Postępy sprawdzaj faktami: od planu Pro NetSenX pokazuje, z jakich usług AI faktycznie się korzysta i ile danych tam trafia.

Porównaj to, na co pozwala polityka, z tym, z czego firma faktycznie korzysta, na podstawie trzech źródeł. Po pierwsze, konsole administracyjne zatwierdzonych usług AI: kto ma konto, jak aktywnie z niego korzysta, jakie funkcje i konektory są włączone. Po drugie, dane tożsamości i wydatków: logowania firmowymi adresami e-mail do usług, których nikt nie zatwierdził, i subskrypcje AI na firmowych kartach. Po trzecie, sieć: które urządzenia łączą się z którymi usługami AI, łącznie z lokalnymi środowiskami modeli, i ile danych trafia do każdej. Dobry raport miesięczny pokazuje zatwierdzone usługi i ich użycie, niezatwierdzone, które wciąż są w użyciu, oraz nietypowo duże transfery, tak by rozmowa dotyczyła faktów, a nie plotek. Skupiaj się na narzędziach i urządzeniach, a nie na osobach, chyba że istnieje konkretne podejrzenie, i włącz dział HR lub przedstawicieli pracowników tam, gdzie wymaga tego prawo Twojego kraju. Od planu Pro NetSenX daje widok sieci: hosty, usługi AI i ilości danych w czasie. Nie czyta tego, co wpisano, i niczego nie blokuje.

Tylko na zatwierdzonym koncie firmowym i dopiero po sprawdzeniu, co zawiera arkusz. Eksporty finansowe często niosą więcej, niż potrzeba do analizy: nazwy klientów i warunki płatności, wynagrodzenia, marże, dane bankowe i nieopublikowane wyniki. Na koncie prywatnym te dane trafiają do dostawcy, z którym nie masz umowy, na warunkach, które mogą pozwalać na ich przechowywanie lub trenowanie modeli. Na koncie firmowym z umową powierzenia, ustawieniami przechowywania i bez trenowania na Twoich danych ryzyko jest porównywalne z innymi usługami chmurowymi, z których już korzystasz. Praktyczne zasady dla działu finansów: usuń kolumny, których pytanie nie wymaga, agreguj lub pseudonimizuj dane osobowe, nigdy nie wysyłaj nieopublikowanych wyników spółki giełdowej ani plików objętych umową o poufności i sprawdzaj liczby podane przez AI ze źródłem, zanim trafią do raportu, bo modele potrafią źle policzyć lub przepisać liczby. NetSenX od planu Pro pokazuje, które hosty działu finansów łączą się z którymi usługami AI i ile danych tam trafia; nie widzi pliku.

Nie z samej sieci i warto to uczciwie przyznać, zanim wybierze się narzędzie. Treść wysyłana do usługi AI jest szyfrowana, więc zobaczyć ją może tylko kontrola na jednym z końców: logi administracyjne i audytowe firmowego konta AI, ochrona przed wyciekiem danych w przeglądarce lub na urządzeniu, która rozpoznaje wzorce danych klientów, albo proxy przechwytujące. Każde z nich wymaga jasnej polityki, poinformowania pracowników i w wielu krajach udziału przedstawicieli pracowników. To, co sieć pokazuje niezawodnie, to kontekst: które urządzenia korzystają z których usług AI, jak często i ile danych wysyłają. Laptop handlowca, który codziennie wysyła kilka megabajtów do niezatwierdzonego chatbota, to powód do rozmowy o narzędziach i danych, a nie dowód naruszenia. Często najlepszą odpowiedzią jest zatwierdzona alternatywa, która robi to samo na koncie firmowym. Od planu Pro NetSenX pokazuje hosty, usługi AI i ilości danych; nigdy nie widzi wklejonego tekstu.

Może być, zależnie od danych, konta i warunków. Zgodnie z RODO, rozporządzeniem (UE) 2016/679, przesłanie danych osobowych do dostawcy AI to przetwarzanie, które wymaga podstawy prawnej, przejrzystości wobec osób, których dane dotyczą, a jeśli dostawca działa w Twoim imieniu, umowy powierzenia przetwarzania. Przekazanie poza UE wymaga osobnych zabezpieczeń. Na koncie firmowym z taką umową i ustawieniami wykluczającymi trenowanie na Twoich danych użycie w określonym celu może być zgodne z prawem. Wklejanie maili klientów do konta prywatnego na warunkach konsumenckich trudniej uzasadnić i może stanowić nieuprawnione ujawnienie, które RODO traktuje jako naruszenie ochrony danych osobowych; jeśli może ono skutkować ryzykiem dla osób, administrator musi zgłosić je organowi nadzorczemu w ciągu 72 godzin zgodnie z art. 33. Zaangażuj inspektora ochrony danych, zapisz, co i do jakiej usługi przekazano, i usuń przyczynę, wprowadzając zatwierdzone narzędzie. NetSenX od planu Pro pokazuje, które hosty wysłały dane do których usług AI, a nie jakie to były dane.

Rzadko jako pierwszy krok i nigdy wyłącznie na podstawie danych sieciowych. Większość niezatwierdzonego użycia AI wynika z tego, że ludzie chcą szybciej wykonać swoją pracę, często dlatego, że nie ma zatwierdzonego narzędzia albo nikt nie wyjaśnił polityki. Zwolnienie za pierwsze naruszenie w dobrej wierze może być w wielu krajach UE nieproporcjonalne w świetle prawa pracy i uczy resztę zespołu ukrywania użycia zamiast pytania. Rozsądniejsza kolejność: upewnij się, że polityka była jasna, przekazana i rozsądna; zaproponuj zatwierdzoną alternatywę; potraktuj pierwsze naruszenie jako rozmowę i udokumentowane upomnienie; a kroki dyscyplinarne zostaw dla naruszeń celowych lub powtarzanych albo poważnych szkód, takich jak ujawnienie poufnych danych klienta. Decyduj z działem HR i doradcą prawnym i angażuj przedstawicieli pracowników tam, gdzie wymaga tego prawo Twojego kraju. Czujnik sieciowy nie ustali, kto co zrobił: NetSenX pokazuje, które urządzenie połączyło się z którą usługą AI i ile danych przesłano, co jest punktem wyjścia do pytań, a nie dowodem intencji danej osoby.

Głównie takie, że dane firmy wychodzą na warunkach, na które nikt się nie zgodził, i nikt nie potrafi później tego rozliczyć. Własne AI pracowników obejmuje prywatne subskrypcje chatbotów, aplikacje AI na prywatnych telefonach, rozszerzenia przeglądarki, rejestratory spotkań z AI i modele uruchamiane na prywatnym sprzęcie. Ryzyko dla danych: dokumenty, dane klientów czy nagrania trafiają do dostawców na warunkach konsumenckich, być może poza UE, bez umowy powierzenia, i zostają na prywatnych kontach po odejściu pracownika. Ryzyko jakości: efekty pracy oparte na wynikach, których nikt nie sprawdził. Ryzyko zgodności: nie odpowiesz klientowi, audytorowi ani osobie, której dane dotyczą, na pytanie, dokąd trafiły dane. Szczególnej uwagi wymagają rejestratory spotkań z AI, bo zapisują głos i słowa innych osób, często bez zgody wszystkich. Praktyczna odpowiedź to dobre zatwierdzone narzędzie, jasne określenie, do czego wolno używać narzędzi prywatnych, i wymóg zapowiadania nagrywania spotkań. Od planu Pro NetSenX pokazuje, z którymi usługami AI łączą się firmowe urządzenia; prywatne telefony na danych komórkowych pozostają poza widokiem jakiejkolwiek sieci.

Często większe niż same chatboty, ze względu na uprawnienia, o które proszą. Aby streszczać strony, przeredagowywać maile czy wypełniać formularze, rozszerzenie AI zwykle musi czytać i zmieniać wszystko na każdej odwiedzanej stronie, w tym w poczcie WWW, CRM, bankowości i aplikacjach wewnętrznych. Potem wysyła treść stron na własne serwery lub do dostawcy AI. Część rozszerzeń jest dobrze prowadzona; inne to małe projekty, które zmieniają właściciela, zostają sprzedane albo dostają aktualizację ze śledzeniem lub złośliwym kodem, a przeglądarka instaluje ją po cichu. Praktyczne kroki: dopuszczaj rozszerzenia tylko z zarządzanej listy przez polityki przeglądarki, sprawdzaj uprawnienia i wydawcę każdego z nich, preferuj funkcje AI zatwierdzonych narzędzi zamiast rozszerzeń i usuwaj te, których nikt nie potrafi uzasadnić. Czujnik sieciowy widzi połączenia rozszerzenia z jego serwerami jak każdy inny ruch, ale nie rozpozna, które rozszerzenie je nawiązało; inwentarz należy do zarządzania przeglądarką lub urządzeniami. Od planu Pro NetSenX pokazuje, które hosty łączą się z którymi usługami AI i ile danych tam trafia.

Jeśli Twoja organizacja korzysta w pracy z systemów AI, art. 4 AI Act wymaga od niej podjęcia środków wspierających kompetencje personelu w zakresie AI, a ten obowiązek obowiązuje od 2 lutego 2025 r.; od lipca 2026 r. zmieniony przepis wprost stanowi, że nie trzeba gwarantować określonego poziomu u każdej osoby. Ustalenie, z jakich usług AI faktycznie się korzysta, to praktyczny pierwszy krok; prawnik powie, co jeszcze dotyczy Twojej firmy.

Częściowo tak. Rozporządzenie (UE) 2024/1689 nakłada obowiązki na podmioty stosujące, czyli organizacje używające systemów AI w swojej działalności, a nie tylko na dostawców, którzy je budują. Od 2 lutego 2025 r. art. 4 wymaga od dostawców i podmiotów stosujących podjęcia środków dotyczących kompetencji w zakresie AI u personelu, który ma do czynienia z systemami AI; w brzmieniu zmienionym w lipcu 2026 r. rozporządzeniem (UE) 2026/1744 chodzi o wspieranie tych kompetencji, bez gwarantowania określonego poziomu u każdej osoby. Zakazy praktyk z art. 5 również obowiązują od 2 lutego 2025 r. Dalsze obowiązki zależą od kategorii ryzyka systemu i obowiązują od późniejszych dat: podmiot stosujący system wysokiego ryzyka, na przykład w rekrutacji czy decyzjach kredytowych, ma obowiązki dotyczące nadzoru człowieka, monitorowania i logów, a niektóre zastosowania wiążą się z obowiązkami przejrzystości wobec osób, których dotyczą. Korzystanie z ogólnego chatbota do pisania tekstów to lżejszy koniec skali. Praktyczny początek to spis systemów AI, z których faktycznie korzystasz, i celów, do jakich ich używasz, a potem szkolenie dopasowane do tej listy. Szczegóły sprawdź z doradcą prawnym, bo wytyczne wciąż są publikowane.

Oznacza, że firma musi podjąć środki wspierające kompetencje w zakresie AI personelu mającego do czynienia z systemami AI, a organizuje to zwykle dział HR. Art. 4 rozporządzenia (UE) 2024/1689 obowiązuje od 2 lutego 2025 r. zarówno dostawców, jak i podmioty stosujące, więc obejmuje zwykłe firmy korzystające z narzędzi AI; w brzmieniu zmienionym w lipcu 2026 r. rozporządzeniem (UE) 2026/1744 wprost stanowi, że firma nie musi gwarantować określonego poziomu kompetencji u każdej osoby. Dobre środki nadal uwzględniają wiedzę techniczną ludzi, ich doświadczenie, wykształcenie i szkolenia oraz kontekst, w jakim systemy AI są używane. Art. 4 nie przewiduje certyfikatu, określonej liczby godzin ani jednego kursu. Praktyczne kroki: spisz systemy AI faktycznie w użyciu i osoby, które z nich korzystają; określ, co powinna wiedzieć każda grupa, od podstawowych ryzyk i polityki firmy dla wszystkich po głębsze szkolenia dla tych, którzy konfigurują AI lub opierają na niej decyzje; prowadź prostą ewidencję, kto, z czego i kiedy został przeszkolony; i powtarzaj, gdy zmieniają się narzędzia. NetSenX może pomóc w pierwszym kroku: od planu Pro pokazuje, z jakich usług AI faktycznie korzystają firmowe urządzenia.

Te, których ludzie faktycznie używają, a to rzadko jest lista z polityki. Zacznij od inwentaryzacji: zatwierdzone usługi na kontach firmowych, funkcje AI w oprogramowaniu, za które już płacisz, usługi używane przez pracowników na prywatnych kontach i lokalne modele na komputerach programistów czy inżynierów. Potem dopasuj szkolenie do użycia. Wszyscy potrzebują podstaw: jakie są zatwierdzone narzędzia, jakie dane nigdy nie trafiają do żadnego narzędzia AI, dlaczego odpowiedzi mogą być błędne i jak zgłosić problem. Osoby, które używają AI na danych klientów lub danych osobowych, w finansach, HR czy sprzedaży, potrzebują zasad ochrony danych i poufności, które ich dotyczą. Programiści potrzebują bezpiecznego korzystania z asystentów kodowania i agentów, łącznie z tym, do czego te narzędzia mają dostęp. Menedżerowie opierający decyzje na wynikach AI muszą rozumieć ich ograniczenia. Szkolenie z narzędzi, których nikt nie używa, marnuje czas; pominięcie tych w codziennym użyciu zostawia realne ryzyko bez zmian. Od planu Pro NetSenX pokazuje, z którymi zewnętrznymi usługami AI i lokalnymi środowiskami modeli łączą się firmowe urządzenia, więc lista szkoleniowa odpowiada rzeczywistości.

Co do zasady nie. Art. 5 AI Act, rozporządzenia (UE) 2024/1689, zakazuje wprowadzania do obrotu, oddawania do użytku i wykorzystywania systemów AI do wyciągania wniosków na temat emocji osoby fizycznej w miejscu pracy i w instytucjach edukacyjnych, z wyjątkiem sytuacji, gdy system ma służyć celom medycznym lub bezpieczeństwa. Zakaz obowiązuje od 2 lutego 2025 r. Obejmuje narzędzia odczytujące emocje lub zamiary z twarzy, głosu, sposobu pisania czy innych sygnałów biometrycznych, na przykład w oprogramowaniu call center, dodatkach do wideokonferencji czy monitoringu produktywności, a kary za zakazane praktyki są najwyższe w całym akcie. Prawo pracy i ochrony danych dodają własne ograniczenia monitorowania pracowników. Zanim kupisz narzędzie, które obiecuje mierzenie zaangażowania, stresu czy nastrojów pracowników, poproś dostawcę na piśmie o informację, z jakich danych korzysta i jak wpisuje się to w art. 5, i zaangażuj doradcę prawnego oraz inspektora ochrony danych. NetSenX tego nie robi: monitoruje urządzenia i połączenia sieciowe, nigdy ludzi, i nie ocenia osób.

Konkretną, sprawdzalną odpowiedzią zamiast zapewnienia. Klienci i ich działy zakupów coraz częściej pytają, które usługi AI mają kontakt z ich danymi, na jakich warunkach i z jakimi zabezpieczeniami. Dobra odpowiedź wymienia zatwierdzone usługi AI i sposób ich zakontraktowania, na przykład konta firmowe bez trenowania na Twoich danych, z umową powierzenia i wskazanymi miejscami przetwarzania; mówi, które dane klienta mogą, a które nie mogą do nich trafiać; opisuje zabezpieczenia, takie jak polityka AI, szkolenia pracowników, ograniczenia dostępu i weryfikacja wyników; i wyjaśnia, jak sprawdzasz, że praktyka odpowiada polityce. Jeśli uczciwa odpowiedź brzmi dziś, że tego nie wiesz, powiedz, co robisz, by się dowiedzieć, i do kiedy, zamiast obiecywać coś, czego nie potrafisz pokazać. Utrzymuj odpowiedź spójną z umowami i rejestrem czynności przetwarzania. Od planu Pro NetSenX pokazuje, z którymi usługami AI faktycznie łączą się firmowe urządzenia i ile danych trafia do każdej, więc odpowiedź dla klienta opiera się na Twoim własnym ruchu, a nie na założeniach; nie pokazuje, czyje dane były w to zaangażowane.

Często tak, przynajmniej jako zobowiązanie, na którym klient może polegać, ale umowa powinna być krótsza niż polityka. Klienci coraz częściej dodają klauzule o AI: zakaz używania ich danych do trenowania modeli, zakaz przetwarzania przez usługi AI spoza uzgodnionych podmiotów przetwarzających lub regionów, informowanie, gdy produkty pracy powstały z pomocą AI, i powiadomienie, jeśli ich dane zostały ujawnione przez narzędzie AI. Zamiast dołączać całą wewnętrzną politykę, która często się zmienia, zobowiąż się w umowie lub w umowie powierzenia do kilku stabilnych zasad, wymień usługi AI przetwarzające dane klienta jako podmioty przetwarzające, jeśli tak jest, i odwołaj się do polityki jako utrzymywanej przez Ciebie. Upewnij się, że każdą obietnicę dotrzymasz w praktyce: klauzula, że dane klienta nigdy nie trafiają do narzędzi AI, jest bezwartościowa, jeśli pracownicy korzystają z prywatnych kont chatbotów, a Ty tego nie widzisz. Uzgodnij, co uznaje się za pracę wspomaganą przez AI, bo większość oprogramowania biurowego ma dziś funkcje AI. Daj brzmienie do sprawdzenia doradcy prawnemu. Od planu Pro NetSenX pokazuje, z którymi usługami AI faktycznie łączą się Twoje urządzenia, co jest przydatnym sprawdzeniem przed podpisaniem takiej klauzuli.

Szukaj usług, które udostępniają lokalne środowiska modeli, i ruchu wokół nich. Narzędzia uruchamiające modele językowe lokalnie zwykle otwierają API HTTP na znanym domyślnym porcie, oferują interfejs WWW i przy pierwszej konfiguracji pobierają duże pliki modeli z publicznych repozytoriów. Pomagają więc trzy sprawdzenia: autoryzowane skanowanie zakresów wewnętrznych pod kątem domyślnych portów popularnych środowisk i nieoczekiwanych interfejsów WWW; sprawdzenie, które maszyny pobierały wielogigabajtowe pliki z repozytoriów modeli; i lista hostów z mocnymi GPU, którą IT często już zna. Potem zapytaj właścicieli, do czego służy każdy serwer, kto ma do niego dostęp i jakie dane do niego trafiają. Wiele z nich to nieszkodliwe eksperymenty; niektóre zostają otwarte dla całej sieci bez uwierzytelniania. NetSenX od planu Pro pokazuje ruch do lokalnie uruchomionych środowisk modeli językowych: który host je uruchamia lub wywołuje i ile danych przepływa, obok zewnętrznych usług AI. Nie widzi promptów ani odpowiedzi modelu.

Może być, głównie przez zwykłe błędy konfiguracji, a nie coś egzotycznego. Trzymanie danych na własnym sprzęcie pozwala nie wysyłać ich do zewnętrznego dostawcy i to realna korzyść. Ryzyka są typowe dla nowego, niezaplanowanego serwera: API lub interfejs WWW często nasłuchuje na wszystkich interfejsach bez uwierzytelniania, więc każdy w sieci może używać modelu, czytać historię rozmów lub wgrywać pliki; serwer działa na niezałatanym, szybko zmieniającym się oprogramowaniu; pliki modeli pobrane z publicznych repozytoriów mogą zawierać złośliwy kod, jeśli używają niebezpiecznych formatów; a dokumenty wprowadzone do wyszukiwania mogą być czytelne dla każdego, kto ma dostęp do serwera. Traktuj go jak każdą usługę wewnętrzną: wskazany właściciel, uwierzytelnianie, nasłuch tylko na localhost lub w ograniczonym segmencie, aktualizacje, bezpieczne formaty modeli z zaufanych źródeł i decyzja, jakie dane mogą do niego trafić. Od planu Pro NetSenX pokazuje, które hosty uruchamiają lub wywołują lokalne środowiska modeli językowych i ile danych przepływa, a jego podstawowe detekcje w każdym planie sygnalizują skanowanie lub ruch lateralny z tego hosta.

To ryzyko, że model, zbiór danych lub biblioteka AI, które pobierasz lub kupujesz, są przejęte, fałszywie opisane albo po prostu nie są tym, za co je bierzesz. Publiczne repozytoria modeli przechowują setki tysięcy modeli wgranych przez kogokolwiek. Niektóre formaty plików modeli mogą wykonywać kod przy wczytywaniu, więc złośliwy model może przejąć maszynę, która go otwiera; istnieją bezpieczniejsze formaty i to je należy wybierać. Model może zostać dostrojony tak, by działał normalnie poza ukrytym wyzwalaczem, albo wytrenowany na zatrutych danych. Nazwy można skopiować, by wyglądały jak model znanego wydawcy. A biblioteki i wtyczki wokół modeli, takie jak środowiska uruchomieniowe, konektory i frameworki agentów, szybko się zmieniają i mają zwykłe podatności oprogramowania. Praktyczne kroki: pobieraj modele tylko od wydawców, których możesz zweryfikować, sprawdzaj podpisy lub skróty, gdy są publikowane, używaj bezpiecznych formatów plików, uruchamiaj nowe modele najpierw w odizolowanym środowisku, prowadź inwentarz używanych modeli i wersji i łataj otaczające oprogramowanie jak każde inne. Czujnik sieciowy widzi duże pobrania modeli i hosty uruchamiające środowiska modeli; nie zbada wag modelu.

Może być, w ten sam sposób co kod skopiowany z internetu, tylko szybciej i w większych ilościach. Asystenci kodowania tworzą kod, który wygląda wiarygodnie i zwykle działa, ale może zawierać znane wzorce podatności, takie jak wstrzykiwanie, słaba kryptografia czy brak walidacji danych wejściowych; może wywoływać nieistniejące pakiety, które napastnicy następnie rejestrują pod tą nazwą ze złośliwą zawartością; może odtwarzać kod na licencji, której Twój produkt nie może przyjąć; i może osadzać sekrety z przykładów. Same narzędzia też wysyłają kod źródłowy do dostawcy jako kontekst, więc wybór usługi i konta ma znaczenie dla poufności. Traktuj wynik AI jak pull request młodszego kolegi: ten sam przegląd kodu, automatyczne testy bezpieczeństwa, skanowanie zależności i licencji oraz wykrywanie sekretów w potoku, a odpowiedzialność zostaje przy programiście. Ustal, które repozytoria można udostępniać którym asystentom. Od planu Pro NetSenX pokazuje, które komputery programistów i serwery kompilacji wysyłają dane do których usług AI i ile; nie oceni jakości kodu.

Prompt injection to atak, w którym tekst czytany przez system AI jest napisany tak, by system zignorował swoje instrukcje i zrobił coś innego. Bezpośrednie wstrzyknięcie pochodzi od użytkownika, który je wpisuje. Pośrednie jest dla firm groźniejsze: instrukcja kryje się w treści, którą AI przetwarza w czyimś imieniu, na przykład na stronie internetowej, w mailu, udostępnionym dokumencie czy zgłoszeniu do pomocy technicznej, a model wykonuje ją, jakby pochodziła od operatora. Jeśli AI może tylko odpowiadać w oknie czatu, szkoda ogranicza się do błędnej lub kompromitującej odpowiedzi. Jeśli może czytać skrzynkę pocztową, wywoływać narzędzia, odpytywać bazę danych lub przeglądać sieć, wstrzyknięta instrukcja może sprawić, że ujawni dane lub wykona działania. Dziś nie ma pełnego rozwiązania, bo modele nie odróżniają niezawodnie instrukcji od danych. Pomaga: dawanie narzędziom AI jak najmniejszych uprawnień, zatwierdzanie przez człowieka działań o skutkach, trzymanie wrażliwych systemów poza zasięgiem agentów czytających niezaufane treści i logowanie tego, co zrobiła AI. OWASP stawia prompt injection na pierwszym miejscu wśród ryzyk aplikacji opartych na modelach językowych (LLM).

To lista najważniejszych ryzyk bezpieczeństwa aplikacji zbudowanych na dużych modelach językowych (LLM), publikowana przez Open Worldwide Application Security Project (OWASP), społeczność stojącą za znanym Top 10 dla aplikacji WWW. Wydanie z 2025 r. wymienia prompt injection, ujawnianie informacji wrażliwych, ryzyka łańcucha dostaw, zatruwanie danych i modeli, niewłaściwe przetwarzanie wyników, nadmierną sprawczość, wyciek promptu systemowego, słabości baz wektorowych i embeddingów, dezinformację oraz nieograniczone zużycie zasobów. Dla firmy, która tylko korzysta z narzędzi AI, najważniejsze są trzy pozycje: ujawnianie informacji wrażliwych, czyli problem shadow AI; nadmierna sprawczość, czyli agenci AI z większymi uprawnieniami, niż potrzebują; oraz prompt injection, które zamienia każdy dokument czy stronę czytaną przez agenta w możliwy atak. Dla firmy wbudowującej funkcje AI we własny produkt cała lista to rozsądna lista kontrolna do przeglądów projektu i testów oraz wspólny język do ankiet bezpieczeństwa klientów. To wytyczne, a nie norma ani certyfikat.

Projektuj tak, by model widział tylko to, czego wymaga zadanie, i zakładaj, że wszystko, co widzi, może wyjść z powrotem. Konkretnie: wybierz wdrożenie z warunkami umownymi pasującymi do Twoich danych, na przykład korporacyjne API bez trenowania na danych wejściowych, z określonym okresem przechowywania i przetwarzaniem w UE tam, gdzie jest to wymagane, albo model hostowany samodzielnie; minimalizuj i pseudonimizuj to, co trafia do promptów; w systemach wyszukiwania egzekwuj uprawnienia samego użytkownika do dokumentów, które model może pobrać, by nie streszczał plików, których użytkownik nie może otworzyć; trzymaj sekrety, klucze i poświadczenia systemowe poza promptami i kontekstem; filtruj wyniki pod kątem danych osobowych i sekretów, zanim trafią do użytkowników lub logów; ograniczaj narzędzia, które model może wywoływać, i wymagaj zatwierdzania działań; loguj prompty i odpowiedzi w chroniony sposób na potrzeby dochodzeń, z dopasowanym okresem przechowywania. Testuj odporność na prompt injection i próby wydobycia danych przed uruchomieniem i po każdej zmianie. Od planu Pro NetSenX pokazuje, które serwery wysyłają dane do których zewnętrznych usług AI i ile, co pomaga potwierdzić, że ruch produkcyjny trafia tylko tam, gdzie zakłada projekt.

Model Context Protocol (MCP) to otwarty protokół wprowadzony przez Anthropic w listopadzie 2024 r. i od tego czasu szeroko przyjęty, który pozwala asystentom i agentom AI łączyć się z narzędziami i źródłami danych w standardowy sposób. Serwer MCP udostępnia możliwości, takie jak czytanie plików, odpytywanie bazy danych, przeszukiwanie systemu zgłoszeń czy wysyłanie wiadomości, a klient AI wywołuje je, gdy zadanie tego wymaga. Dzięki temu AI jest znacznie bardziej użyteczna, ale każdy serwer MCP staje się bramą: do czego on ma dostęp, do tego ma dostęp AI, z uprawnieniami konta, które za nim stoi. Pytania o bezpieczeństwo wynikają wprost. Kto zainstalował serwer i skąd? Jakie poświadczenia przechowuje i jak szerokie są? Działa lokalnie na laptopie czy jako usługa zdalna? Czy wymaga zatwierdzenia przed działaniem? Czy jest logowany? Traktuj serwery MCP jak oprogramowanie z uprzywilejowanym dostępem: zatwierdzaj je, wąsko ograniczaj ich tokeny, aktualizuj i wybieraj serwery od zweryfikowanych wydawców. Czujnik sieciowy widzi zdalne serwery MCP jako połączenia z ich hostami; lokalne na laptopie pozostają poza jego widokiem.

Shadow MCP server to serwer Model Context Protocol, który ktoś podłączył do asystenta AI bez wiedzy IT, zwykle by zaoszczędzić czas: konektor do firmowej skrzynki pocztowej, udziału plikowego, repozytorium kodu, bazy danych czy systemu zgłoszeń, zainstalowany z publicznej listy albo napisany w jedno popołudnie. Ryzyko polega na tym, że po cichu tworzy nową ścieżkę dostępu. Często przechowuje osobisty token dostępu lub klucz API z szerokimi uprawnieniami, zapisany w pliku konfiguracyjnym na laptopie; może pochodzić od nieznanego autora i sam się aktualizować; pozwala AI działać w systemach firmy z uprawnieniami tej osoby; a wszystko, co AI przeczyta, łącznie ze złośliwą instrukcją ukrytą w dokumencie czy na stronie, może sterować tym, co zrobi przez ten konektor. Nikt go nie przegląda ani nie loguje, a jeśli token nie zostanie unieważniony, przetrwa odejście pracownika. Praktyczne kroki: opublikuj listę zatwierdzonych serwerów MCP, ograniczaj tokeny wąsko i je rotuj, sprawdzaj w logach dostawcy tożsamości nowe zgody OAuth dla klientów AI i uwzględnij konektory w procesie offboardingu. Czujnik sieciowy widzi połączenia laptopa z usługami zdalnymi, a nie konfigurację MCP na nim.

Szukaj tam, skąd agenci czerpią moc: w tożsamościach, konektorach i platformach automatyzacji, a potem potwierdzaj ruchem sieciowym. Agent AI to oprogramowanie, które za pomocą modelu językowego decyduje o kolejnych krokach i je wykonuje, na przykład czyta zgłoszenia, odpytuje systemy, pisze kod czy wysyła maile, zwykle przez klucze API, konta serwisowe lub zgody OAuth. Najlepszym pierwszym źródłem są więc dostawca tożsamości i konsole administracyjne SaaS: nowe aplikacje OAuth z szerokimi zakresami, niedawno utworzone konta serwisowe lub tokeny osobiste i funkcje AI z włączonymi konektorami. Potem sprawdź platformy automatyzacji i low-code, potoki CI oraz komputery programistów pod kątem frameworków agentów i serwerów MCP i zapytaj zespoły wprost, bo wielu agentów to pilotaże, których nikt nie zgłosił. Sieć dodaje widok zachowania: które serwery lub stacje regularnie wywołują API AI, w nocy lub seriami, i które jednocześnie łączą się z systemami wewnętrznymi. Od planu Pro NetSenX pokazuje, które hosty komunikują się z którymi zewnętrznymi usługami AI i lokalnymi środowiskami modeli i ile danych przepływa. Nie rozpoznaje agenta z nazwy, a sygnały zachowania specyficzne dla agentów nie są jeszcze alertami.

Tak, i zwykle z ostrzejszymi kontrolami niż człowieka z tymi samymi uprawnieniami. Agent działa z szybkością maszyny, nie męczy się ani nie nabiera podejrzeń, może nim sterować czytany tekst i często działa z tokenem, który nigdy nie wygasa. Daj więc każdemu agentowi własną tożsamość zamiast konta człowieka, przyznawaj tylko uprawnienia potrzebne do zadania, preferuj dostęp tylko do odczytu, rozdzielaj środowiska, by agent testowy nie dotknął produkcji, wymagaj zatwierdzenia przez człowieka przy płatnościach, usuwaniu, wiadomościach na zewnątrz i zmianach uprawnień, ustaw wygasanie i rotację jego poświadczeń i loguj każde jego działanie w miejscu, którego nie może zmienić. Uwzględniaj agentów w przeglądach dostępu tak jak konta serwisowe i w procesie offboardingu. Koszt pominięcia jest konkretny: raport IBM Cost of a Data Breach 2025 wykazał, że 13% organizacji zgłosiło naruszenia modeli lub aplikacji AI, a 97% z nich przyznało brak właściwej kontroli dostępu do AI. Po stronie sieci NetSenX wykrywa w każdym planie zachowania, które zdradza nadużyta tożsamość, takie jak ruch lateralny i nietypowe wysyłki, z hosta, na którym działa agent.

Tak, i to bez niczyjego zamiaru. Agenta z dostępem do CRM, skrzynki pocztowej czy dysku współdzielonego można poprosić albo zmanipulować instrukcją ukrytą w dokumencie, mailu lub stronie, którą czyta, by streścił, przesłał dalej lub wysłał dane w zakresie daleko wykraczającym poza jego zadanie. Typowe drogi to agent odpowiadający na wiadomości z zewnątrz, który dołącza do odpowiedzi dane wewnętrzne, agent mogący wysyłać maile lub publikować w usługach zewnętrznych, agent kodujący, który wypycha do publicznego repozytorium kod z osadzonymi sekretami, oraz agent, którego logi lub pamięć przechowują dane klientów tam, gdzie nikt się ich nie spodziewa. Rozwiązaniem jest zakres: tylko dane potrzebne do zadania, żadnych kanałów wychodzących, jeśli nie są wymagane, zatwierdzenie przez człowieka, zanim cokolwiek opuści firmę, i rozdzielenie agentów czytających niezaufane treści od tych z dostępem do wrażliwych danych. Przetestuj te ścieżki przed uruchomieniem. W każdym planie NetSenX wykrywa nietypową ilość danych wychodzących z hosta, bez względu na to, jaki proces ją wywołał, a od planu Pro pokazuje, z którymi usługami AI host się komunikuje; nie widzi, co agent wysłał.

Dziś częściowo, a NetSenX mówi wprost, którą część. Działa: od planu Pro ruch z hosta do zewnętrznych usług AI i do lokalnie uruchomionych środowisk modeli językowych, z czasem i ilością danych; a w każdym planie zachowania, które nadużywany agent dzieli z każdym przejętym hostem, takie jak łączenie się z wieloma systemami wewnętrznymi, z których wcześniej nie korzystał, skanowanie, regularne meldowanie się na nieznanym serwerze i nietypowa ilość danych wychodzących. Nie działa jeszcze jako alarm: sygnały skierowane wprost na agentów, takie jak działania w tempie maszyny tuż po wywołaniu modelu językowego czy pierwsze połączenie z nowym celem po odpowiedzi modelu. NetSenX mierzy je w trybie cieniowym, bez alertów, dopóki nie będą na tyle wiarygodne, by były użyteczne; nie należy ich przedstawiać ani traktować jako detekcji. Silniejsze zabezpieczenia leżą gdzie indziej: wąskie uprawnienia, zatwierdzanie przez człowieka działań o skutkach i własne logi działań agenta. Czujnik sieciowy nigdy też nie widzi, która instrukcja skłoniła agenta do działania.

Głównie po to, by przeprowadzać znane ataki szybciej, taniej i lepszym językiem, a nie by wymyślać nowe. Maile phishingowe nie zdradzają się już niezgrabną gramatyką i w kilka minut można je dopasować do Twojej firmy na podstawie publicznych informacji. Klonowanie głosu i deepfake wideo sprawiają, że fałszywe telefony od przełożonego czy dostawcy brzmią bardziej przekonująco. Napastnicy używają AI do pisania i modyfikowania skryptów, do rozpoznania celów i do szybkiego sortowania skradzionych danych. To zmienia obronę na dwa sposoby. Zabezpieczenia oparte na wychwytywaniu słabego języka czy dziwnego tonu tracą wartość, więc procesy nie mogą zależeć od rozpoznania fałszywki: potwierdzaj zmiany danych do płatności znanym kanałem, używaj uwierzytelniania wieloskładnikowego odpornego na phishing i ograniczaj to, do czego sięga jedno skradzione konto. A kroki po pierwszym przyczółku wyglądają w sieci tak samo, kto czy co by nie napisał narzędzi: urządzenie meldujące się na nieznanym serwerze, skanowanie, ruch lateralny i wypływ danych. NetSenX wykrywa te zachowania w każdym planie, także Free, bez potrzeby rozpoznania malware czy wiadomości, od której wszystko się zaczęło.

Tak, a obroną jest proces, nie technologia. Mając kilka minut publicznego nagrania audio lub wideo, napastnik potrafi naśladować głos i twarz przełożonego czy dostawcy na tyle dobrze, by przejść przez rozmowę telefoniczną lub wideo, zwłaszcza pod presją czasu. Na początku 2024 r. policja w Hongkongu opisała przypadek, w którym pracownik międzynarodowej firmy przelał duże kwoty po wideokonferencji, na której pozostali uczestnicy, w tym członek kierownictwa, byli deepfake'ami. Ochrona: zasada, że żadna płatność, zmiana numeru konta ani pilny przelew nie jest zatwierdzana wyłącznie na podstawie rozmowy czy wiadomości; potwierdzenie innym, znanym już kanałem, na przykład oddzwonienie na numer z ewidencji, nigdy na ten podany w prośbie; dwie osoby zatwierdzające płatności powyżej progu; hasło dla prawdziwych pilnych próśb, jeśli chcesz; i pracownicy, którzy wiedzą, że zostaną poparci, gdy wstrzymają płatność. Żaden czujnik sieciowy nie odróżni prawdziwego głosu od fałszywego. NetSenX nie jest tu odpowiedzią: nie analizuje rozmów ani wideo i nie widzi poleceń płatności.