Czym jest shadow AI?

Shadow AI to korzystanie w pracy z narzędzi AI bez wiedzy lub zgody osób odpowiedzialnych za IT, bezpieczeństwo czy ochronę danych. Obejmuje pracowników używających prywatnych kont chatbotów do zadań służbowych, rozszerzenia przeglądarki z wbudowaną AI, funkcje AI włączone w istniejącym oprogramowaniu, programistów uruchamiających lokalne modele lub asystentów kodowania oraz agentów AI podłączonych do systemów firmy. Zwykle wynika z dobrych intencji: ludzie chcą pracować szybciej. Ryzyka są konkretne. Dane firmy lub klientów trafiają do dostawców, z którymi nie masz umowy, na warunkach, które mogą pozwalać im je przechowywać lub trenować na nich modele. Dane osobowe mogą być przetwarzane bez podstawy prawnej. Wyniki trafiają do dokumentów i kodu bez weryfikacji. A nikt nie odpowie klientowi czy audytorowi, które usługi AI miały kontakt z jego danymi. Odpowiedzią nie jest zakaz, lecz widoczność, zatwierdzona alternatywa i jasna polityka. Od planu Pro NetSenX pokazuje, które hosty łączą się z którymi usługami AI i ile danych tam trafia, a nie to, co wpisano.

Ta odpowiedź jest częścią przewodnika: Shadow AI w firmie: czym jest i jak je wykryć

← Wszystkie pytania (45): Korzystanie z AI i bezpieczeństwo AIWszystkie tematy