Czym jest OWASP Top 10 dla aplikacji LLM?

To lista najważniejszych ryzyk bezpieczeństwa aplikacji zbudowanych na dużych modelach językowych (LLM), publikowana przez Open Worldwide Application Security Project (OWASP), społeczność stojącą za znanym Top 10 dla aplikacji WWW. Wydanie z 2025 r. wymienia prompt injection, ujawnianie informacji wrażliwych, ryzyka łańcucha dostaw, zatruwanie danych i modeli, niewłaściwe przetwarzanie wyników, nadmierną sprawczość, wyciek promptu systemowego, słabości baz wektorowych i embeddingów, dezinformację oraz nieograniczone zużycie zasobów. Dla firmy, która tylko korzysta z narzędzi AI, najważniejsze są trzy pozycje: ujawnianie informacji wrażliwych, czyli problem shadow AI; nadmierna sprawczość, czyli agenci AI z większymi uprawnieniami, niż potrzebują; oraz prompt injection, które zamienia każdy dokument czy stronę czytaną przez agenta w możliwy atak. Dla firmy wbudowującej funkcje AI we własny produkt cała lista to rozsądna lista kontrolna do przeglądów projektu i testów oraz wspólny język do ankiet bezpieczeństwa klientów. To wytyczne, a nie norma ani certyfikat.

← Wszystkie pytania (45): Korzystanie z AI i bezpieczeństwo AIWszystkie tematy