# Czym jest prompt injection?

Prompt injection to atak, w którym tekst czytany przez system AI jest napisany tak, by system zignorował swoje instrukcje i zrobił coś innego. Bezpośrednie wstrzyknięcie pochodzi od użytkownika, który je wpisuje. Pośrednie jest dla firm groźniejsze: instrukcja kryje się w treści, którą AI przetwarza w czyimś imieniu, na przykład na stronie internetowej, w mailu, udostępnionym dokumencie czy zgłoszeniu do pomocy technicznej, a model wykonuje ją, jakby pochodziła od operatora. Jeśli AI może tylko odpowiadać w oknie czatu, szkoda ogranicza się do błędnej lub kompromitującej odpowiedzi. Jeśli może czytać skrzynkę pocztową, wywoływać narzędzia, odpytywać bazę danych lub przeglądać sieć, wstrzyknięta instrukcja może sprawić, że ujawni dane lub wykona działania. Dziś nie ma pełnego rozwiązania, bo modele nie odróżniają niezawodnie instrukcji od danych. Pomaga: dawanie narzędziom AI jak najmniejszych uprawnień, zatwierdzanie przez człowieka działań o skutkach, trzymanie wrażliwych systemów poza zasięgiem agentów czytających niezaufane treści i logowanie tego, co zrobiła AI. OWASP stawia prompt injection na pierwszym miejscu wśród ryzyk aplikacji opartych na modelach językowych (LLM).

FAQ: [Korzystanie z AI i bezpieczeństwo AI](https://netsenx.com/pl/faq/ai) · https://netsenx.com/pl/faq/what-is-prompt-injection

## Czytaj dalej

- https://netsenx.com/pl/shadow-ai-detection
- https://netsenx.com/pl/ai-transparency

## Powiązane pytania

- [Czym jest OWASP Top 10 dla aplikacji LLM?](https://netsenx.com/pl/faq/what-is-the-owasp-top-10-for-llm-applications)
- [Jak chronić poufne dane, korzystając z LLM w środowisku produkcyjnym?](https://netsenx.com/pl/faq/how-to-protect-confidential-data-when-using-llms-in-production)
- [Czym jest Model Context Protocol (MCP)?](https://netsenx.com/pl/faq/what-is-the-model-context-protocol)
- [Czym jest shadow MCP server i dlaczego to ryzyko?](https://netsenx.com/pl/faq/what-is-a-shadow-mcp-server)
- [Jak wykryć agentów AI działających w naszej firmie?](https://netsenx.com/pl/faq/how-to-discover-ai-agents-running-in-our-company)