Was ist die OWASP Top 10 für LLM-Anwendungen?
Es ist eine Liste der wichtigsten Sicherheitsrisiken für Anwendungen auf Basis großer Sprachmodelle (LLM), herausgegeben vom Open Worldwide Application Security Project (OWASP), der Gemeinschaft hinter der bekannten Top 10 für Webanwendungen. Die Ausgabe 2025 nennt Prompt Injection, Offenlegung sensibler Informationen, Lieferkettenrisiken, Vergiftung von Daten und Modellen, unsachgemäße Behandlung von Ausgaben, übermäßige Handlungsbefugnis, Preisgabe des System-Prompts, Schwächen von Vektordatenbanken und Embeddings, Fehlinformation und unbegrenzten Ressourcenverbrauch. Für ein Unternehmen, das KI-Werkzeuge nur nutzt, zählen drei Punkte am meisten: die Offenlegung sensibler Informationen, also das Problem der Schatten-KI; übermäßige Handlungsbefugnis, also KI-Agenten mit mehr Rechten als nötig; und Prompt Injection, die jedes Dokument und jede Webseite, die ein Agent liest, zu einem möglichen Angriff macht. Für ein Unternehmen, das KI-Funktionen in sein eigenes Produkt einbaut, ist die ganze Liste eine sinnvolle Checkliste für Design-Reviews und Tests und ein gemeinsames Vokabular für Sicherheitsfragebögen von Kunden. Sie ist eine Orientierung, keine Norm und keine Zertifizierung.
Weiterlesen
Verwandte Fragen
- Wie schützen wir vertrauliche Daten beim produktiven Einsatz von LLMs?
- Was ist das Model Context Protocol (MCP)?
- Was ist ein Schatten-MCP-Server, und warum ist er ein Risiko?
- Wie finde ich KI-Agenten, die in unserem Unternehmen laufen?
- Sollten KI-Agenten wie privilegierte automatisierte Nutzer behandelt werden?