Wat is de OWASP Top 10 voor LLM-toepassingen?

Het is een lijst van de belangrijkste beveiligingsrisico's voor toepassingen op basis van grote taalmodellen (LLM), uitgegeven door het Open Worldwide Application Security Project (OWASP), de gemeenschap achter de bekende Top 10 voor webapplicaties. De editie 2025 noemt prompt injection, openbaarmaking van gevoelige informatie, risico's in de toeleveringsketen, vergiftiging van data en modellen, onjuiste verwerking van uitvoer, buitensporige handelingsvrijheid, lekken van de systeemprompt, zwakheden in vectordatabases en embeddings, misinformatie en onbegrensd verbruik van middelen. Voor een bedrijf dat AI-tools alleen gebruikt, tellen drie punten het zwaarst: openbaarmaking van gevoelige informatie, het shadow-AI-probleem; buitensporige handelingsvrijheid, dus AI-agents met meer rechten dan nodig; en prompt injection, die elk document of elke webpagina die een agent leest tot een mogelijke aanval maakt. Voor een bedrijf dat AI-functies in zijn eigen product bouwt, is de hele lijst een zinvolle checklist voor ontwerpreviews en tests, en een gemeenschappelijke taal voor beveiligingsvragenlijsten van klanten. Het is een richtlijn, geen norm en geen certificering.

← Alle 45 vragen over AI-gebruik en AI-beveiligingAlle onderwerpen