Qu'est-ce que l'OWASP Top 10 pour les applications LLM ?

C'est une liste des principaux risques de sécurité des applications construites sur de grands modèles de langage (LLM), publiée par l'Open Worldwide Application Security Project (OWASP), la communauté à l'origine du célèbre Top 10 des applications web. L'édition 2025 cite l'injection de prompt, la divulgation d'informations sensibles, les risques de la chaîne d'approvisionnement, l'empoisonnement des données et des modèles, la mauvaise gestion des sorties, l'autonomie excessive, la fuite du prompt système, les faiblesses des bases vectorielles et des embeddings, la désinformation et la consommation illimitée de ressources. Pour une entreprise qui ne fait qu'utiliser des outils d'IA, trois points comptent le plus : la divulgation d'informations sensibles, c'est-à-dire le problème de l'IA fantôme ; l'autonomie excessive, soit des agents d'IA dotés de plus de permissions que nécessaire ; et l'injection de prompt, qui transforme tout document ou page web lu par un agent en attaque possible. Pour une entreprise qui intègre l'IA à son propre produit, la liste entière constitue une check-list pertinente pour les revues de conception et les tests, et un vocabulaire commun pour les questionnaires de sécurité des clients. C'est un guide, ni une norme ni une certification.

← Les 45 questions sur Usage et sécurité de l'IATous les thèmes