¿Qué es la inyección de prompts?

La inyección de prompts es un ataque en el que un texto que lee un sistema de IA está escrito para que ignore sus instrucciones y haga otra cosa. La inyección directa viene del usuario que la escribe. La indirecta es la más seria para las empresas: la instrucción se esconde en contenido que la IA procesa por cuenta de alguien, como una página web, un correo, un documento compartido o una incidencia de soporte, y el modelo la sigue como si viniera de su operador. Si la IA solo puede responder en una ventana de chat, el daño se limita a una respuesta errónea o embarazosa. Si puede leer un buzón, llamar a herramientas, consultar una base de datos o navegar, una instrucción inyectada puede hacer que filtre datos o ejecute acciones. Hoy no hay una solución completa, porque los modelos no separan de forma fiable instrucciones y datos. Lo que ayuda: dar a las herramientas de IA los mínimos permisos posibles, exigir aprobación humana para acciones con consecuencias, mantener los sistemas sensibles fuera del alcance de agentes que leen contenido no fiable y registrar lo que hizo la IA. OWASP sitúa la inyección de prompts en primer lugar entre los riesgos de las aplicaciones basadas en grandes modelos de lenguaje (LLM).

← Las 45 preguntas sobre Uso y seguridad de la IATodos los temas