¿Cómo protegemos los datos confidenciales al usar LLM en producción?

Diseñe para que el modelo solo vea lo que necesita la tarea, y dé por hecho que todo lo que ve puede volver a salir. En concreto: elija un despliegue con condiciones contractuales adecuadas a sus datos, como una API empresarial sin entrenamiento con las entradas, con plazo de conservación definido y tratamiento en la UE cuando haga falta, o un modelo que aloje usted mismo; minimice y seudonimice lo que entra en los prompts; en los sistemas de recuperación de documentos, aplique los permisos del propio usuario sobre los documentos que el modelo puede recuperar, para que no resuma ficheros que el usuario no puede abrir; mantenga secretos, claves y credenciales de sistema fuera de los prompts y del contexto; filtre las salidas en busca de datos personales y secretos antes de que lleguen a usuarios o registros; limite las herramientas que el modelo puede llamar y exija aprobación para las acciones; y registre prompts y respuestas de forma protegida para investigaciones, con una conservación ajustada. Pruebe frente a inyección de prompts e intentos de extracción de datos antes del lanzamiento y tras cada cambio. Desde el plan Pro, NetSenX muestra qué servidores envían datos a qué servicios de IA externos y cuántos, lo que ayuda a confirmar que el tráfico de producción solo va adonde dice el diseño.

← Las 45 preguntas sobre Uso y seguridad de la IATodos los temas