Come proteggiamo i dati riservati usando gli LLM in produzione?

Progetti in modo che il modello veda solo ciò che serve al compito, e dia per scontato che tutto ciò che vede possa uscire di nuovo. In concreto: scelga un'implementazione con condizioni contrattuali adatte ai Suoi dati, come un'API enterprise senza addestramento sugli input, con un periodo di conservazione definito e trattamento nell'UE dove richiesto, oppure un modello ospitato in proprio; minimizzi e pseudonimizzi ciò che entra nei prompt; nei sistemi di recupero documentale applichi i diritti di accesso dell'utente ai documenti che il modello può recuperare, perché non riassuma file che l'utente non può aprire; tenga segreti, chiavi e credenziali di sistema fuori da prompt e contesto; filtri gli output per dati personali e segreti prima che arrivino agli utenti o ai log; limiti gli strumenti che il modello può chiamare e richieda l'approvazione per le azioni; e registri prompt e risposte in modo protetto per le indagini, con una conservazione adeguata. Provi la resistenza a prompt injection e tentativi di estrazione dei dati prima del lancio e dopo ogni modifica. Dal piano Pro NetSenX mostra quali server inviano dati a quali servizi di IA esterni e quanti, il che aiuta a confermare che il traffico di produzione vada solo dove prevede il progetto.

← Tutte le 45 domande su Uso e sicurezza dell'IATutti i temi