Che cos'è il rischio della catena di fornitura dei modelli di IA?

È il rischio che un modello, un dataset o una libreria di IA scaricati o acquistati siano compromessi, descritti in modo falso o semplicemente non siano ciò che crede. Gli archivi pubblici di modelli ospitano centinaia di migliaia di modelli caricati da chiunque. Alcuni formati di file dei modelli possono eseguire codice al caricamento, quindi un modello malevolo può compromettere la macchina che lo apre; esistono formati più sicuri, da preferire. Un modello può essere messo a punto per comportarsi normalmente tranne che davanti a un innesco nascosto, oppure addestrato su dati avvelenati. I nomi possono essere copiati per sembrare il modello di un editore noto. E le librerie e i plugin intorno ai modelli, come ambienti di esecuzione, connettori e framework per agenti, cambiano in fretta e hanno normali vulnerabilità software. Passi pratici: prenda modelli solo da editori verificabili, controlli firme o hash quando vengono pubblicati, usi formati di file sicuri, esegua i nuovi modelli prima in un ambiente isolato, tenga un inventario dei modelli e delle versioni in uso e aggiorni il software circostante come qualsiasi altro. Un sensore di rete vede i grandi download di modelli e quali host eseguono ambienti per modelli; non può ispezionare i pesi di un modello.

← Tutte le 45 domande su Uso e sicurezza dell'IATutti i temi