Wat is het risico in de toeleveringsketen van AI-modellen?

Het risico dat een model, dataset of AI-bibliotheek die u downloadt of koopt gecompromitteerd is, verkeerd wordt voorgesteld of gewoon niet is wat u denkt. Publieke modelplatforms hosten honderdduizenden modellen die iedereen kan uploaden. Sommige bestandsformaten voor modellen kunnen bij het laden code uitvoeren, dus een kwaadaardig model kan de machine die het opent compromitteren; er bestaan veiligere formaten en die verdienen de voorkeur. Een model kan zo zijn bijgetraind dat het zich normaal gedraagt behalve bij een verborgen trigger, of zijn getraind op vergiftigde data. Namen kunnen worden nagebootst om op het model van een bekende uitgever te lijken. En de bibliotheken en plug-ins rond modellen, zoals runtimes, connectoren en agentframeworks, veranderen snel en bevatten gewone softwarekwetsbaarheden. Praktische stappen: haal modellen alleen bij uitgevers die u kunt verifiëren, controleer handtekeningen of hashes waar die zijn gepubliceerd, gebruik veilige bestandsformaten, draai nieuwe modellen eerst in een geïsoleerde omgeving, houd een inventaris bij van gebruikte modellen en versies, en patch de omringende software zoals alle andere. Een netwerksensor ziet grote modeldownloads en welke hosts modelruntimes draaien; de gewichten van een model kan hij niet inspecteren.

← Alle 45 vragen over AI-gebruik en AI-beveiligingAlle onderwerpen