Qu'est-ce que le risque de chaîne d'approvisionnement des modèles d'IA ?

C'est le risque qu'un modèle, un jeu de données ou une bibliothèque d'IA que vous téléchargez ou achetez soit compromis, mal décrit ou tout simplement pas ce que vous croyez. Les plateformes publiques hébergent des centaines de milliers de modèles déposés par n'importe qui. Certains formats de fichiers de modèles peuvent exécuter du code au chargement : un modèle malveillant peut donc compromettre la machine qui l'ouvre ; des formats plus sûrs existent et doivent être préférés. Un modèle peut être affiné pour se comporter normalement sauf face à un déclencheur caché, ou entraîné sur des données empoisonnées. Des noms peuvent être copiés pour imiter le modèle d'un éditeur connu. Et les bibliothèques et plugins autour des modèles, comme les environnements d'exécution, les connecteurs et les frameworks d'agents, évoluent vite et portent des vulnérabilités logicielles ordinaires. Mesures pratiques : ne prenez des modèles que d'éditeurs vérifiables, contrôlez signatures ou empreintes quand elles sont publiées, utilisez des formats sûrs, exécutez d'abord les nouveaux modèles dans un environnement isolé, tenez un inventaire des modèles et versions utilisés et corrigez le logiciel qui les entoure comme n'importe quel autre. Un capteur réseau voit les gros téléchargements de modèles et les hôtes qui exécutent des environnements de modèles ; il ne peut pas inspecter les poids d'un modèle.

← Les 45 questions sur Usage et sécurité de l'IATous les thèmes