Was ist das Lieferkettenrisiko bei KI-Modellen?
Es ist das Risiko, dass ein Modell, ein Datensatz oder eine KI-Bibliothek, die Sie herunterladen oder kaufen, kompromittiert, falsch beschrieben oder schlicht nicht das ist, wofür Sie es halten. Öffentliche Modell-Plattformen hosten Hunderttausende Modelle, die jeder hochladen kann. Manche Dateiformate für Modelle können beim Laden Code ausführen, sodass ein bösartiges Modell den Rechner kompromittieren kann, der es öffnet; sicherere Formate gibt es und sie sind vorzuziehen. Ein Modell kann so feinabgestimmt sein, dass es sich normal verhält, außer bei einem versteckten Auslöser, oder mit vergifteten Daten trainiert sein. Namen lassen sich kopieren, damit sie wie das Modell eines bekannten Herausgebers aussehen. Und die Bibliotheken und Plugins rund um Modelle, etwa Laufzeitumgebungen, Konnektoren und Agenten-Frameworks, ändern sich schnell und tragen gewöhnliche Software-Schwachstellen. Praktische Schritte: Beziehen Sie Modelle nur von Herausgebern, die Sie überprüfen können, prüfen Sie Signaturen oder Hashes, wo sie veröffentlicht sind, nutzen Sie sichere Dateiformate, führen Sie neue Modelle zuerst in einer isolierten Umgebung aus, führen Sie ein Inventar der genutzten Modelle und Versionen und patchen Sie die umgebende Software wie jede andere. Ein Netzwerksensor sieht große Modell-Downloads und welche Hosts Modell-Laufzeitumgebungen betreiben; die Gewichte eines Modells kann er nicht prüfen.