Czym jest ryzyko łańcucha dostaw modeli AI?

To ryzyko, że model, zbiór danych lub biblioteka AI, które pobierasz lub kupujesz, są przejęte, fałszywie opisane albo po prostu nie są tym, za co je bierzesz. Publiczne repozytoria modeli przechowują setki tysięcy modeli wgranych przez kogokolwiek. Niektóre formaty plików modeli mogą wykonywać kod przy wczytywaniu, więc złośliwy model może przejąć maszynę, która go otwiera; istnieją bezpieczniejsze formaty i to je należy wybierać. Model może zostać dostrojony tak, by działał normalnie poza ukrytym wyzwalaczem, albo wytrenowany na zatrutych danych. Nazwy można skopiować, by wyglądały jak model znanego wydawcy. A biblioteki i wtyczki wokół modeli, takie jak środowiska uruchomieniowe, konektory i frameworki agentów, szybko się zmieniają i mają zwykłe podatności oprogramowania. Praktyczne kroki: pobieraj modele tylko od wydawców, których możesz zweryfikować, sprawdzaj podpisy lub skróty, gdy są publikowane, używaj bezpiecznych formatów plików, uruchamiaj nowe modele najpierw w odizolowanym środowisku, prowadź inwentarz używanych modeli i wersji i łataj otaczające oprogramowanie jak każde inne. Czujnik sieciowy widzi duże pobrania modeli i hosty uruchamiające środowiska modeli; nie zbada wag modelu.

← Wszystkie pytania (45): Korzystanie z AI i bezpieczeństwo AIWszystkie tematy