Czy kod generowany przez AI to ryzyko bezpieczeństwa?

Może być, w ten sam sposób co kod skopiowany z internetu, tylko szybciej i w większych ilościach. Asystenci kodowania tworzą kod, który wygląda wiarygodnie i zwykle działa, ale może zawierać znane wzorce podatności, takie jak wstrzykiwanie, słaba kryptografia czy brak walidacji danych wejściowych; może wywoływać nieistniejące pakiety, które napastnicy następnie rejestrują pod tą nazwą ze złośliwą zawartością; może odtwarzać kod na licencji, której Twój produkt nie może przyjąć; i może osadzać sekrety z przykładów. Same narzędzia też wysyłają kod źródłowy do dostawcy jako kontekst, więc wybór usługi i konta ma znaczenie dla poufności. Traktuj wynik AI jak pull request młodszego kolegi: ten sam przegląd kodu, automatyczne testy bezpieczeństwa, skanowanie zależności i licencji oraz wykrywanie sekretów w potoku, a odpowiedzialność zostaje przy programiście. Ustal, które repozytoria można udostępniać którym asystentom. Od planu Pro NetSenX pokazuje, które komputery programistów i serwery kompilacji wysyłają dane do których usług AI i ile; nie oceni jakości kodu.

← Wszystkie pytania (45): Korzystanie z AI i bezpieczeństwo AIWszystkie tematy