L’IA di uno strumento di sicurezza è ad alto rischio secondo l’AI Act?

Di solito no, ma dipende da che cosa decide lo strumento e su chi. Le categorie ad alto rischio sono definite dall’uso, non dalla tecnologia: IA usata, tra l’altro, per assumere, promuovere, monitorare o valutare lavoratori, valutare il merito creditizio o come componente di sicurezza nella gestione di infrastrutture critiche. Uno strumento che individua il traffico di malware tra dispositivi non rientra di per sé in questi usi. Ci si avvicina quando i suoi risultati servono a valutare il comportamento o le prestazioni di singoli dipendenti, o quando funge da componente di sicurezza, per esempio di una rete energetica. Ponga quindi due domande a ogni strumento di sicurezza: valuta persone o macchine, e che cosa succede automaticamente in base ai suoi risultati? Chieda al fornitore la sua classificazione e le motivazioni. NetSenX è progettato per osservare dispositivi e connessioni anziché valutare persone, e riporta l’uso dell’IA per dispositivo e programma, non per persona. La sua pagina sulla trasparenza dell’IA descrive dove usa l’IA e che cosa resta sotto il Suo controllo; usare gli alert per giudicare il personale sarebbe una Sua decisione e richiederebbe una valutazione a parte.

Informazione generale, non consulenza legale. Le leggi nazionali possono integrare i testi UE citati qui, per esempio con termini, moduli o canali di notifica: verifichi le regole del Suo Paese.

← Tutte le 20 domande su Diritto UE: GDPR, DORA, CRA e AI ActTutti i temi