Il monitoraggio di rete può rilevare un agente di IA che si comporta male?

In parte oggi, e NetSenX dice chiaramente quale parte. Ciò che funziona: dal piano Pro, il traffico da un host verso servizi di IA esterni e verso ambienti di modelli linguistici eseguiti in locale, con tempi e volumi; e in ogni piano, i comportamenti che un agente abusato condividerebbe con qualsiasi host compromesso, come raggiungere molti sistemi interni mai usati prima, scansionare, contattare regolarmente un server sconosciuto o inviare volumi di dati insoliti. Ciò che non è attivo: i segnali mirati specificamente agli agenti, come azioni a ritmo di macchina subito dopo una chiamata a un modello linguistico, o una prima connessione verso una nuova destinazione che segue una risposta del modello. NetSenX li misura in modalità ombra, senza generare allarmi, finché non saranno abbastanza affidabili da essere utili; non vanno presentati né usati come rilevamenti. I controlli più forti stanno altrove: permessi ristretti, approvazione umana per le azioni con conseguenze e i log delle azioni dell'agente stesso. Un sensore di rete inoltre non vede mai quale istruzione abbia fatto agire l'agente.

← Tutte le 45 domande su Uso e sicurezza dell'IATutti i temi