Kann Netzwerküberwachung einen fehlgeleiteten KI-Agenten erkennen?
Heute teilweise, und NetSenX sagt deutlich, welchen Teil. Was aktiv ist: ab dem Pro-Plan der Verkehr eines Hosts zu externen KI-Diensten und zu lokal betriebenen Sprachmodell-Laufzeitumgebungen, mit Zeitpunkt und Volumen; und in jedem Plan die Verhaltensweisen, die ein missbrauchter Agent mit jedem kompromittierten Host teilt, etwa das Erreichen vieler interner Systeme, die er nie genutzt hat, Scans, regelmäßige Rückmeldungen an einen unbekannten Server und ungewöhnliches ausgehendes Datenvolumen. Was nicht aktiv ist: Signale, die gezielt auf Agenten abstellen, etwa Aktionen in Maschinentempo direkt nach einem Sprachmodell-Aufruf oder eine erste Verbindung zu einem neuen Ziel nach einer Modellantwort. NetSenX misst diese im Schattenmodus, ohne Alarme, bis sie verlässlich genug sind, um nützlich zu sein; sie sollten weder als Erkennung dargestellt noch als solche genutzt werden. Die stärkeren Kontrollen liegen woanders: enge Rechte, menschliche Freigabe folgenreicher Aktionen und die eigenen Aktionsprotokolle des Agenten. Welche Anweisung den Agenten handeln ließ, sieht ein Netzwerksensor zudem nie.