Kann ein KI-Agent mit zu vielen Rechten Kundendaten preisgeben?
Ja, und ohne dass es jemand beabsichtigt. Ein Agent mit Zugriff auf CRM, Postfach oder ein geteiltes Laufwerk kann gebeten oder durch eine in einem gelesenen Dokument, einer E-Mail oder Webseite versteckte Anweisung dazu gebracht werden, Daten weit über seine Aufgabe hinaus zusammenzufassen, weiterzuleiten oder hochzuladen. Typische Wege sind ein Agent, der externe Nachrichten beantwortet und interne Daten in die Antwort packt, ein Agent, der E-Mails senden oder in externe Dienste schreiben kann, ein Coding-Agent, der Code mit eingebetteten Geheimnissen in ein öffentliches Repository schiebt, und ein Agent, dessen Logs oder Gedächtnis Kundendaten dort aufbewahren, wo niemand sie erwartet. Die Abhilfe ist der Zuschnitt: nur die Daten, die die Aufgabe braucht, keine ausgehenden Kanäle, wenn nicht nötig, menschliche Freigabe, bevor etwas das Unternehmen verlässt, und Trennung zwischen Agenten, die nicht vertrauenswürdige Inhalte lesen, und solchen mit sensiblem Zugriff. Testen Sie diese Wege vor dem Start. In jedem Plan erkennt NetSenX ungewöhnliches ausgehendes Datenvolumen eines Hosts, egal welcher Prozess es verursacht, und ab dem Pro-Plan zeigt es, mit welchen KI-Diensten der Host spricht; was der Agent gesendet hat, sieht es nicht.