Ist KI in einem Sicherheitswerkzeug nach der KI-Verordnung hochriskant?

Meist nicht, aber es kommt darauf an, was das Werkzeug entscheidet und über wen. Die Hochrisiko-Kategorien richten sich nach dem Einsatz, nicht nach der Technik: KI unter anderem zur Einstellung, Beförderung, Überwachung oder Bewertung von Beschäftigten, zur Prüfung der Kreditwürdigkeit oder als Sicherheitsbauteil beim Betrieb kritischer Infrastruktur. Ein Werkzeug, das Schadsoftware-Verkehr zwischen Geräten erkennt, ist für sich genommen keiner dieser Einsätze. Näher rückt es, wenn seine Ergebnisse genutzt werden, um Verhalten oder Leistung einzelner Beschäftigter zu bewerten, oder wenn es als Sicherheitsbauteil etwa eines Energienetzes dient. Stellen Sie jedem Sicherheitswerkzeug daher zwei Fragen: Bewertet es Menschen oder Maschinen, und was geschieht automatisch aufgrund seiner Ergebnisse? Bitten Sie den Anbieter um seine eigene Einstufung und deren Begründung. NetSenX ist darauf ausgelegt, Geräte und Verbindungen zu beobachten statt Menschen zu bewerten, und meldet KI-Nutzung je Gerät und Programm, nicht je Person. Seine Seite zur KI-Transparenz beschreibt, wo es KI nutzt und was in Ihrer Hand bleibt; Alarme zur Beurteilung von Beschäftigten zu nutzen, wäre Ihre Entscheidung und bräuchte eine eigene Bewertung.

Allgemeine Information, keine Rechtsberatung. Nationale Gesetze können die hier zitierten EU-Texte ergänzen, etwa um Fristen, Formulare oder Meldewege: Prüfen Sie die Regeln Ihres Landes.

← Alle 20 Fragen zu EU-Recht: DSGVO, DORA, CRA und KI-VOAlle Themen