Dürfen wir KI nutzen, um Emotionen oder Stimmung von Mitarbeitenden zu erfassen?

Grundsätzlich nein. Artikel 5 des AI Act, Verordnung (EU) 2024/1689, verbietet das Inverkehrbringen, die Inbetriebnahme und die Verwendung von KI-Systemen zur Ableitung von Emotionen einer natürlichen Person am Arbeitsplatz und in Bildungseinrichtungen, außer wenn das System aus medizinischen Gründen oder Sicherheitsgründen eingesetzt werden soll. Das Verbot gilt seit dem 2. Februar 2025. Es erfasst Werkzeuge, die Emotionen oder Absichten aus Gesicht, Stimme, Tippverhalten oder anderen biometrischen Signalen ablesen, etwa in Callcenter-Software, Zusätzen für Videokonferenzen oder Produktivitätsüberwachung, und die Bußgelder für verbotene Praktiken sind die höchsten im Gesetz. Arbeits- und Datenschutzrecht setzen der Überwachung von Beschäftigten zusätzliche Grenzen. Bevor Sie ein Werkzeug kaufen, das Engagement, Stress oder Stimmung von Mitarbeitenden messen will, fragen Sie den Anbieter schriftlich, welche Daten es nutzt und wie es zu Artikel 5 passt, und beziehen Sie Rechtsberatung und Datenschutzbeauftragten ein. NetSenX tut so etwas nicht: Es überwacht Geräte und Netzverbindungen, nie Menschen, und bewertet keine Personen.

← Alle 45 Fragen zu KI-Nutzung und KI-SicherheitAlle Themen