# KI-Nutzung und KI-Sicherheit (FAQ)

> 45 Fragen zu KI-Nutzung und KI-Sicherheit, verständlich beantwortet: was zu prüfen ist, was NetSenX zeigt und was ein Sensor nicht sieht.

Source page: https://netsenx.com/de/faq/ai

## Was ist Schatten-KI?

Schatten-KI ist die Nutzung von KI-Werkzeugen bei der Arbeit ohne Wissen oder Freigabe derer, die für IT, Sicherheit oder Datenschutz zuständig sind. Dazu gehören Mitarbeitende, die private Chatbot-Konten für dienstliche Aufgaben nutzen, Browser-Erweiterungen mit eingebauter KI, in vorhandener Software eingeschaltete KI-Funktionen, Entwickler, die lokale Modelle oder Coding-Assistenten betreiben, und KI-Agenten, die an Firmensysteme angebunden sind. Meist ist sie gut gemeint: Die Leute wollen schneller arbeiten. Die Risiken sind konkret. Firmen- oder Kundendaten gehen an Anbieter, mit denen Sie keinen Vertrag haben, zu Bedingungen, die ihnen das Speichern oder Trainieren erlauben können. Personenbezogene Daten werden womöglich ohne Rechtsgrundlage verarbeitet. Ergebnisse landen ungeprüft in Dokumenten und Code. Und niemand kann einem Kunden oder Prüfer sagen, welche KI-Dienste seine Daten berührt haben. Die Antwort ist kein Verbot, sondern Sichtbarkeit, eine freigegebene Alternative und eine klare Richtlinie. Ab dem Pro-Plan zeigt NetSenX, welche Hosts sich mit welchen KI-Diensten verbinden und wie viele Daten dorthin gehen, nicht, was eingetippt wurde.

https://netsenx.com/de/faq/what-is-shadow-ai

## Erkennt NetSenX Schatten-KI in meinem Netzwerk?

Ja, ab dem Pro-Plan. NetSenX meldet Verkehr zu externen KI-Diensten und zu lokal betriebenen Sprachmodell-Laufzeitumgebungen, sodass nicht genehmigte KI-Nutzung sichtbar wird, bevor sie zum Datenschutzproblem wird.

https://netsenx.com/de/faq/can-netsenx-detect-shadow-ai-on-my-network

## Wie erkenne ich Shadow AI in meinem Netzwerk?

Sehen Sie sich ausgehende Verbindungen zu KI-Diensten an: Ziel und Servername im TLS-Handshake verraten den Dienst, ohne dass etwas entschlüsselt wird. NetSenX markiert diesen Verkehr und den zu lokal betriebenen Sprachmodell-Laufzeiten ab dem Pro-Plan.

https://netsenx.com/de/faq/how-can-i-detect-shadow-ai-on-my-network

## Welche KI-Dienste nutzt unser Unternehmen tatsächlich?

Meist mehr, als irgendwer aufgeschrieben hat, und genau diese Lücke ist der Grund, es herauszufinden. Eine realistische Liste hat vier Schichten: die Dienste, die Sie über Firmenkonten bezahlen; KI-Funktionen in Software, die Sie schon nutzen, etwa Office-Pakete, CRM, Helpdesk und Grafikwerkzeuge; Dienste, die Mitarbeitende mit privaten Konten im Browser oder in Desktop-Apps nutzen; und Modelle, die lokal auf Laptops, Build-Servern oder GPU-Workstations laufen. Beginnen Sie mit dem, was Sie wissen, aus Verträgen, Kartenabrechnungen und Admin-Konsolen, und ergänzen Sie, was das Netz zeigt. Gruppieren Sie die Ergebnisse nach Unternehmensbereichen, denn Finanzen, Vertrieb und Entwicklung nutzen meist verschiedene Werkzeuge für verschiedene Daten, und geben Sie jedem Dienst einen Status: freigegeben, für nicht sensible Daten geduldet oder zu ersetzen. Die Liste ist die Grundlage Ihrer KI-Richtlinie, Ihrer Schulung zur KI-Kompetenz nach dem AI Act und Ihrer Antworten an Kunden. Ab dem Pro-Plan zeigt NetSenX, welche Hosts welche externen KI-Dienste und lokalen Modell-Laufzeitumgebungen erreichen, wann und mit wie vielen Daten; was eingetippt wurde, zeigt es nicht.

https://netsenx.com/de/faq/which-ai-services-does-our-company-actually-use

## Wie viele Firmendaten gehen jeden Monat an KI-Dienste?

Das lässt sich auf Netzebene messen, je Dienst und je Host, und die Zahl ist nützlicher, als sie klingt. Das Volumen sagt nicht, was die Daten waren, trennt aber leichte Nutzung wie kurze Fragen und Antworten von intensiver, etwa dem Hochladen ganzer Dokumente, Tabellen, Code-Repositories oder Audioaufnahmen. Ein plötzlicher Sprung bei einem Host oder ein stetiger Strom von einem Server, der gar nicht mit KI-Diensten sprechen sollte, ist ein Grund nachzufragen. Verfolgen Sie es monatlich, je Unternehmensbereich, neben Ihrer Liste freigegebener Dienste: Steigende Nutzung eines freigegebenen Werkzeugs ist eine gute Nachricht, steigende Nutzung eines nicht freigegebenen eine Lücke in der Richtlinie. Die Admin-Konsole Ihres KI-Anbieters kann bei Geschäftskonten Details je Nutzer ergänzen. Ab dem Pro-Plan zeigt NetSenX, welche Hosts welche KI-Dienste erreichen, einschließlich lokaler Modell-Laufzeitumgebungen, und wie viele Daten im Zeitverlauf jeweils dorthin gehen. Den Inhalt liest es nie, es kann also nicht sagen, ob die Daten vertraulich waren; diese Einschätzung kommt von denen, denen die Daten gehören.

https://netsenx.com/de/faq/how-much-company-data-goes-to-ai-services

## Zeigen DNS-Logs die Nutzung von Schatten-KI?

Teilweise. DNS-Logs zeigen, welche Hosts die Domains bekannter KI-Dienste auflösen; das ist ein guter Anfang und kostet nichts, wenn Ihr Resolver Anfragen bereits protokolliert: Exportieren Sie eine Woche an Abfragen und gleichen Sie sie mit einer Liste von KI-Domains ab. Sie übersehen verschlüsseltes DNS, das Ihren Resolver umgeht, Dienste hinter anderen Domains oder Content-Delivery-Netzen, KI-Funktionen in Werkzeugen, die Sie schon nutzen, und wie viele Daten tatsächlich geflossen sind. Sie zeigen zudem den Host, nicht die Person, und eine einzelne Abfrage kann von einem Browser stammen, der eine Seite vorlädt. Sehen Sie DNS als günstigen ersten Blick und bestätigen Sie mit Verbindungsdaten, bevor Sie handeln. NetSenX verknüpft ab dem Pro-Plan Ziele mit Volumen und Zeitpunkt der Verbindungen, sodass Sie sehen, welche Hosts welche KI-Dienste nutzen, auch lokale Modell-Laufzeitumgebungen, und wie intensiv; den Inhalt von Prompts sieht es nicht. Für die Inhaltsseite kombinieren Sie es mit den Admin-Logs Ihres KI-Anbieters.

https://netsenx.com/de/faq/can-dns-logs-show-shadow-ai-use

## Sieht Netzwerküberwachung KI-Nutzung in Desktop-Apps, IDEs und Kommandozeilenwerkzeugen?

Ja bei den Verbindungen, nein beim Inhalt. Eine Desktop-Chatbot-App, ein KI-Assistent im Code-Editor und ein Kommandozeilenwerkzeug, das eine KI-API aufruft, müssen alle über das Netz zum Anbieter, Ziel, Zeitpunkt und Volumen sind also genauso sichtbar wie beim Browser. Das zählt, weil diese Werkzeuge oft browserbasierten Kontrollen entgehen: Eine Erweiterungsrichtlinie oder ein Web-Proxy sieht sie nicht, und KI-Assistenten von Entwicklern können große Teile einer Codebasis als Kontext senden. Grenzen: Spricht das Werkzeug mit einem allgemeinen Cloud-Endpunkt oder einem Firmen-Proxy, kann der KI-Anbieter dahinter verborgen sein; Encrypted Client Hello kann den Servernamen verbergen; und Laptops außerhalb des Büros sind nur sichtbar, wenn der Agent auf ihnen läuft. NetSenX zeigt ab dem Pro-Plan, welche Hosts sich mit welchen externen KI-Diensten und lokal betriebenen Sprachmodell-Laufzeitumgebungen verbinden und wie viele Daten jeweils dorthin gehen, gleich welche Anwendung die Verbindung aufgebaut hat; welche Datei oder welcher Prompt gesendet wurde, sieht es nicht.

https://netsenx.com/de/faq/can-network-monitoring-see-ai-in-desktop-apps-ides-and-clis

## Sieht Netzwerküberwachung, was Mitarbeitende in einen KI-Chatbot tippen?

Nein. Der Inhalt der Sitzung ist verschlüsselt, und NetSenX entschlüsselt ihn nie. Es zeigt, dass ein Host einen KI-Dienst genutzt hat, wann und wie viele Daten er gesendet hat; für den Inhalt brauchen Sie die Unternehmens-Logs des Dienstes oder ein DLP-Werkzeug.

https://netsenx.com/de/faq/can-network-monitoring-see-what-employees-type-into-an-ai-chatbot

## Warum sehen Unternehmen nicht, was Mitarbeitende mit KI-Werkzeugen teilen?

Weil der Inhalt in verschlüsselten Verbindungen zu Diensten reist, die das Unternehmen nicht kontrolliert. Fügt jemand im Browser Text in einen Chatbot ein, sieht die Firewall eine HTTPS-Verbindung zum Anbieter und höchstens den Namen des Dienstes; der Prompt selbst ist zwischen Browser und Anbieter durchgehend verschlüsselt. Private Konten speichern den Verlauf beim Anbieter, außerhalb der Reichweite des Unternehmens. KI-Funktionen in freigegebenen Apps sehen aus wie gewöhnlicher Verkehr dieser Apps, und Telefone im Mobilfunknetz berühren das Firmennetz gar nicht. Sichtbarkeit auf Inhaltsebene braucht Kontrolle an einem der Enden: ein Geschäftskonto, dessen Admin-Konsole und Audit-Logs die Nutzung zeigen, Data Loss Prevention im Browser oder auf dem Endgerät oder einen Abfang-Proxy, jeweils mit eigenen Datenschutzfragen. Was das Netz bieten kann, ist das Nächstbeste: welche Hosts welche KI-Dienste nutzen, wann und wie viel. Genau das zeigt NetSenX ab dem Pro-Plan.

https://netsenx.com/de/faq/why-do-companies-have-no-visibility-into-what-staff-share-with-ai

## Ist die Shadow-AI-Erkennung in jedem Plan enthalten?

Nein. Sie gehört zum Pro-Plan und darüber. Der Free-Plan umfasst die verhaltensbasierte Erkennung, etwa von Beaconing, Scans und lateraler Bewegung, ohne Zeitlimit.

https://netsenx.com/de/faq/is-shadow-ai-detection-included-in-every-plan

## MSP-Werkzeuge bieten jetzt Sichtbarkeit von Schatten-KI. Was sehen sie wirklich?

Das hängt davon ab, wo das Werkzeug sitzt, und die Antwort sollten Sie von jedem Anbieter schriftlich verlangen, denn dasselbe Etikett steht für sehr Verschiedenes. Ein Werkzeug auf dem Endgerät sieht, welche KI-Anwendungen und Browser-Erweiterungen installiert sind und manchmal, welche Seiten besucht werden; ein DNS-basiertes Werkzeug sieht Abfragen von KI-Domains über den Resolver, den es kontrolliert; eine Browser-Erweiterung sieht Seiten und mit den passenden Rechten auch, was hineingetippt wird; ein Netzwerksensor sieht Verbindungen zu KI-Diensten mit Volumen und Zeitpunkt; und die Admin-Konsolen der KI-Anbieter zeigen die Nutzung von Geschäftskonten. Keines sieht allein alles. Fragen Sie konkret: aus welcher Quelle die Sichtbarkeit stammt, ob Inhalte oder nur Ziele sichtbar sind, ob Desktop-Apps und lokale Modelle abgedeckt sind, wie mit verschlüsseltem DNS umgegangen wird, was auf nicht verwalteten Geräten passiert und welche personenbezogenen Daten über Mitarbeitende gesammelt werden. NetSenX gehört zur Netzwerk-Kategorie: Ab dem Pro-Plan zeigt es, welche Hosts welche externen KI-Dienste und lokalen Modell-Laufzeitumgebungen erreichen und wie viele Daten fließen, nie, was eingetippt wurde.

https://netsenx.com/de/faq/what-does-shadow-ai-visibility-in-msp-tools-actually-see

## Wie sicher ist ChatGPT für unsere Mitarbeitenden?

Das hängt weniger vom Dienst ab als vom Konto und von den Daten. Die Verbindung ist verschlüsselt, und große Anbieter betreiben ausgereifte Sicherheitsprogramme, die Hauptrisiken liegen also woanders. Ein privates Konto unterliegt Verbraucherbedingungen: Je nach Anbieter und Einstellungen werden Unterhaltungen gespeichert und zur Verbesserung von Modellen genutzt, und das Unternehmen hat keine Admin-Sicht, keinen Auftragsverarbeitungsvertrag und keine Möglichkeit, Geteiltes zu löschen. Ein Business- oder Enterprise-Konto ändert das meist, mit vertraglichen Grenzen für das Training, Aufbewahrungseinstellungen, Single Sign-on, Admin-Kontrollen und Audit-Logs. Die übrigen Risiken sind menschlich: vertrauliche oder personenbezogene Daten, die unbedacht eingefügt werden, Antworten, die selbstsicher falsch sind, und generierter Code oder Text, der ungeprüft verwendet wird. Praktische Regeln: freigegebenes Werkzeug über ein Firmenkonto, eine kurze Liste von Daten, die nie hineingehören, Mehr-Faktor-Authentisierung (MFA) am Konto und Prüfung der Ergebnisse, bevor sie Kunden erreichen. NetSenX zeigt ab dem Pro-Plan, welche KI-Dienste tatsächlich genutzt werden und wie viele Daten dorthin gehen.

https://netsenx.com/de/faq/how-secure-is-chatgpt-for-staff-to-use

## Wie nutzen wir KI-Chatbots als Organisation sicher?

Behandeln Sie einen KI-Dienst wie jeden anderen Lieferanten, der Ihre Daten verarbeitet, und richten Sie ihn bewusst ein. Wählen Sie ein oder zwei freigegebene Dienste und nutzen Sie Geschäftskonten mit Single Sign-on und Mehr-Faktor-Authentisierung, damit Ausscheidende den Zugang verlieren und Admins die Nutzung sehen. Prüfen Sie den Vertrag: ob Ihre Daten für das Training genutzt werden, wie lange sie gespeichert werden, wo sie verarbeitet werden und ob ein Auftragsverarbeitungsvertrag nach DSGVO besteht. Schreiben Sie eine einseitige Richtlinie mit Beispielen, was hinein darf und was nicht, und wen man fragt. Schalten Sie die Admin-Funktionen des Anbieters ein, etwa Aufbewahrungsgrenzen und Beschränkungen für Plugins oder Konnektoren. Legen Sie fest, wie Ergebnisse geprüft werden, bevor sie Kunden oder Produktivcode erreichen. Schulen Sie die Leute zur Richtlinie und zur Pflicht der KI-Kompetenz aus dem AI Act. Prüfen Sie dann die Wirklichkeit: Ab dem Pro-Plan zeigt NetSenX, welche KI-Dienste Hosts tatsächlich nutzen, auch nicht freigegebene und lokale Modelle, und wie viele Daten jeweils dorthin gehen, ohne den Inhalt zu lesen.

https://netsenx.com/de/faq/how-to-use-ai-chatbots-securely-as-a-company

## Wie verhindern wir, dass Mitarbeitende Firmendaten in ChatGPT kopieren?

Beginnen Sie mit einer Richtlinie, an die man sich halten kann: welche KI-Werkzeuge erlaubt sind, für welche Daten und über welches Firmenkonto. Machen Sie dann das erlaubte Werkzeug leicht nutzbar, denn Menschen umgehen Regeln, die ihre Arbeit blockieren, und ein Geschäftskonto bei einem KI-Anbieter bietet meist vertragliche Zusagen zur Datennutzung, Admin-Einstellungen und Protokolle, die ein privates Konto nicht hat. Begründen Sie die Regel mit konkreten Beispielen: Kundenlisten, Verträge, Quellcode, Gehaltsdaten und alles unter einer Geheimhaltungsvereinbarung gehören nicht in nicht freigegebene Werkzeuge. Technische Maßnahmen folgen: Data Loss Prevention auf Endgeräten oder im Browser, ein Web-Proxy und die Admin-Einstellungen des KI-Anbieters selbst. Prüfen Sie das Ergebnis jeden Monat, nicht einmalig. NetSenX schafft Sichtbarkeit, keine Sperre: Ab dem Pro-Plan zeigt es, welche Hosts mit welchen KI-Diensten sprechen und wie viele Daten dorthin gehen, sodass Sie sehen, ob die Richtlinie wirkt. Was eingetippt oder hochgeladen wurde, sieht es nicht.

https://netsenx.com/de/faq/stop-employees-pasting-company-data-into-chatgpt

## Sollten wir ChatGPT im Firmennetz sperren?

Sperren allein funktioniert selten: Die Leute weichen auf Telefone, Heimnetze oder andere KI-Werkzeuge aus, und Sie verlieren den Überblick über die Nutzung, also das Gegenteil dessen, was Sie wollen. Sperrlisten hinken außerdem hinterher, weil jeden Monat neue KI-Dienste erscheinen und viele in Anwendungen eingebaut sind, die Sie bereits zulassen. Klarer ist ein Weg in drei Teilen: eine Richtlinie, welche KI-Werkzeuge freigegeben sind und welche Daten hinein dürfen; ein freigegebenes Werkzeug mit Geschäftskonto, wo echter Bedarf besteht, damit es eine gute Alternative gibt; und Sichtbarkeit dessen, was tatsächlich genutzt wird, regelmäßig geprüft. Sperren haben weiter ihren Platz bei bestimmten Hochrisiko-Diensten, für nicht verwaltete Geräte im Gästenetz oder während eines Vorfalls. NetSenX zeigt ab dem Pro-Plan, mit welchen KI-Diensten sich Hosts im Netz verbinden, einschließlich lokal betriebener Modelle, und wie viele Daten jeweils dorthin gehen; es sieht Ziel und Volumen, nicht das Eingetippte, und sperrt selbst nichts.

https://netsenx.com/de/faq/should-we-block-chatgpt-on-the-company-network

## Was tun, wenn Mitarbeitende KI-Werkzeuge nutzen, ohne die Risiken zu verstehen?

Finden Sie zuerst heraus, was genutzt wird und warum, bevor Sie Regeln schreiben. In den meisten Unternehmen kommt die erste Welle der KI-Nutzung von Menschen, die echte Probleme lösen: E-Mails entwerfen, Dokumente zusammenfassen, Code schreiben oder übersetzen. Ein Verbot drängt diese Nutzung ins Verborgene; ein freigegebenes Werkzeug mit klaren Hinweisen hält sie sichtbar. Erklären Sie dann die Risiken in der Sprache der Arbeit: Ein Kundenvertrag in einem privaten Chatbot kann die Vertraulichkeitsklausel verletzen; eine KI-Zusammenfassung kann genau den einen Satz übersehen, auf den es ankommt; generierter Code kann Schwachstellen oder Lizenzprobleme mitbringen. Geben Sie eine kurze Liste von Daten vor, die nie in nicht freigegebene Werkzeuge gehören, zeigen Sie, wie das freigegebene funktioniert, und benennen Sie eine Ansprechperson. Kurze, wiederholte Schulungen wirken besser als eine lange, und seit Februar 2025 verlangt der AI Act von Organisationen, die KI nutzen, Maßnahmen zur Förderung der KI-Kompetenz ihres Personals. Prüfen Sie den Fortschritt mit Fakten: Ab dem Pro-Plan zeigt NetSenX, welche KI-Dienste tatsächlich genutzt werden und wie viele Daten dorthin gehen.

https://netsenx.com/de/faq/what-to-do-when-staff-use-ai-without-understanding-the-risks

## Wie prüfen wir, ob unsere KI-Richtlinie eingehalten wird?

Vergleichen Sie, was die Richtlinie erlaubt, mit dem, was das Unternehmen tatsächlich nutzt, aus drei Quellen. Erstens die Admin-Konsolen der freigegebenen KI-Dienste: wer ein Konto hat, wie aktiv es ist, welche Funktionen und Konnektoren eingeschaltet sind. Zweitens Identitäts- und Ausgabendaten: Anmeldungen mit Firmen-E-Mail-Adressen bei Diensten, die niemand freigegeben hat, und KI-Abos auf Firmenkarten. Drittens das Netz: welche Geräte sich mit welchen KI-Diensten verbinden, auch mit lokalen Modell-Laufzeitumgebungen, und wie viele Daten jeweils dorthin gehen. Ein guter Monatsbericht zeigt die freigegebenen Dienste und ihre Nutzung, die nicht freigegebenen, die noch genutzt werden, und ungewöhnlich große Übertragungen, damit das Gespräch auf Fakten beruht, nicht auf Gerüchten. Bleiben Sie bei Werkzeugen und Geräten statt bei Personen, solange kein konkreter Verdacht besteht, und beziehen Sie Personalabteilung oder Betriebsrat ein, wo Ihr Land es verlangt. Ab dem Pro-Plan liefert NetSenX die Netzsicht: Hosts, KI-Dienste und Volumen im Zeitverlauf. Es liest nicht, was eingetippt wurde, und sperrt nichts.

https://netsenx.com/de/faq/how-to-check-whether-staff-follow-our-ai-policy

## Ist es sicher, Finanztabellen in ein KI-Werkzeug hochzuladen?

Nur über ein freigegebenes Geschäftskonto und erst nach einem Blick darauf, was die Tabelle enthält. Finanzexporte enthalten oft mehr, als die Analyse braucht: Kundennamen und Zahlungsbedingungen, Gehälter, Margen, Bankdaten und unveröffentlichte Ergebnisse. Bei einem privaten Konto liegen diese Daten bei einem Anbieter ohne Vertrag mit Ihnen, zu Bedingungen, die Speicherung oder Training erlauben können. Bei einem Geschäftskonto mit Auftragsverarbeitungsvertrag, Aufbewahrungseinstellungen und ohne Training auf Ihren Daten ist das Risiko mit anderen Cloud-Diensten vergleichbar, die Sie schon nutzen. Praktische Regeln für die Finanzabteilung: Entfernen Sie Spalten, die die Frage nicht braucht, aggregieren oder pseudonymisieren Sie personenbezogene Daten, laden Sie nie unveröffentlichte Ergebnisse einer börsennotierten Gesellschaft oder Dateien unter Geheimhaltungsvereinbarung hoch, und prüfen Sie die Zahlen der KI an der Quelle, bevor sie in einen Bericht gehen, denn Modelle können Zahlen falsch rechnen oder übernehmen. NetSenX zeigt ab dem Pro-Plan, welche Hosts der Finanzabteilung welche KI-Dienste erreichen und wie viele Daten dorthin gehen; die Datei sieht es nicht.

https://netsenx.com/de/faq/is-it-safe-to-upload-financial-spreadsheets-to-an-ai-tool

## Woran erkenne ich, ob Mitarbeitende Kundendaten in KI-Werkzeuge kopieren?

Nicht allein am Netz, und das sollte man vor der Wahl eines Werkzeugs ehrlich sagen. Inhalte an einen KI-Dienst sind verschlüsselt, sehen kann sie nur eine Kontrolle an einem der Enden: die Admin- und Audit-Logs eines geschäftlichen KI-Kontos, Data Loss Prevention im Browser oder auf dem Endgerät, die Muster von Kundendaten erkennt, oder ein Abfang-Proxy. Jede davon braucht eine klare Richtlinie, Information der Mitarbeitenden und in vielen Ländern die Beteiligung des Betriebsrats. Was das Netz verlässlich zeigt, ist der Zusammenhang: welche Geräte welche KI-Dienste nutzen, wie oft und mit wie vielen Daten. Ein Vertriebslaptop, der täglich mehrere Megabyte an einen nicht freigegebenen Chatbot sendet, ist Anlass für ein Gespräch über Werkzeuge und Daten, kein Beweis für einen Verstoß. Oft ist die beste Antwort eine freigegebene Alternative, die dieselbe Aufgabe über ein Geschäftskonto erledigt. Ab dem Pro-Plan zeigt NetSenX Hosts, KI-Dienste und Volumen; den eingefügten Text sieht es nie.

https://netsenx.com/de/faq/how-do-i-know-if-staff-paste-customer-data-into-ai-tools

## Ist das Einfügen von Kundendaten in ChatGPT eine DSGVO-Verletzung?

Es kann eine sein, je nach Daten, Konto und Bedingungen. Nach der DSGVO, Verordnung (EU) 2016/679, ist das Senden personenbezogener Daten an einen KI-Anbieter eine Verarbeitung, die eine Rechtsgrundlage braucht, Transparenz gegenüber den Betroffenen und, wenn der Anbieter in Ihrem Auftrag handelt, einen Auftragsverarbeitungsvertrag. Übermittlungen außerhalb der EU brauchen eigene Garantien. Bei einem Geschäftskonto mit einem solchen Vertrag und Einstellungen, die Training auf Ihren Daten ausschließen, kann die Nutzung für einen festgelegten Zweck rechtmäßig sein. Kunden-E-Mails in ein privates Konto mit Verbraucherbedingungen zu kopieren, ist schwerer zu rechtfertigen und kann eine unbefugte Offenlegung sein, die die DSGVO als Verletzung des Schutzes personenbezogener Daten behandelt; führt sie voraussichtlich zu einem Risiko für Personen, muss der Verantwortliche sie nach Artikel 33 binnen 72 Stunden der Aufsichtsbehörde melden. Beziehen Sie Ihren Datenschutzbeauftragten ein, halten Sie fest, was mit welchem Dienst geteilt wurde, und beheben Sie die Ursache mit einem freigegebenen Werkzeug. NetSenX zeigt ab dem Pro-Plan, welche Hosts Daten an welche KI-Dienste gesendet haben, nicht, welche Daten es waren.

https://netsenx.com/de/faq/is-pasting-customer-data-into-chatgpt-a-gdpr-breach

## Sollten Mitarbeitende entlassen werden, die KI entgegen den Regeln nutzen?

Selten als erster Schritt und nie allein aufgrund von Netzdaten. Die meiste nicht freigegebene KI-Nutzung kommt von Menschen, die ihre Arbeit schneller erledigen wollen, oft weil es kein freigegebenes Werkzeug gibt oder die Richtlinie nie erklärt wurde. Eine Kündigung wegen eines ersten, gut gemeinten Verstoßes kann nach dem Arbeitsrecht vieler EU-Länder unverhältnismäßig sein und lehrt den Rest der Belegschaft, die Nutzung zu verstecken, statt zu fragen. Sinnvoller ist diese Reihenfolge: sicherstellen, dass die Richtlinie klar, bekannt und angemessen war; eine freigegebene Alternative anbieten; einen ersten Verstoß als Gespräch mit dokumentierter Ermahnung behandeln; und disziplinarische Schritte für vorsätzliche oder wiederholte Verstöße oder schweren Schaden reservieren, etwa die Offenlegung vertraulicher Kundendaten. Entscheiden Sie mit Personalabteilung und Rechtsberatung und beziehen Sie den Betriebsrat ein, wo Ihr Land es verlangt. Ein Netzwerksensor kann nicht feststellen, wer was getan hat: NetSenX zeigt, welches Gerät sich mit welchem KI-Dienst verbunden hat und wie viele Daten geflossen sind, ein Ausgangspunkt für Fragen, kein Beweis für die Absicht einer Person.

https://netsenx.com/de/faq/should-employees-be-fired-for-using-ai-against-policy

## Mitarbeitende bringen eigene KI-Werkzeuge mit. Was ist das Risiko?

Vor allem, dass Firmendaten zu Bedingungen abfließen, denen niemand zugestimmt hat, und dass später niemand Rechenschaft darüber ablegen kann. Mitgebrachte KI umfasst private Chatbot-Abos, KI-Apps auf privaten Telefonen, Browser-Erweiterungen, KI-Besprechungsrekorder und Modelle auf privater Hardware. Das Datenrisiko: Dokumente, Kundendaten oder Aufnahmen gehen an Anbieter mit Verbraucherbedingungen, womöglich außerhalb der EU, ohne Auftragsverarbeitungsvertrag, und bleiben nach dem Ausscheiden in privaten Konten. Das Qualitätsrisiko: Arbeitsergebnisse auf Basis ungeprüfter Ausgaben. Das Compliance-Risiko: Sie können einem Kunden, Prüfer oder Betroffenen nicht sagen, wohin seine Daten gegangen sind. KI-Besprechungsrekorder verdienen besondere Aufmerksamkeit, weil sie Stimmen und Worte anderer aufzeichnen, oft ohne die Zustimmung aller. Die praktische Antwort: ein gutes freigegebenes Werkzeug anbieten, klar sagen, welche privaten Werkzeuge wofür genutzt werden dürfen, und verlangen, dass Aufzeichnungen angekündigt werden. Ab dem Pro-Plan zeigt NetSenX, welche KI-Dienste Firmengeräte erreichen; private Telefone im Mobilfunknetz bleiben außerhalb jeder Netzsicht.

https://netsenx.com/de/faq/what-is-the-risk-of-employees-bringing-their-own-ai

## Sind KI-Browser-Erweiterungen ein Sicherheitsrisiko?

Oft mehr als die Chatbots selbst, wegen der Berechtigungen, die sie verlangen. Um Seiten zusammenzufassen, E-Mails umzuschreiben oder Formulare auszufüllen, braucht eine KI-Erweiterung meist das Recht, alles auf jeder besuchten Website zu lesen und zu ändern, auch in Webmail, CRM, Onlinebanking und internen Anwendungen. Anschließend sendet sie Seiteninhalte an eigene Server oder einen KI-Anbieter. Manche Erweiterungen sind gut geführt; andere sind kleine Projekte, die den Besitzer wechseln, verkauft werden oder ein Update mit Tracking oder Schadcode erhalten, und der Browser installiert es still. Praktische Schritte: Lassen Sie per Browserrichtlinie nur Erweiterungen aus einer verwalteten Liste zu, prüfen Sie Berechtigungen und Herausgeber jeder einzelnen, bevorzugen Sie die KI-Funktionen Ihrer freigegebenen Werkzeuge gegenüber Erweiterungen und entfernen Sie, was niemand begründen kann. Ein Netzwerksensor sieht die Verbindungen einer Erweiterung zu ihren Servern wie jeden anderen Verkehr, kann aber nicht sagen, welche Erweiterung sie aufgebaut hat; das Inventar gehört in die Browser- oder Endgeräteverwaltung. Ab dem Pro-Plan zeigt NetSenX, welche Hosts welche KI-Dienste erreichen und wie viele Daten dorthin gehen.

https://netsenx.com/de/faq/are-ai-browser-extensions-a-security-risk

## Verlangt die KI-Verordnung, dass wir die KI-Nutzung unserer Beschäftigten steuern?

Wenn Ihre Organisation bei der Arbeit KI-Systeme einsetzt, verlangt Art. 4 der KI-Verordnung Maßnahmen zur Förderung der KI-Kompetenz ihres Personals; diese Pflicht gilt seit dem 2. Februar 2025, und seit Juli 2026 stellt der geänderte Text klar, dass nicht für jede Person ein bestimmtes Niveau garantiert werden muss. Zu wissen, welche KI-Dienste tatsächlich genutzt werden, ist ein praktischer erster Schritt; was sonst für Sie gilt, sagt Ihnen Ihre Rechtsberatung.

https://netsenx.com/de/faq/does-the-eu-ai-act-require-us-to-manage-employees-ai-use

## Gilt der AI Act für Unternehmen, die KI-Werkzeuge nur nutzen?

Teilweise ja. Die Verordnung (EU) 2024/1689 gibt nicht nur Anbietern, die KI-Systeme bauen, sondern auch Betreibern Pflichten, also Organisationen, die KI-Systeme bei ihrer Arbeit einsetzen. Seit dem 2. Februar 2025 verlangt Artikel 4 von Anbietern und Betreibern Maßnahmen zur KI-Kompetenz des Personals, das mit KI-Systemen umgeht; in der im Juli 2026 durch die Verordnung (EU) 2026/1744 geänderten Fassung geht es darum, diese Kompetenz zu fördern, ohne bei jeder Person ein bestimmtes Niveau zu garantieren. Die Verbote nach Artikel 5 gelten ebenfalls seit dem 2. Februar 2025. Weitere Pflichten hängen von der Risikokategorie des Systems ab und gelten ab späteren Terminen: Wer ein Hochrisiko-System betreibt, etwa bei Personalauswahl oder Kreditentscheidungen, hat Pflichten zu menschlicher Aufsicht, Überwachung und Protokollen, und manche Einsätze bringen Transparenzpflichten gegenüber den Betroffenen mit sich. Einen allgemeinen Chatbot zum Entwerfen von Texten zu nutzen, liegt am leichten Ende. Ein praktischer Anfang ist eine Übersicht der KI-Systeme, die Sie tatsächlich nutzen, und wofür, danach eine Schulung, die zu dieser Liste passt. Klären Sie die Einzelheiten mit Rechtsberatung, denn Leitlinien werden noch veröffentlicht.

https://netsenx.com/de/faq/does-the-ai-act-apply-if-we-only-use-ai-tools

## Was bedeutet Artikel 4 AI Act (KI-Kompetenz) für die Personalabteilung?

Er bedeutet, dass das Unternehmen Maßnahmen ergreifen muss, die die KI-Kompetenz des Personals fördern, das mit KI-Systemen umgeht, und meist organisiert das die Personalabteilung. Artikel 4 der Verordnung (EU) 2024/1689 gilt seit dem 2. Februar 2025 für Anbieter wie Betreiber und erfasst damit gewöhnliche Unternehmen, die KI-Werkzeuge nutzen; in der im Juli 2026 durch die Verordnung (EU) 2026/1744 geänderten Fassung stellt er klar, dass das Unternehmen nicht für jede Person ein bestimmtes Kompetenzniveau garantieren muss. Gute Maßnahmen berücksichtigen weiterhin technische Kenntnisse, Erfahrung, Ausbildung und Schulung der Menschen sowie den Einsatzkontext der KI-Systeme. Ein Zertifikat, eine feste Stundenzahl oder einen bestimmten Kurs schreibt Artikel 4 nicht vor. Praktische Schritte: Listen Sie die tatsächlich genutzten KI-Systeme und ihre Nutzer auf; legen Sie fest, was jede Gruppe wissen muss, von Grundrisiken und Firmenrichtlinie für alle bis zu vertiefter Schulung für diejenigen, die KI konfigurieren oder sich bei Entscheidungen darauf stützen; dokumentieren Sie einfach, wer wann worin geschult wurde; und wiederholen Sie es, wenn sich Werkzeuge ändern. NetSenX kann beim ersten Schritt helfen: Ab dem Pro-Plan zeigt es, welche KI-Dienste die Geräte des Unternehmens wirklich nutzen.

https://netsenx.com/de/faq/what-does-ai-act-article-4-mean-for-hr

## Welche KI-Werkzeuge sollte unsere Schulung zur KI-Kompetenz abdecken?

Die, die Ihre Leute tatsächlich nutzen, und das ist selten die Liste in der Richtlinie. Beginnen Sie mit einer Bestandsaufnahme: freigegebene Dienste über Firmenkonten, KI-Funktionen in Software, für die Sie schon zahlen, Dienste, die Mitarbeitende mit privaten Konten nutzen, und lokale Modelle auf Entwickler- oder Ingenieursrechnern. Passen Sie die Schulung dann an die Nutzung an. Alle brauchen die Grundlagen: welche Werkzeuge freigegeben sind, welche Daten in kein KI-Werkzeug gehören, warum Antworten falsch sein können und wie man ein Problem meldet. Wer KI mit Kunden- oder personenbezogenen Daten nutzt, in Finanzen, Personal oder Vertrieb, braucht die für ihn geltenden Regeln zu Datenschutz und Vertraulichkeit. Entwickler brauchen den sicheren Umgang mit Coding-Assistenten und Agenten, einschließlich dessen, worauf diese Werkzeuge zugreifen können. Führungskräfte, die sich bei Entscheidungen auf KI-Ergebnisse stützen, müssen deren Grenzen kennen. Schulung zu Werkzeugen, die niemand nutzt, kostet Zeit; die täglich genutzten auszulassen, lässt das echte Risiko unberührt. Ab dem Pro-Plan zeigt NetSenX, welche externen KI-Dienste und lokalen Modell-Laufzeitumgebungen die Geräte des Unternehmens erreichen, damit die Schulungsliste der Wirklichkeit entspricht.

https://netsenx.com/de/faq/which-ai-tools-should-our-ai-literacy-training-cover

## Dürfen wir KI nutzen, um Emotionen oder Stimmung von Mitarbeitenden zu erfassen?

Grundsätzlich nein. Artikel 5 des AI Act, Verordnung (EU) 2024/1689, verbietet das Inverkehrbringen, die Inbetriebnahme und die Verwendung von KI-Systemen zur Ableitung von Emotionen einer natürlichen Person am Arbeitsplatz und in Bildungseinrichtungen, außer wenn das System aus medizinischen Gründen oder Sicherheitsgründen eingesetzt werden soll. Das Verbot gilt seit dem 2. Februar 2025. Es erfasst Werkzeuge, die Emotionen oder Absichten aus Gesicht, Stimme, Tippverhalten oder anderen biometrischen Signalen ablesen, etwa in Callcenter-Software, Zusätzen für Videokonferenzen oder Produktivitätsüberwachung, und die Bußgelder für verbotene Praktiken sind die höchsten im Gesetz. Arbeits- und Datenschutzrecht setzen der Überwachung von Beschäftigten zusätzliche Grenzen. Bevor Sie ein Werkzeug kaufen, das Engagement, Stress oder Stimmung von Mitarbeitenden messen will, fragen Sie den Anbieter schriftlich, welche Daten es nutzt und wie es zu Artikel 5 passt, und beziehen Sie Rechtsberatung und Datenschutzbeauftragten ein. NetSenX tut so etwas nicht: Es überwacht Geräte und Netzverbindungen, nie Menschen, und bewertet keine Personen.

https://netsenx.com/de/faq/can-we-use-ai-to-monitor-employees-emotions

## Wie antworten wir einem Kunden, der fragt, ob wir seine Daten in KI-Werkzeuge geben?

Mit einer konkreten, überprüfbaren Antwort statt einer Beruhigung. Kunden und ihr Einkauf fragen zunehmend, welche KI-Dienste ihre Daten berühren, zu welchen Bedingungen und mit welchen Kontrollen. Eine gute Antwort nennt die freigegebenen KI-Dienste und wie sie vertraglich gebunden sind, etwa Geschäftskonten ohne Training auf Ihren Eingaben, mit Auftragsverarbeitungsvertrag und benannten Verarbeitungsorten; sagt, welche Kundendaten hinein dürfen und welche nicht; beschreibt die Kontrollen wie KI-Richtlinie, Schulung, Zugriffsbeschränkungen und Prüfung der Ergebnisse; und erklärt, wie Sie kontrollieren, dass die Praxis der Richtlinie entspricht. Lautet die ehrliche Antwort heute, dass Sie es nicht wissen, sagen Sie, was Sie tun, um es herauszufinden, und bis wann, statt etwas zu versprechen, das Sie nicht belegen können. Halten Sie die Antwort im Einklang mit Ihren Verträgen und Ihrem Verzeichnis der Verarbeitungstätigkeiten. Ab dem Pro-Plan zeigt NetSenX, welche KI-Dienste die Geräte Ihres Unternehmens tatsächlich erreichen und wie viele Daten jeweils dorthin gehen, sodass die Antwort an den Kunden auf Ihrem eigenen Verkehr beruht statt auf Annahmen; um wessen Daten es ging, zeigt es nicht.

https://netsenx.com/de/faq/how-to-answer-a-client-asking-if-we-put-their-data-into-ai

## Sollte unsere KI-Nutzungsrichtlinie Teil von Kundenverträgen sein?

Oft ja, zumindest als Zusage, auf die sich der Kunde verlassen kann, doch der Vertrag sollte kürzer sein als die Richtlinie. Kunden ergänzen zunehmend Klauseln zu KI: keine Nutzung ihrer Daten zum Training von Modellen, keine Verarbeitung durch KI-Dienste außerhalb vereinbarter Unterauftragsverarbeiter oder Regionen, Offenlegung, wenn Arbeitsergebnisse KI-gestützt entstehen, und Benachrichtigung, falls ihre Daten über ein KI-Werkzeug offengelegt wurden. Statt Ihre ganze interne Richtlinie anzuhängen, die sich oft ändert, verpflichten Sie sich im Vertrag oder im Auftragsverarbeitungsvertrag auf wenige stabile Grundsätze, führen KI-Dienste, die Kundendaten verarbeiten, gegebenenfalls als Unterauftragsverarbeiter auf und verweisen auf die von Ihnen gepflegte Richtlinie. Stellen Sie sicher, dass Sie jedes Versprechen praktisch halten können: Eine Klausel, dass Kundendaten nie in KI-Werkzeuge gelangen, ist wertlos, wenn Mitarbeitende private Chatbot-Konten nutzen und Sie es nicht sehen. Einigen Sie sich, was als KI-gestützte Arbeit gilt, denn die meiste Bürosoftware hat heute KI-Funktionen. Lassen Sie den Wortlaut rechtlich prüfen. Ab dem Pro-Plan zeigt NetSenX, welche KI-Dienste Ihre Geräte tatsächlich erreichen, eine nützliche Prüfung, bevor Sie eine solche Klausel unterschreiben.

https://netsenx.com/de/faq/should-our-ai-policy-be-part-of-customer-contracts

## Wie finde ich lokale KI-Modellserver in unserem Netz?

Suchen Sie nach den Diensten, die lokale Modell-Laufzeitumgebungen öffnen, und nach dem Verkehr um sie herum. Werkzeuge, die Sprachmodelle lokal betreiben, starten meist eine HTTP-API auf einem bekannten Standardport, bieten eine Weboberfläche und laden bei der Einrichtung große Modelldateien von öffentlichen Modell-Plattformen. Drei Prüfungen helfen daher: ein genehmigter Scan interner Bereiche auf die Standardports verbreiteter Laufzeitumgebungen und auf unerwartete Weboberflächen; ein Blick darauf, welche Rechner Dateien mit mehreren Gigabyte aus Modell-Repositories geladen haben; und eine Liste der Hosts mit leistungsstarken GPUs, die die IT oft schon kennt. Fragen Sie dann die Verantwortlichen, wofür jeder Server da ist, wer ihn erreichen kann und welche Daten hineingehen. Viele sind harmlose Experimente; manche stehen ohne Authentisierung dem ganzen Netz offen. NetSenX zeigt ab dem Pro-Plan den Verkehr zu lokal betriebenen Sprachmodell-Laufzeitumgebungen: welcher Host eine betreibt oder aufruft und wie viele Daten fließen, neben externen KI-Diensten. Prompts und Antworten des Modells sieht es nicht.

https://netsenx.com/de/faq/how-to-find-local-ai-model-servers-on-the-network

## Ist ein lokaler KI-Modellserver im Büronetz ein Sicherheitsrisiko?

Er kann es sein, meist durch gewöhnliche Fehlkonfiguration statt durch etwas Exotisches. Daten auf eigener Hardware zu halten, statt sie an einen externen Anbieter zu senden, ist ein echter Vorteil. Die Risiken sind die üblichen eines neuen, ungeplanten Servers: API oder Weboberfläche lauschen oft auf allen Schnittstellen ohne Authentisierung, sodass jeder im Netz das Modell nutzen, den Gesprächsverlauf lesen oder Dateien hochladen kann; der Server läuft mit ungepatchter, sich schnell ändernder Software; von öffentlichen Plattformen geladene Modelldateien können Schadcode enthalten, wenn sie unsichere Formate nutzen; und für die Suche eingespeiste Dokumente sind womöglich für alle lesbar, die den Server erreichen. Behandeln Sie ihn wie jeden internen Dienst: ein benannter Verantwortlicher, Authentisierung, Bindung an localhost oder ein eingeschränktes Segment, Updates, sichere Modellformate aus vertrauenswürdigen Quellen und eine Entscheidung, welche Daten hinein dürfen. Ab dem Pro-Plan zeigt NetSenX, welche Hosts lokale Sprachmodell-Laufzeitumgebungen betreiben oder aufrufen und wie viele Daten fließen, und seine Kernerkennungen melden in jedem Plan Scans oder laterale Bewegung von diesem Host.

https://netsenx.com/de/faq/is-a-local-ai-model-server-a-security-risk

## Was ist das Lieferkettenrisiko bei KI-Modellen?

Es ist das Risiko, dass ein Modell, ein Datensatz oder eine KI-Bibliothek, die Sie herunterladen oder kaufen, kompromittiert, falsch beschrieben oder schlicht nicht das ist, wofür Sie es halten. Öffentliche Modell-Plattformen hosten Hunderttausende Modelle, die jeder hochladen kann. Manche Dateiformate für Modelle können beim Laden Code ausführen, sodass ein bösartiges Modell den Rechner kompromittieren kann, der es öffnet; sicherere Formate gibt es und sie sind vorzuziehen. Ein Modell kann so feinabgestimmt sein, dass es sich normal verhält, außer bei einem versteckten Auslöser, oder mit vergifteten Daten trainiert sein. Namen lassen sich kopieren, damit sie wie das Modell eines bekannten Herausgebers aussehen. Und die Bibliotheken und Plugins rund um Modelle, etwa Laufzeitumgebungen, Konnektoren und Agenten-Frameworks, ändern sich schnell und tragen gewöhnliche Software-Schwachstellen. Praktische Schritte: Beziehen Sie Modelle nur von Herausgebern, die Sie überprüfen können, prüfen Sie Signaturen oder Hashes, wo sie veröffentlicht sind, nutzen Sie sichere Dateiformate, führen Sie neue Modelle zuerst in einer isolierten Umgebung aus, führen Sie ein Inventar der genutzten Modelle und Versionen und patchen Sie die umgebende Software wie jede andere. Ein Netzwerksensor sieht große Modell-Downloads und welche Hosts Modell-Laufzeitumgebungen betreiben; die Gewichte eines Modells kann er nicht prüfen.

https://netsenx.com/de/faq/what-is-ai-model-supply-chain-risk

## Ist KI-generierter Code ein Sicherheitsrisiko?

Er kann es sein, auf dieselbe Weise wie aus dem Internet kopierter Code, nur schneller und in größeren Mengen. Coding-Assistenten erzeugen Code, der plausibel aussieht und meist funktioniert, aber bekannte Schwachstellenmuster enthalten kann, etwa Injection-Lücken, schwache Kryptografie oder fehlende Eingabeprüfungen; der Pakete aufruft, die es nicht gibt und die Angreifer dann unter diesem Namen mit Schadinhalt registrieren; der Code unter einer Lizenz wiedergibt, die Ihr Produkt nicht akzeptieren kann; und der Geheimnisse aus Beispielen einbettet. Die Werkzeuge selbst senden zudem Quellcode als Kontext an den Anbieter, die Wahl von Dienst und Konto zählt also für die Vertraulichkeit. Behandeln Sie KI-Ausgaben wie den Pull Request eines Junior-Kollegen: dasselbe Code-Review, automatisierte Sicherheitstests, Abhängigkeits- und Lizenzscans und Secret-Erkennung in der Pipeline, und die Verantwortung bleibt beim Entwickler. Legen Sie fest, welche Repositories mit welchem Assistenten geteilt werden dürfen. Ab dem Pro-Plan zeigt NetSenX, welche Entwicklerrechner und Build-Server Daten an welche KI-Dienste senden und wie viel; die Qualität des Codes kann es nicht beurteilen.

https://netsenx.com/de/faq/is-ai-generated-code-a-security-risk

## Was ist Prompt Injection?

Prompt Injection ist ein Angriff, bei dem Text, den ein KI-System liest, so geschrieben ist, dass es seine Anweisungen ignoriert und etwas anderes tut. Direkte Injection kommt vom Nutzer, der sie eintippt. Indirekte Injection ist für Unternehmen die ernstere Form: Die Anweisung versteckt sich in Inhalten, die die KI für jemanden verarbeitet, etwa einer Webseite, einer E-Mail, einem geteilten Dokument oder einem Support-Ticket, und das Modell befolgt sie, als käme sie vom Betreiber. Kann die KI nur in einem Chatfenster antworten, beschränkt sich der Schaden auf eine falsche oder peinliche Antwort. Kann sie ein Postfach lesen, Werkzeuge aufrufen, eine Datenbank abfragen oder im Web surfen, kann eine eingeschleuste Anweisung sie dazu bringen, Daten preiszugeben oder Aktionen auszuführen. Eine vollständige Lösung gibt es heute nicht, weil Modelle Anweisungen und Daten nicht zuverlässig trennen. Was hilft: KI-Werkzeugen so wenige Rechte wie möglich geben, für folgenreiche Aktionen eine menschliche Freigabe verlangen, sensible Systeme außer Reichweite von Agenten halten, die nicht vertrauenswürdige Inhalte lesen, und protokollieren, was die KI getan hat. OWASP führt Prompt Injection als erstes Risiko für Anwendungen mit großen Sprachmodellen (LLM).

https://netsenx.com/de/faq/what-is-prompt-injection

## Was ist die OWASP Top 10 für LLM-Anwendungen?

Es ist eine Liste der wichtigsten Sicherheitsrisiken für Anwendungen auf Basis großer Sprachmodelle (LLM), herausgegeben vom Open Worldwide Application Security Project (OWASP), der Gemeinschaft hinter der bekannten Top 10 für Webanwendungen. Die Ausgabe 2025 nennt Prompt Injection, Offenlegung sensibler Informationen, Lieferkettenrisiken, Vergiftung von Daten und Modellen, unsachgemäße Behandlung von Ausgaben, übermäßige Handlungsbefugnis, Preisgabe des System-Prompts, Schwächen von Vektordatenbanken und Embeddings, Fehlinformation und unbegrenzten Ressourcenverbrauch. Für ein Unternehmen, das KI-Werkzeuge nur nutzt, zählen drei Punkte am meisten: die Offenlegung sensibler Informationen, also das Problem der Schatten-KI; übermäßige Handlungsbefugnis, also KI-Agenten mit mehr Rechten als nötig; und Prompt Injection, die jedes Dokument und jede Webseite, die ein Agent liest, zu einem möglichen Angriff macht. Für ein Unternehmen, das KI-Funktionen in sein eigenes Produkt einbaut, ist die ganze Liste eine sinnvolle Checkliste für Design-Reviews und Tests und ein gemeinsames Vokabular für Sicherheitsfragebögen von Kunden. Sie ist eine Orientierung, keine Norm und keine Zertifizierung.

https://netsenx.com/de/faq/what-is-the-owasp-top-10-for-llm-applications

## Wie schützen wir vertrauliche Daten beim produktiven Einsatz von LLMs?

Gestalten Sie es so, dass das Modell nur sieht, was die Aufgabe braucht, und gehen Sie davon aus, dass alles, was es sieht, wieder herauskommen kann. Konkret: Wählen Sie eine Bereitstellung mit Vertragsbedingungen, die zu Ihren Daten passen, etwa eine Enterprise-API ohne Training auf Eingaben, mit festgelegter Aufbewahrung und, wo nötig, Verarbeitung in der EU, oder ein selbst gehostetes Modell; minimieren und pseudonymisieren Sie, was in Prompts geht; setzen Sie in Retrieval-Systemen die Zugriffsrechte des Nutzers auf die Dokumente durch, die das Modell abrufen darf, damit es keine Dateien zusammenfasst, die der Nutzer nicht öffnen darf; halten Sie Geheimnisse, Schlüssel und Systemzugangsdaten aus Prompts und Kontext heraus; filtern Sie Ausgaben auf personenbezogene Daten und Geheimnisse, bevor sie Nutzer oder Logs erreichen; begrenzen Sie die Werkzeuge, die das Modell aufrufen darf, und verlangen Sie Freigaben für Aktionen; und protokollieren Sie Prompts und Antworten geschützt für Untersuchungen, mit passender Aufbewahrung. Testen Sie vor dem Start und nach jeder Änderung gegen Prompt Injection und Versuche, Daten zu extrahieren. Ab dem Pro-Plan zeigt NetSenX, welche Server Daten an welche externen KI-Dienste senden und wie viel, was hilft zu bestätigen, dass produktiver Verkehr nur dorthin geht, wo das Design es vorsieht.

https://netsenx.com/de/faq/how-to-protect-confidential-data-when-using-llms-in-production

## Was ist das Model Context Protocol (MCP)?

Das Model Context Protocol (MCP) ist ein offenes Protokoll, das Anthropic im November 2024 vorgestellt hat und das seitdem breit übernommen wurde; es lässt KI-Assistenten und Agenten auf standardisierte Weise mit Werkzeugen und Datenquellen verbinden. Ein MCP-Server stellt Fähigkeiten bereit, etwa Dateien lesen, eine Datenbank abfragen, ein Ticketsystem durchsuchen oder Nachrichten senden, und ein KI-Client ruft sie auf, wenn eine Aufgabe sie braucht. Das macht KI viel nützlicher, macht aber jeden MCP-Server auch zu einem Tor: Was er erreichen kann, kann die KI erreichen, mit den Rechten des Kontos dahinter. Die Sicherheitsfragen folgen direkt. Wer hat den Server installiert und woher? Welche Zugangsdaten hält er, und wie weit reichen sie? Läuft er lokal auf einem Laptop oder als entfernter Dienst? Verlangt er eine Freigabe, bevor er handelt? Wird er protokolliert? Behandeln Sie MCP-Server als Software mit privilegiertem Zugriff: freigeben, ihre Tokens eng zuschneiden, aktuell halten und Server verifizierter Herausgeber bevorzugen. Ein Netzwerksensor sieht entfernte MCP-Server als Verbindungen zu ihren Hosts; lokale auf einem Laptop bleiben außerhalb seiner Sicht.

https://netsenx.com/de/faq/what-is-the-model-context-protocol

## Was ist ein Schatten-MCP-Server, und warum ist er ein Risiko?

Ein Schatten-MCP-Server ist ein Model-Context-Protocol-Server, den jemand ohne Wissen der IT an einen KI-Assistenten angeschlossen hat, meist um Zeit zu sparen: ein Konnektor zum Firmenpostfach, zu einer Dateifreigabe, einem Code-Repository, einer Datenbank oder einem Ticketsystem, aus einem öffentlichen Verzeichnis installiert oder an einem Nachmittag selbst geschrieben. Das Risiko: Er schafft still einen neuen Zugriffsweg. Oft hält er ein persönliches Zugriffstoken oder einen API-Schlüssel mit weitreichenden Rechten, gespeichert in einer Konfigurationsdatei auf einem Laptop; er stammt womöglich von einem unbekannten Autor und aktualisiert sich selbst; er lässt die KI mit den Rechten dieser Person in Firmensystemen handeln; und alles, was die KI liest, auch eine in einem Dokument oder einer Webseite versteckte bösartige Anweisung, kann steuern, was sie über diesen Konnektor tut. Niemand prüft oder protokolliert ihn, und er überdauert das Ausscheiden der Person, wenn das Token nicht widerrufen wird. Praktische Schritte: eine Liste freigegebener MCP-Server veröffentlichen, Tokens eng zuschneiden und rotieren, in den Logs des Identitätsanbieters nach neuen OAuth-Freigaben für KI-Clients sehen und Konnektoren in den Austrittsprozess aufnehmen. Ein Netzwerksensor sieht Verbindungen eines Laptops zu entfernten Diensten, nicht die MCP-Konfiguration darauf.

https://netsenx.com/de/faq/what-is-a-shadow-mcp-server

## Wie finde ich KI-Agenten, die in unserem Unternehmen laufen?

Suchen Sie dort, woher Agenten ihre Macht beziehen: bei Identitäten, Konnektoren und Automatisierungsplattformen, und bestätigen Sie es dann mit Netzverkehr. Ein KI-Agent ist Software, die mit einem Sprachmodell über Schritte entscheidet und sie ausführt, etwa Tickets lesen, Systeme abfragen, Code schreiben oder E-Mails senden, meist über API-Schlüssel, Dienstkonten oder OAuth-Freigaben. Die besten ersten Quellen sind daher Ihr Identitätsanbieter und die Admin-Konsolen Ihrer SaaS-Dienste: neue OAuth-Anwendungen mit weiten Berechtigungen, kürzlich angelegte Dienstkonten oder persönliche Tokens und KI-Funktionen mit eingeschalteten Konnektoren. Prüfen Sie dann Automatisierungs- und Low-Code-Plattformen, CI-Pipelines und Entwicklerrechner auf Agenten-Frameworks und MCP-Server und fragen Sie Teams direkt, denn viele Agenten sind Pilotprojekte, die niemand gemeldet hat. Das Netz ergänzt die Verhaltenssicht: welche Server oder Arbeitsplätze regelmäßig, nachts oder in Schüben KI-APIs aufrufen und welche zugleich interne Systeme erreichen. Ab dem Pro-Plan zeigt NetSenX, welche Hosts mit welchen externen KI-Diensten und lokalen Modell-Laufzeitumgebungen sprechen und wie viele Daten fließen. Einen Agenten erkennt es nicht beim Namen, und agentenspezifische Verhaltenssignale sind noch keine Alarme.

https://netsenx.com/de/faq/how-to-discover-ai-agents-running-in-our-company

## Sollten KI-Agenten wie privilegierte automatisierte Nutzer behandelt werden?

Ja, und meist mit strengeren Kontrollen als ein Mensch mit denselben Rechten. Ein Agent handelt in Maschinengeschwindigkeit, wird weder müde noch misstrauisch, lässt sich durch gelesenen Text steuern und läuft oft mit einem Token, das nie abläuft. Geben Sie daher jedem Agenten eine eigene Identität statt eines Personenkontos, vergeben Sie nur die Rechte, die die Aufgabe braucht, bevorzugen Sie Lesezugriff, trennen Sie Umgebungen, damit ein Test-Agent die Produktion nicht berührt, verlangen Sie menschliche Freigaben für Zahlungen, Löschungen, externe Nachrichten und Rechteänderungen, setzen Sie Ablauf und Rotation für seine Zugangsdaten und protokollieren Sie jede Aktion an einem Ort, den er nicht verändern kann. Prüfen Sie Agenten in denselben Zugriffsreviews wie Dienstkonten und nehmen Sie sie in den Austrittsprozess auf. Der Preis des Weglassens ist konkret: Der Cost of a Data Breach Report 2025 von IBM ergab, dass 13 % der Organisationen Verletzungen von KI-Modellen oder -Anwendungen meldeten und 97 % davon angaben, keine angemessenen KI-Zugriffskontrollen zu haben. Auf der Netzseite erkennt NetSenX in jedem Plan das Verhalten, das eine missbrauchte Identität zeigt, etwa laterale Bewegung und ungewöhnliche Uploads, von dem Host, auf dem der Agent läuft.

https://netsenx.com/de/faq/should-ai-agents-be-treated-as-privileged-users

## Kann ein KI-Agent mit zu vielen Rechten Kundendaten preisgeben?

Ja, und ohne dass es jemand beabsichtigt. Ein Agent mit Zugriff auf CRM, Postfach oder ein geteiltes Laufwerk kann gebeten oder durch eine in einem gelesenen Dokument, einer E-Mail oder Webseite versteckte Anweisung dazu gebracht werden, Daten weit über seine Aufgabe hinaus zusammenzufassen, weiterzuleiten oder hochzuladen. Typische Wege sind ein Agent, der externe Nachrichten beantwortet und interne Daten in die Antwort packt, ein Agent, der E-Mails senden oder in externe Dienste schreiben kann, ein Coding-Agent, der Code mit eingebetteten Geheimnissen in ein öffentliches Repository schiebt, und ein Agent, dessen Logs oder Gedächtnis Kundendaten dort aufbewahren, wo niemand sie erwartet. Die Abhilfe ist der Zuschnitt: nur die Daten, die die Aufgabe braucht, keine ausgehenden Kanäle, wenn nicht nötig, menschliche Freigabe, bevor etwas das Unternehmen verlässt, und Trennung zwischen Agenten, die nicht vertrauenswürdige Inhalte lesen, und solchen mit sensiblem Zugriff. Testen Sie diese Wege vor dem Start. In jedem Plan erkennt NetSenX ungewöhnliches ausgehendes Datenvolumen eines Hosts, egal welcher Prozess es verursacht, und ab dem Pro-Plan zeigt es, mit welchen KI-Diensten der Host spricht; was der Agent gesendet hat, sieht es nicht.

https://netsenx.com/de/faq/can-an-over-permissioned-ai-agent-leak-customer-data

## Kann Netzwerküberwachung einen fehlgeleiteten KI-Agenten erkennen?

Heute teilweise, und NetSenX sagt deutlich, welchen Teil. Was aktiv ist: ab dem Pro-Plan der Verkehr eines Hosts zu externen KI-Diensten und zu lokal betriebenen Sprachmodell-Laufzeitumgebungen, mit Zeitpunkt und Volumen; und in jedem Plan die Verhaltensweisen, die ein missbrauchter Agent mit jedem kompromittierten Host teilt, etwa das Erreichen vieler interner Systeme, die er nie genutzt hat, Scans, regelmäßige Rückmeldungen an einen unbekannten Server und ungewöhnliches ausgehendes Datenvolumen. Was nicht aktiv ist: Signale, die gezielt auf Agenten abstellen, etwa Aktionen in Maschinentempo direkt nach einem Sprachmodell-Aufruf oder eine erste Verbindung zu einem neuen Ziel nach einer Modellantwort. NetSenX misst diese im Schattenmodus, ohne Alarme, bis sie verlässlich genug sind, um nützlich zu sein; sie sollten weder als Erkennung dargestellt noch als solche genutzt werden. Die stärkeren Kontrollen liegen woanders: enge Rechte, menschliche Freigabe folgenreicher Aktionen und die eigenen Aktionsprotokolle des Agenten. Welche Anweisung den Agenten handeln ließ, sieht ein Netzwerksensor zudem nie.

https://netsenx.com/de/faq/can-network-monitoring-detect-a-misbehaving-ai-agent

## Wie nutzen Angreifer KI gegen Unternehmen wie unseres?

Vor allem, um bekannte Angriffe schneller, billiger und sprachlich besser auszuführen, nicht um neue zu erfinden. Phishing-Mails verraten sich nicht mehr durch holprige Grammatik und lassen sich in Minuten aus öffentlichen Informationen auf Ihr Unternehmen zuschneiden. Stimmklone und Deepfake-Videos machen gefälschte Anrufe einer Führungskraft oder eines Lieferanten überzeugender. Angreifer nutzen KI, um Skripte zu schreiben und abzuwandeln, Ziele auszukundschaften und gestohlene Daten schnell zu sortieren. Das verändert die Verteidigung auf zweierlei Weise. Kontrollen, die darauf setzten, schlechte Sprache oder einen seltsamen Ton zu bemerken, verlieren an Wert; Abläufe dürfen also nicht davon abhängen, eine Fälschung zu erkennen: Bestätigen Sie Änderungen von Zahlungsdaten über einen bekannten Kanal, nutzen Sie phishing-resistente Mehr-Faktor-Authentisierung und begrenzen Sie, was ein einzelnes gestohlenes Konto erreicht. Und die Schritte nach dem ersten Brückenkopf sehen im Netz gleich aus, egal wer oder was die Werkzeuge geschrieben hat: ein Gerät, das sich bei einem unbekannten Server meldet, Scans, laterale Bewegung und abfließende Daten. NetSenX erkennt dieses Verhalten in jedem Plan, auch im Free-Plan, ohne die Schadsoftware oder die Nachricht erkennen zu müssen, mit der alles begann.

https://netsenx.com/de/faq/how-do-attackers-use-ai-against-companies

## Kann ein Deepfake-Anruf oder -Video unsere Finanzabteilung zu einer Zahlung bringen?

Ja, und die Abwehr ist ein Prozess, keine Technik. Mit wenigen Minuten öffentlichem Audio- oder Videomaterial kann ein Angreifer Stimme und Gesicht einer Führungskraft oder eines Lieferanten so gut nachahmen, dass es am Telefon oder im Videocall durchgeht, besonders unter Zeitdruck. Anfang 2024 beschrieb die Polizei in Hongkong einen Fall, in dem ein Mitarbeiter eines multinationalen Unternehmens nach einer Videokonferenz hohe Summen überwies, in der die anderen Teilnehmer, darunter ein leitender Manager, Deepfakes waren. Schutz: eine Regel, dass keine Zahlung, keine Änderung der Bankverbindung und keine eilige Überweisung allein auf einen Anruf oder eine Nachricht hin freigegeben wird; Bestätigung über einen getrennten, bereits bekannten Kanal, etwa einen Rückruf an die hinterlegte Nummer, nie an die in der Anfrage genannte; zwei Personen für Zahlungen über einem Schwellenwert; auf Wunsch ein Codewort für echte Eilfälle; und Mitarbeitende, die wissen, dass man sie unterstützt, wenn sie eine Zahlung bremsen. Kein Netzwerksensor kann eine echte Stimme von einer gefälschten unterscheiden. NetSenX ist hier nicht die Antwort: Es analysiert weder Anrufe noch Videos und sieht keine Zahlungsanweisungen.

https://netsenx.com/de/faq/can-a-deepfake-call-trick-our-finance-team

FAQ: https://netsenx.com/de/faq