Datenabfluss bei KI-Nutzung verhindern: Wie Sie sensible Daten vor der Übermittlung schützen

Sensible Daten fließen bei der KI-Nutzung selten aus böser Absicht ab. Häufig fehlt schlicht ein kontrollierter Weg vom Prompt zum Modell. Enthält eine Anfrage Vertragsklauseln, personenbezogene Daten, Kundennummern, Quellcode oder interne Berichte und wird ungeprüft an einen externen KI-Dienst gesendet, verlässt sie den eigenen Kontrollbereich.

Appelle an die Angestellten und Richtlinien allein lösen dieses Problem nicht. Wer den Abfluss sensibler Daten verhindern will, muss den technischen Übergabepunkt kontrollieren; also den Moment, in dem ein Prompt die Organisation verlässt und an ein externes Modell übergeben wird.

In vielen Organisationen gibt es keinen einheitlichen Weg zu KI-Modellen. Persönliche Accounts, Browser-Erweiterungen, einzelne Abteilungslizenzen und nicht freigegebene Tools erzeugen parallele Datenpfade.

Solche unkontrollierten Ausgänge waren schon zuvor ein Problem. Generative KI verschärft es jedoch noch: Der unmittelbare Nutzen ist hoch, die Nutzungshürde niedrig, und Prompts enthalten häufig ganze Dokumente, interne Analysen, Code-Fragmente oder Vertragsauszüge. Dadurch steigt die Wahrscheinlichkeit, dass sensible Informationen in größerem Umfang an nicht freigegebene Dienste übertragen werden. Für IT-, Security- und Datenschutzverantwortliche wird damit noch schwerer nachvollziehbar, welche Informationen wann und wohin gehen.

Ein zentraler KI-Zugang schafft hier einen definierten Kontrollpunkt. Jede Anfrage läuft über einen festgelegten Endpoint, an dem Sicherheits-, Datenschutz- und Routing-Regeln einheitlich greifen und technisch durchgesetzt werden – bevor ein Prompt ein externes oder internes Modell erreicht. So wird aus vielen unbewachten Ausgängen ein kontrollierter Datenpfad.

Der Schutz sensibler Daten beginnt vor der Modellübermittlung. Geben Nutzende einen Prompt mit personenbezogenen oder vertraulichen Informationen ein oder laden ein entsprechendes Dokument hoch, sollten mehrere Prüfschritte automatisch greifen.

• Erkennung: Detektoren identifizieren sensible Inhalte wie Namen, E-Mail-Adressen, Telefonnummern, Kundennummern, Vertragsdaten, Zugangsinformationen oder andere definierte Datenklassen. Die Prüfung sollte neben dem Prompt selbst auch eingefügte Passagen, hochgeladene Dokumente, Code-Fragmente und weitere Kontextdaten umfassen.

• Maskierung und Tokenisierung: Personenbezogene oder vertrauliche Angaben werden vor der Übermittlung ersetzt. Idealerweise zeigt eine Vorschau direkt im Eingabefluss, welche Inhalte maskiert werden. Nutzende können so vor dem Absenden prüfen, ob sensible Informationen korrekt erkannt wurden, und die Eingabe bei Bedarf anpassen. Das Modell erhält nur einen bereinigten Text mit Platzhaltern. Die Klarwerte bleiben im kontrollierten Bereich und werden getrennt vom Modellzugriff lokal verwaltet.

• Rückübersetzung: Wenn die Antwort an berechtigte Nutzende zurückgegeben wird, können die Platzhalter wieder durch die ursprünglichen Werte ersetzt werden, ohne dass das Modell diese Werte verarbeitet hat.

• Policy-Prüfung: Weitere Guardrails prüfen Prompts anhand definierter Regeln, etwa über Regex, Keywords, Sprachrestriktionen, Datenklassifikationen oder Jailbreak-Erkennung.

• Ausgabeprüfung: Auch Modellantworten können vor der Anzeige kontrolliert werden, etwa auf unerwünschte Inhalte, sensible Datenrückgaben oder Verstöße gegen interne Richtlinien.

Damit verlassen nur bereinigte Eingaben die Organisation. Je nach Policy wird der Inhalt in Prompts und Kontextdaten maskiert, blockiert, umgeleitet oder nur für bestimmte Modelle freigegeben. Das unterbindet den Abfluss sensibler Daten bereits an der Quelle.

Maskierung und Tokenisierung sind nicht für jeden Anwendungsfall die beste Lösung. Manchmal müssen Daten unmaskiert im Klartext verarbeitet werden, etwa wenn Verträge, Kundenvorgänge oder interne Dokumente mit konkreten Namen, Zahlen und Bezügen analysiert werden sollen.

Dann ist entscheidend, wo und durch wen diese sensiblen Daten verarbeitet werden. Je nach Schutzbedarf dürfen Klarwerte die Organisation bzw. den EU-Rechtsraum nicht verlassen oder aus regulatorischen Gründen nur an vertraglich gebundene Auftragsverarbeiter aus der EU übergeben werden.

Hier greift Modell-Routing: Sensible Anfragen werden nur an freigegebene Zielsysteme geleitet, etwa Open-Weight-Modelle auf lokaler Infrastruktur oder europäisch betriebene Modelle. Weniger kritische Anfragen können weiterhin an andere externe Modelle gehen.

Das Routing entscheidet somit, welches Modell welche Daten sehen darf. Der Datenpfad bleibt konfiguriert, nachvollziehbar und prüfbar.

Für Aufsicht, Auditoren und interne Security-Teams muss der Schutz sensibler Daten revisionssicher nachweisbar sein.

Ein zentraler KI-Zugang kann die dafür erforderlichen Audit-Informationen erfassen, etwa:

• Zeitpunkt der Anfrage

• Nutzer-, Rollen- oder Mandantenbezug

• verwendetes Modell

• angewendete Policy

• Routing-Entscheidung

• erkannte sensible Datenklassen

• blockierte oder bereinigte Inhalte

• Policy-Verstöße und Freigabeentscheidungen

So entstehen Nachweise für Datenschutz-, Security- und Audit-Dokumentation – etwa für technische und organisatorische Maßnahmen, interne Kontrollen, Risikobewertungen und die Dokumentation von Verarbeitungstätigkeiten. Werden die Ereignisse zusätzlich an bestehende SIEM-, Monitoring- oder Reporting-Systeme übergeben, bleibt der KI-Datenpfad auch in der Betriebsrealität sichtbar und rechtssichere Compliance belegbar.

Ein kontrollierter Zugang zu KI schützt jedoch wenig, wenn daneben weiterhin zahlreiche unkontrollierte Wege offen bleiben. Sichere KI-Nutzung ist deshalb nicht nur eine Frage der technischen Kontrolle, sondern auch der Akzeptanz.

Der genehmigte Weg muss für Mitarbeitende praktikabel sein: leicht erreichbar, leistungsfähig und nah an den Arbeitsweisen, die sie bereits kennen. Dazu gehören etwa ein zentrales Chat-Interface, gemeinsame Projekte, Teamfunktionen und klare Freigabeprozesse für unterschiedliche Anwendungsfälle.

Gleichzeitig braucht es Governance im Hintergrund: Single Sign-on (SSO), rollenbasierte Zugriffe (RBAC), Mandantenmanagement, Modellfreigaben, Richtlinien für nicht genehmigte KI-Dienste und klare Zuständigkeiten. Nur wenn Sicherheit und Usability zusammenkommen, wird der kontrollierte Weg zur ersten Wahl und inoffizielle Kanäle verlieren an Attraktivität.

Eine geeignete Lösung für sichere KI-Nutzung sollte mehrere Anforderungen zusammenführen:

• Zentraler Zugang: Alle KI-Anfragen laufen über einen definierten technischen Kontrollpunkt.

• PII-Erkennung und Maskierung: Sensible Daten werden vor der Modellübermittlung erkannt, maskiert und kontrolliert verwaltet.

• Konfigurierbare Guardrails: Richtlinien lassen sich nach Datenart, Rolle, Modell, Region und Anwendungsfall durchsetzen.

• Routing nach Modell und Region: Anfragen werden gezielt an geeignete Modelle und Betriebsorte weitergeleitet.

• Auditierbarkeit: Informationen wie Datenpfade, Routing-Entscheidungen und Richtlinienverstöße sind revisionssicher dokumentiert.

• Integration: Ereignisse lassen sich in bestehende Security-, Monitoring- und Compliance-Prozesse einbinden.

• Usability: Die Lösung ist für alle Mitarbeitenden einfach nutzbar und für die Organisation zentral steuerbar.

• Vertrauenswürdiger Betrieb: Anbieter, Infrastruktur, Zertifizierungen und rechtliche Rahmenbedingungen passen zu den eigenen Compliance-Anforderungen.

Erst das Zusammenspiel dieser Punkte macht aus KI-Nutzung einen kontrollierten, prüfbaren und breit nutzbaren Prozess.

Myra AI Workspace setzt diesen Ansatz als zentralen, kontrollierten Zugang zu KI-Modellen um. Es verbindet PII-Erkennung und reversible Tokenisierung, konfigurierbare Guardrails, Modell-Routing, rollenbasierte Zugriffssteuerung, Mandantenmanagement und Audit-Informationen in einem einheitlichen Datenpfad.

So lassen sich sensible Inhalte vor der Übermittlung an eine kuratierte Auswahl führender KI-Modelle maskieren, Anfragen gezielt auf freigegebene Modelle routen und KI-Nutzung für Security-, Datenschutz- und Compliance-Teams nachvollziehbar machen. Ereignisse können an bestehende Betriebs- und Sicherheitssysteme angebunden werden, damit KI-Aktivitäten nicht isoliert neben der übrigen IT-Landschaft stehen.

Myra betreibt AI Workspace auf eigener EU-Infrastruktur – als deutsches Unternehmen mit 100 % EU-Gesellschafterstruktur, ohne US-Mutterkonzern und ohne CLOUD-Act-Exposition. Myra ist BSI-qualifiziert für KRITIS-Betreiber und nach ISO 27001 auf Basis von BSI IT-Grundschutz, BSI C5 Typ 2, PCI DSS und weiteren Standards zertifiziert. Zu den Organisationen, die auf die Infrastruktur von Myra vertrauen, zählen unter anderem die Deutsche Kreditbank (DKB), 1&1 Versatel, Aleph Alpha, die Münchner Sicherheitskonferenz (MSC) und Edeka.

Sprechen Sie mit unserem Vertrieb und erfahren Sie, wie PII-Erkennung, Maskierung, Modell-Routing und Audit-Informationen in einem kontrollierten KI-Datenpfad zusammenspielen, um Ihre sensiblen Daten zu schützen.