KI anonymisiert sensible Daten
Nachts um zwei fällt ein Server aus. Ein KI-Assistent könnte in den Logdateien in Minuten finden, woran es liegt. Doch dort stehen IP-Adressen, IDs, Dateipfade und Servernamen, und die dürfen nach DSGVO nicht einfach an eine KI gehen. In einem Team aus fünf Studierenden der TU Darmstadt haben wir für ING Deutschland eine Lösung gebaut, die diese Angaben vorher automatisch unkenntlich macht.
Schnelle Fehlersuche mit KI und Datenschutz stehen sich im Weg.
Eine Pipeline erkennt sensible Stellen und ersetzt sie durch Platzhalter. Danach dürfen die Logs zur KI.
Ein Serverlog kurz vor dem Ausfall. Klicken Sie auf „Anonymisieren“.
Vereinfachte Veranschaulichung mit erfundenen Beispieldaten. Das echte System verarbeitet ganze Logdateien in Teilstücken.
- KI nutzen, ohne Daten preiszugebenDasselbe Prinzip schützt auch Kundendaten in E-Mails oder Dokumenten, bevor sie an ChatGPT & Co. gehen.
- Regeln, wo möglich, KI, wo nötigFeste Regeln sind bei klaren Mustern zuverlässiger, ein KI-Modell fängt den Rest. So baue ich bis heute.
- Bleibt im HausDie Lösung basiert auf Open-Source-Software und läuft lokal, ohne Daten an Dritte zu schicken.
- Pipeline mit Microsoft Presidio: erst sensible Stellen erkennen, dann ersetzen
- Eigenes spaCy-Sprachmodell, trainiert mit selbst beschrifteten Serverlogs
- Regeln (Regex) für feste Muster wie IP-Adressen, das KI-Modell für Pfade und Namen
- Werkzeug, das ganze Logdateien in drei Klicks anonymisiert, auch sehr große
- Meine Rolle: Entwickler im fünfköpfigen Team, April bis August 2024
