Ethical Walls in Legal-AI-Systemen
Legal KI wird leistungsfähig, wenn sie Dokumente, Präzedenzfälle und Kanzleiwissen zuverlässig durchsuchen kann. Diese Leistungsfähigkeit macht zugleich robuste Konfliktkontrollen unverzichtbar. Berufsrechtliche Leitlinien zu generativer KI stellen Vertraulichkeit und Aufsicht in den Mittelpunkt einer sicheren Einführung (1). Eine Plattform, die breit abruft, muss deshalb klare Retrieval-Grenzen durchsetzen.
KI verändert die Form des Konfliktrisikos
Traditionelle Dokumentsysteme offenbaren Risiko oft dateiweise. KI-Suche kann Muster über viele Dateien hinweg aufdecken. Eine einzige breit formulierte Anfrage kann Fakten, Strategie oder Formulierungen aus einem Mandat abrufen, das die zuständige Person nicht sehen darf. Die Nutzerin oder der Nutzer hat diese Grenze oft nicht aktiv überschritten, aber das System kann sie technisch ermöglichen.
Deshalb muss die Zugriffskontrolle in Legal KI mehr leisten als der Dokumentenviewer. Sie muss für Suche, Retrieval, Zusammenfassungen, Dokumentenchat, generierte Antworten, Exporte und Audit-Prüfung durchgängig gelten.
Berechtigungen allein genügen nicht
Viele Systeme modellieren Zugriff als reine Berechtigung: Wer zur richtigen Gruppe gehört, darf auf die Datei zugreifen. Ethical Walls verlangen dagegen eine explizite Verweigerung. Eine Partnerin oder ein Partner kann Zugriff auf das Repository einer Praxisgruppe haben und trotzdem für ein bestimmtes Mandat ausgeschlossen werden, etwa wegen eines Konflikts, einer Vertraulichkeitsanordnung, eines Kanzleiwechsels oder einer Mandantenanordnung.
In Legal KI sollten Verweigerungsregeln breitere Berechtigungen überstimmen. Dieses Prinzip muss im Berechtigungsmodell sichtbar sein, in der Einführung getestet werden und von Administratorinnen und Administratoren verstanden werden.
Abgeleitete Daten müssen dieselbe Wall respektieren
Wird ein Dokument durch KI verarbeitet, entstehen extrahierter Text, Metadaten, Chunks, Embeddings, Zusammenfassungen und generierte Antworten. Sind diese abgeleiteten Daten durchschaubar, müssen sie dieselben Walls wie das Originaldokument einhalten, denn Datenschutz- und Vertraulichkeitspflichten enden nicht bei der Originaldatei (2).
Andernfalls entsteht ein falscher Sicherheitseindruck: Die Originaldatei ist gesperrt, aber der Inhalt kann weiterhin über semantische Suche oder eine generierte Zusammenfassung erscheinen. Für Konfliktteams bleiben abgeleitete Daten weiterhin Mandatsinformation.
Der minimale Kontroll-Stack
- Authentifizierung: Nutzer und Sitzung verifizieren, bevor ein Workflow beginnt.
- Tenant-Isolation: Verhindert, dass ein Mandant oder Standort die Daten eines anderen einsehen kann.
- Rollenbasierte Berechtigungen: Begrenzen Aktionen nach Rolle, Seniorität, Team oder Funktion.
- Mandatszugriff: Beschränkt Inhalte auf Personen, die dem relevanten Mandat oder Workspace zugewiesen sind.
- Explizite Verweigerungsregeln: Setzen Konfliktscreens, Ethical Walls, Vertraulichkeitsbeschränkungen und Sonderbehandlungen konsequent durch.
- Audit-Logs: Erfassen Zugriffe, Verweigerungen, Exporte, Rollenänderungen, Wall-Änderungen und administrative Aktionen.
Suche braucht echte, nicht nur theoretische Zugriffssteuerung
Bevor KI Material abruft, muss geprüft werden, was die Nutzerin oder der Nutzer in diesem Moment tatsächlich sehen darf. Dazu gehören Rollen, Mandatszugehörigkeit, Wall-Beschränkungen, Dokumentstatus sowie aktive Holds und Sonderanweisungen.
Effektive Berechtigung ändert sich zudem im Zeitverlauf. Eine Person kann einem Mandat hinzugefügt oder entzogen werden, ein Team wechseln, durch eine neue Konfliktanordnung gesperrt werden oder den Standort wechseln. Legal-AI-Systeme sollten Berechtigungen als fortlaufende Kontrollen behandeln, nicht als statische Ingest-Metadaten.
Audit-Logs unterstützen Aufsicht und Vertrauen
Audit-Logs sind nicht nur für Incident-Response relevant. Sie helfen Administratorinnen und Administratoren zu bestätigen, dass Zugriffsrichtlinien funktionieren, die Einführung nachzuvollziehen, ungewöhnliches Verhalten zu untersuchen, Mandantenfragen fundiert zu beantworten und Schulungsbedarf zu erkennen. Anbieter- und Sicherheitsleitlinien sehen laufende Aufsicht ebenfalls als Teil eines reifen Kontrollmodells an (3).
Nützliche Logs liefern belastbare Nachweise: Wer hat gesucht, welches Mandat oder welche Sammlung war betroffen, wurde Zugriff gewährt oder verweigert, wurden Inhalte exportiert, wer hat relevante Berechtigungen geändert? Gleichzeitig müssen Logs unnötig sensible Inhalte vermeiden und dennoch genügend Detailtiefe für eine wirksame Aufsicht behalten.
Der operative Prozess bleibt entscheidend
Technologie kann einen schwach aufgesetzten Konfliktprozess nicht kompensieren. Kanzleien sollten Legal-AI-Berechtigungen mit Mandatseröffnung, Konfliktprüfungen, Teamwechseln, Abordnungen, Mandatsende und mandantenspezifischen Beschränkungen verbinden. Wird im Konfliktprozess eine Wall gesetzt, muss der Arbeitsbereich diese vor der Suche abbilden, bevor Dokumente suchbar sind.
Auch die Schulung ist zentral. Nutzerinnen und Nutzer sollten verstehen, dass KI über breiten Wortlaut breites Material abrufen kann und dass Vertraulichkeits- und Konfliktpflichten auch dann gelten, wenn die Oberfläche dialogorientiert wirkt.
Eine Umsetzungs-Checkliste
- Kann das System explizite Verweigerungsregeln setzen, die breit angelegte Berechtigungen überstimmen?
- Gelten Walls für Originaldokumente und abgeleitete Daten konsistent?
- Kann die Administration den effektiven Zugriff vor dem Start sinnvoll testen?
- Werden verweigerte Retrieval-Versuche nachvollziehbar protokolliert?
- Werden Wall-Änderungen durch eine konfliktverantwortliche Person freigegeben?
- Kann die Kanzlei Audit-Nachweise für Mandanten, Versicherer, Aufsicht oder eine berufliche Untersuchung exportieren?
- Wissen Nutzerinnen und Nutzer, wie sie vermutete Zugriffsprobleme melden?
Der Sinn von Legal AI ist, Wissen leichter nutzbar zu machen. Ethical Walls sorgen dafür, dass diese Leichtigkeit nicht zu unbefugtem Zugriff wird.
Für schwierige Fälle bauen
Der einfache Fall ist oft ein einzelner Nutzer, der sein eigenes Mandat durchsucht. Anspruchsvoll wird es bei Kanzleiwechseln, konkurrierenden Praxisgruppen, standortübergreifenden Teams, geteilten Repositories, Abordnungen, mandantenspezifischen Beschränkungen und historischen Dokumenten mit unklarer Zuordnung. Ein professionelles Legal-AI-Programm muss genau für diese Fälle von Anfang an ausgelegt sein.