KI im Rechtssystem: fairer Zugang oder gefährliches Risiko?

Kontext. Legal AI ist im DACH-Raum kein Zukunftsbild mehr. Kanzleien, Rechtsabteilungen, Legal-Tech-Anbieter, Gerichte, Versicherungen und Beratungsstellen nutzen bereits LLM-basierte Systeme, um Dokumente zusammenzufassen, Verträge zu prüfen, juristische Quellen zu durchsuchen, Ansprüche zu klassifizieren oder Entscheidungsprozesse vorzubereiten. Die relevante Frage lautet deshalb nicht mehr, ob KI in das Rechtssystem kommt. Sie ist bereits dort. Die eigentliche Frage ist, ob Systeme auf Basis von ChatGPT, Gemini AI, Claude AI, Llama AI, Grok AI, Deepseek AI oder anderen LLM-Architekturen den Zugang zum Recht verbessern können, ohne rechtsstaatliche Legitimität zu beschädigen.

Sechs KI-Modelle bewerten, ob KI-gestützte Rechtssysteme die Zukunft eines faireren Zugangs zur Justiz sind — oder ein Risiko, das zu groß ist, um es zu ignorieren.

Legal AI schafft nur dann Wert, wenn Zugang, Erklärbarkeit und Verantwortung gemeinsam gestaltet werden.

0. Kontext: sechs Modelle, ein bedingtes Ja

In diesem AI Debate wurden sechs Modelle gefragt, ob KI-gestützte Rechtssysteme mehr Nutzen als Risiko bringen. Das Ergebnis war zum zweiten Mal in dieser Reihe einstimmig: Die Vorteile überwiegen die Risiken. Entscheidend ist aber das Kleingedruckte. Das Ja war kein Freifahrtschein. Die Modelle knüpften ihre Zustimmung an klare Bedingungen: Regulierung, algorithmische Transparenz, menschliche Aufsicht, systematische Tests, Auditierbarkeit und eindeutige Grenzen automatisierter Autorität.

Gerade für Deutschland, Österreich und die Schweiz ist diese Differenzierung zentral. Recht ist nicht nur ein Serviceprozess. Recht ist ein Vertrauenssystem. Menschen akzeptieren Entscheidungen, weil sie begründet, überprüfbar und anfechtbar sind. Wenn eine KI einen Vertrag zusammenfasst, ist das eine andere Risikoklasse als wenn ein System Empfehlungen zu Untersuchungshaft, Strafmaß, Sozialleistungen, Aufenthaltsstatus oder Kindeswohlentscheidungen liefert.

Die operative Frage lautet daher: Wo reduziert KI Reibung, ohne unzulässig Macht zu übernehmen? Und wo verschiebt Automatisierung Verantwortung in eine Black Box? Aus Sicht digitaler Transformation entscheidet diese Frage selten das Modell allein. Entscheidend ist das Betriebssystem um das Modell herum: Datenqualität, Rollen, Freigaben, Monitoring, Eskalationen, KPI-Logik und Governance-Rhythmus.

Der Arbeitskontext von Ibrahim Tolgar Sasmaz ist hierfür ein hilfreicher Praxisanker, ohne ihn künstlich zum Legal-Tech-Fall zu machen. Als Head of Digital in München arbeitet er an KI-Systemen, die in echte Geschäftsprozesse eingebettet sind: TranslAsset AI mit OCR, LLM und Bildrekonstruktion für Lokalisierung, Pricing Validation und Wettbewerbs-Benchmarking, GenAI-gestützte Produktinformationen, Tasky AI-ähnliche Feedback-Routings, Power-BI-Forecasting und Low-Code-Automatisierung. Der übertragbare Punkt ist klar: Eine KI ist nicht automatisch produktiv oder sicher, nur weil sie gute Antworten generiert. Sie wird erst durch ein kontrolliertes Operating Model belastbar.

1. Problem: Zugang zum Recht ist oft eine Ressourcenfrage

Rechtssysteme sind langsam, teuer und ungleich verteilt. Ein einfacher Vertragsstreit kann Jahre dauern und mehr kosten, als der Streitwert rechtfertigt. Viele Menschen bewältigen Kündigungen, Mietprobleme, Verbraucherstreitigkeiten, arbeitsrechtliche Konflikte oder familiäre Ausnahmesituationen ohne professionelle Vertretung, weil sie sich Beratung nicht leisten können oder nicht wissen, wo sie anfangen sollen. Formal gilt das Recht für alle gleich. Praktisch erzielen Menschen mit Budget, Zeit, Vorwissen und anwaltlicher Unterstützung oft andere Ergebnisse.

Genau hier liegt das stärkste Argument für Legal AI. Es geht nicht zuerst um Effizienzgewinne für Kanzleien, sondern um Zugang. Ein KI-System kann einen Mietvertrag analysieren, problematische Klauseln markieren, eine Gerichtsentscheidung in verständliche Sprache übersetzen, Fristen erklären, benötigte Unterlagen auflisten oder eine Erstorientierung geben. Das ersetzt keinen Anwalt in komplexen oder hochriskanten Fällen. Aber es kann den ersten Zugang dramatisch vereinfachen.

Für DACH-Suchintentionen ist dieser Punkt besonders relevant: Viele Nutzer suchen nicht nach einer abstrakten KI-Debatte, sondern nach praktischen Fragen wie: Darf ein AI Lawyer einen Vertrag prüfen? Kann ChatGPT eine Kündigung erklären? Ist Legal AI in Deutschland erlaubt? Wie erkennt man Halluzinationen bei juristischen Antworten? Genau diese Nutzersituationen zeigen, dass der Mehrwert in der Vorqualifizierung liegt. Menschen brauchen früher Klarheit, nicht erst nach Wochen und hohen Kosten.

Wenn juristische Grundintelligenz über ein Smartphone verfügbar wird, verringert sich die Lücke zwischen Menschen mit professioneller Vertretung und Menschen ohne Zugang zu Beratung — nicht vollständig, aber spürbar.

Der Zugangsvorteil reicht jedoch nicht aus. Ein System kann günstig, schnell und trotzdem unfair sein. Im Recht ist ein falscher Output nicht nur ein Conversion-Problem. Er kann Fristen zerstören, Ansprüche gefährden, Angst verstärken, falsche Sicherheit geben oder zu Entscheidungen führen, die kaum rückgängig zu machen sind. Deshalb muss Legal AI strenger behandelt werden als ein generischer Chatbot im Kundenservice.

2. Framework: die Risikoleiter für Legal AI

Ein praxistaugliches Framework bewertet Legal-AI-Anwendungen nach drei Fragen: Wie viel Entscheidungsmacht erhält das System? Wie reversibel ist der Output? Wie schwer ist der mögliche Schaden? Je höher die Kombination, desto stärker müssen Transparenz, menschliche Kontrolle und Auditierbarkeit sein.

Verantwortungsvolle Legal AI trennt Assistenz klar von rechtlicher Autorität.

Stufe 1: Informationssuche. Die KI findet, sortiert oder fasst Quellen zusammen. Beispiel: Klauseln in einem Vertrag identifizieren. Das Risiko ist begrenzt, wenn Quellen angezeigt werden und der Output nicht als Rechtsberatung ausgegeben wird.

Stufe 2: Geführte Selbsthilfe. Die KI erklärt Abläufe, erstellt Checklisten oder bereitet Dokumente vor. Beispiel: Vorbereitung eines Beratungsgesprächs bei einer Verbraucherzentrale oder Rechtsberatung. Das Risiko ist moderat, weil fehlerhafte Hinweise bereits Verfahrensnachteile verursachen können.

Stufe 3: Professionelle Entscheidungsunterstützung. Die KI unterstützt Anwälte, Richter, Sachbearbeiter oder Compliance-Teams. Beispiel: Recherche zu Präzedenzfällen, Clusterung ähnlicher Fälle oder Risikoscoring eines Vertrags. Hier steigt das Risiko, weil Fachleute Outputs möglicherweise zu stark gewichten.

Stufe 4: Empfehlung in folgenreichen Fragen. Die KI empfiehlt Haft, Strafrahmen, Leistungsberechtigung, Vergleichsstrategie oder Vollstreckungsschritte. Das ist eine Hochrisikozone. Outputs müssen erklärbar, anfechtbar, auf Bias geprüft und zwingend menschlich freigegeben werden.

Stufe 5: Automatisierte Rechtsentscheidung. Die KI trifft verbindliche Entscheidungen. Das ist der gefährlichste Bereich. In einem rechtsstaatlichen System muss Autorität verantwortlich, nachvollziehbar und überprüfbar bleiben. Wenn Betroffene nicht verstehen oder angreifen können, warum eine Entscheidung getroffen wurde, verliert das System Legitimität.

Eine einfache operative Formel lautet: Kontrollbedarf = Schadenshöhe × Automatisierungsgrad × Irreversibilität × Vulnerabilität der betroffenen Person. Eine Vertragszusammenfassung benötigt Quellen, Haftungshinweise und Qualitätskontrollen. Eine Empfehlung im Straf- oder Aufenthaltsrecht benötigt Validierung vor dem Einsatz, Bias-Audits, Datenherkunft, menschliche Freigabe, Beschwerdewege, Monitoring und klare rechtliche Grenzen.

Entscheidungsschwellen sollten vor dem Pilot definiert werden. Sobald Freiheit, Wohnung, Aufenthaltsstatus, Kindeswohl, Sozialleistungen, Strafbarkeit oder erhebliche finanzielle Schäden betroffen sind, darf KI nicht finale Instanz sein. Kann das System keine nachvollziehbaren Quellen, Annahmen und Grenzen offenlegen, gehört es nicht in folgenschwere Entscheidungen. Zeigt Monitoring signifikant unterschiedliche Fehlerquoten für vulnerable Gruppen, muss der Einsatz gestoppt oder begrenzt werden, bis die Ursache behoben und unabhängig geprüft ist.

3. Real Example: was Legal Teams aus produktiven KI-Betriebssystemen lernen können

Produktive KI-Projekte scheitern selten daran, dass kein Modell verfügbar ist. Sie scheitern daran, dass der Prozess um das Modell nicht belastbar ist. Genau das ist die Lehre aus realen KI-Workflows im SASMAZ-Kontext: Wert entsteht durch Integration, Messbarkeit und klare Verantwortungslogik.

TranslAsset AI kombiniert OCR, LLM-Verarbeitung und Image Inpainting für automatisierte Lokalisierung kreativer Assets. Die verifizierten Effekte umfassen -5% OPEX, +60% CTR und +25% CVR. Das ist kein Rechtsprodukt. Aber der operative Mechanismus ist relevant: Inputqualität wird kontrolliert, Output wird überprüfbar gemacht, Menschen behalten Freigabeverantwortung, und Erfolg wird nicht subjektiv, sondern anhand von Performance- und Effizienzkennzahlen bewertet.

Auch Pricing Intelligence liefert eine übertragbare Governance-Logik. KI-gestützte Preisvalidierung und Wettbewerbs-Benchmarking führten zu +11% AOV, +12pp Buy Box Share, +14pp Contribution Margin, +30% Pricing Compliance und 50% schnelleren Entscheidungen bei 40% weniger manuellem Pricing-Aufwand. Die Aussage ist nicht, dass juristische Entscheidungen wie Preisentscheidungen optimiert werden sollten. Die Aussage ist: Hochrelevante KI-Workflows brauchen Toleranzgrenzen, Ausnahmen, Datenqualität, Eskalationen und dokumentierte Verantwortlichkeiten.

Übertragen auf Legal AI bedeutet das: Ein Vertragsassistent darf nicht nur ein Gesamturteil ausgeben, sondern muss Klauseln zitieren, Risiken markieren und Unsicherheit offenlegen. Ein Legal-Aid-Chatbot muss automatisch eskalieren, wenn Begriffe wie Räumung, Gewalt, Strafverfahren, Asyl, Kindeswohl, Insolvenz oder Frist auftauchen. Ein gerichtliches Unterstützungstool muss Begründung, Quellen, Konfidenz, Gegenargumente und bekannte Grenzen darstellen. Das Ziel ist nicht, dass KI souverän klingt. Das Ziel ist, dass Unsicherheit rechtzeitig sichtbar wird.

4. Data / KPI: Fairness messen, nicht nur Geschwindigkeit

Viele KI-Programme messen Erfolg über Geschwindigkeit, Kostenreduktion und Produktivität. Im Rechtssystem reicht das nicht. Ein Legal-AI-Dashboard muss vier Kennzahlenfamilien enthalten: Zugang, Qualität, Fairness und Verantwortlichkeit.

Legal AI braucht KPI-Governance für Fairness und Anfechtbarkeit, nicht nur Effizienz.

Zugangs-KPIs: Anzahl unterstützter Nutzer, Antwortzeit, Sprachenabdeckung, mobile Abschlussrate, Verständlichkeitswert, erfolgreiche Weiterleitung an menschliche Beratung. Wenn mehr Menschen ihre Optionen verstehen, entsteht echter Zugangsmehrwert.

Qualitäts-KPIs: Zitiergenauigkeit, Halluzinationsrate, Aktualität juristischer Quellen, Präzision von Eskalationen, Übereinstimmung mit fachlicher Prüfung und Korrekturrate. Ein sinnvoller Mindeststandard lautet: Keine nicht belegte juristische Behauptung in nutzerseitigen Antworten; jede Empfehlung muss mit Quelle, Rechtsraum, Datum und Annahmen verbunden sein.

Fairness-KPIs: unterschiedliche Fehlerquoten zwischen Gruppen, Qualitätsunterschiede nach Sprache und Lesekompetenz, Varianz bei Beschwerde- oder Berufungsergebnissen, Performance bei vulnerablen Nutzergruppen. Wenn ein System für standardisiertes Deutsch gut funktioniert, aber bei Menschen mit geringerer Sprachkompetenz, Dialekt, Migrationserfahrung oder Behinderung schlechter, kann es die Gerechtigkeitslücke vergrößern.

Accountability-KPIs: Anteil folgenreicher Outputs mit menschlicher Freigabe, Vollständigkeit des Audit-Logs, Nutzeranfechtungsrate, erfolgreiche Korrekturen, Alter offener Beschwerden und Rollback-Zeit bei Modellproblemen. Wenn eine Organisation den Output nicht erklären kann, kann sie ihn auch nicht verantworten.

Ein belastbarer Governance-Rhythmus wäre: wöchentliches Monitoring von Volumen, Latenz, Fehlklassifikationen und Eskalationen; monatliches Legal-QA-Sampling durch Fachleute; quartalsweise Bias- und Disparate-Impact-Analysen; jährliche unabhängige Prüfung für Hochrisikoanwendungen. In DACH- und EU-Kontexten kommen DSGVO, Datenminimierung, Rollen- und Rechtekonzepte sowie die Risikologik des EU AI Act hinzu. Legal AI sollte eher wie ein regulierter medizinischer oder finanzieller Workflow behandelt werden als wie ein normaler Chatbot.

5. Actionable Steps: Legal AI einführen, ohne Legitimität zu verlieren

Erstens: Assistenz und Autorität trennen. Vor dem Start muss dokumentiert sein, was das System darf und was nicht. Vertragszusammenfassungen, Intake-Triage und Übersetzung juristischer Sprache sind geeignete Startpunkte. Verbindliche Entscheidungen oder Empfehlungen zu Haft, Strafmaß und existenziellen Leistungen benötigen deutlich strengere Regeln und möglicherweise eine explizite gesetzliche Grundlage.

Zweitens: Eskalationsregeln vor dem Go-live bauen. Hochrisikothemen müssen automatisch an Menschen weitergeleitet werden. Dazu gehören Strafrecht, Räumung, Gewalt, Asyl und Migration, Kindeswohl, Insolvenz, medizinische Haftung und Fristen. Die Eskalation darf nicht davon abhängen, dass Nutzer selbst erkennen, wie ernst ihr Fall ist.

Drittens: Quellengebundene Antworten erzwingen. Jede juristische Antwort sollte Quelle, Rechtsraum, Datum, Annahmen und Unsicherheit zeigen. Wenn ein Modell die Grundlage nicht belegen kann, darf es keine sichere Empfehlung formulieren.

Viertens: Disparate Impact testen. Durchschnittliche Genauigkeit reicht nicht. Getestet werden müssen Sprache, Verständlichkeit, Alter, Barrierefreiheit, sozioökonomische Faktoren und geschützte Merkmale, soweit rechtlich zulässig und ethisch vertretbar. Ein System, das gerade bei vulnerablen Gruppen schlechter funktioniert, ist kein Access-to-Justice-System.

Fünftens: Menschen verantwortlich halten. KI kann analysieren, sortieren und empfehlen. Wo Rechte, Eigentum oder Freiheit betroffen sind, müssen Menschen verantwortlich entscheiden. Human Oversight ist kein dekorativer Klick auf Freigeben. Er braucht Zeit, Kompetenz und die echte Befugnis, den Maschinenoutput abzulehnen.

Sechstens: Governance als Backlog führen. Legal AI ist kein einmaliger Launch. Es braucht Incident Logs, Edge-Case-Reviews, Prompt- und Retrieval-Updates, Drift-Monitoring, Abschaltung schwacher Use Cases und transparente Kommunikation der Grenzen. Gute Legal-AI-Programme sehen eher wie disziplinierte Produktorganisationen aus als wie kurzfristige Innovationspiloten.

Das einstimmige Ergebnis der sechs Modelle ist deshalb keine pauschale Empfehlung zur Automatisierung des Rechts. ChatGPT, Gemini AI, Claude AI, Llama AI, Grok AI und Deepseek AI formulieren im Kern ein bedingtes Ja: Die Vorteile können überwiegen, wenn Transparenz, Auditierbarkeit, menschliche Aufsicht und klare Grenzen konsequent umgesetzt werden. Ein Rechtssystem, das nur für Menschen mit Budget gut funktioniert, erfüllt seinen Gerechtigkeitsanspruch nicht vollständig. Ein Rechtssystem, das Macht an intransparente Modelle delegiert, ist aber ebenfalls nicht fair.

Der richtige Weg liegt zwischen Ablehnung und blinder Einführung: KI dort einsetzen, wo sie Zugang erweitert, Routinearbeit reduziert und Konsistenz verbessert — und sie dort begrenzen, wo menschliche Verantwortung die Grundlage rechtsstaatlicher Legitimität bleibt.