28. Mai 2026 · 12 Min. Lesezeit · Citation Safety

KI-generierte Fake-Entscheidungen: Was aktuelle Sanktionen Juristinnen und Juristen lehren

Legal AIZitationssicherheitGerichtsschriftenBerufliche Verantwortung

Legal AI ist kein reines Technikthema mehr, sondern Teil der professionellen Sorgfaltspflicht. Gerichte fragen heute nicht mehr nur, ob KI eingesetzt wurde. Sie fragen immer häufiger, ob die Arbeit verifiziert wurde, bevor sie in Beratung, Schriftsätzen oder rechtlichen Erklärungen verwendet wurde.

Das berufsrechtliche Risikomuster ist klar erkennbar

Juristinnen und Juristen mussten schon immer Autoritäten prüfen. Neu ist die Geschwindigkeit und Überzeugungskraft, mit der generative KI juristisch plausible Texte erzeugt – oft als beinahe fertiger Entwurf, obwohl eine fachliche Prüfung noch aussteht. Eine fehlerhafte Zitation kann heute in einem ausgereiften Schriftsatz, einem E-Mail-Entwurf, einer Recherchenotiz oder einem übernommenen Textauszug aus einem Tool auftauchen.

Die Fälle sind inhaltlich verschieden, die Lehre ist einheitlich: Manche enthalten vollständig erfundene Entscheidungen, manche reale Entscheidungen mit falschen Angaben, manche fingierte Zitate zu echten Urteilen, andere betreffen die Verantwortung von leitenden Partnern für Fehler von Mitarbeitenden. Entscheidend ist nicht die formale Feststellung „ChatGPT hat etwas erfunden“. Entscheidend ist der unkontrollierte Workflow: Rechtsautoritäten werden oft dekorativ eingesetzt statt verlässlich geprüft.

Fälle, die Juristinnen und Juristen kennen sollten

Im Mai 2026 berichtete Reuters, dass ein US-Bundesrichter in San Francisco den geschäftsführenden Partner einer kalifornischen Kanzlei sanktionierte, nachdem ein jüngerer Anwalt einen KI-gestützten Schriftsatz mit einer falschen Zitation in Hill v. Workday eingereicht hatte. Der verantwortliche Partner wurde gerügt, mit 1.001 US-Dollar belegt und zu Schulungen zu Kanzleiaufsicht sowie ethischem KI-Einsatz verpflichtet. Das Gericht stellte klar, dass leitende Anwälte sicherstellen müssen, dass Anwältinnen und Anwälte in der Kanzlei keine unzulässigen Angaben gegenüber Gericht oder Mandant machen – einschließlich der Pflicht, Schriftsätze selbst zu lesen und die Zitate auf ihre Richtigkeit zu prüfen (1).

Im März 2026 verhängte das U.S. Court of Appeals for the Sixth Circuit Sanktionen gegen zwei Anwälte in Whiting v. City of Athens. Reuters berichtete, dass das Gericht mehr als zwei Dutzend falsche Zitate und Tatsachenfehler mit deutlichen KI-Merkmalen feststellte. Die Anwälte mussten die Kosten des Berufungsverfahrens erstatten und jeweils 15.000 US-Dollar an das Gericht zahlen (2).

Im April 2026 berichtete die Los Angeles Times, dass die State Bar of California Disziplinarverfahren gegen Anwälte einleitete, denen vorgeworfen wurde, KI-generierte Schriftsätze mit nicht vorhandenen oder irrelevanten Entscheidungen eingereicht zu haben. Im selben Bericht wurden weitere Maßnahmen gegen einen weiteren kalifornischen Anwalt genannt, der 2025 in einem Bundesverfahren nicht existente und fehlerhafte Zitate verwendet hatte (3).

Im November 2025 verzichtete ein Bundesrichter in Oregon auf formelle Sanktionen gegen die Kanzlei Buchalter, nachdem ein Schriftsatz zwei KI-generierte falsche Zitate enthielt. Stattdessen ordnete das Gericht Auflagen an: eine Spende von 5.000 US-Dollar an eine Rechtshilfestelle, interne Schutzmaßnahmen und die Erstattung bestimmter Kosten. Für die Praxis ist dieser Fall zentral: Der Hinweis „Wir haben KI nur zur Stilverbesserung nach eigener Recherche genutzt“ schützt nicht. Der verantwortliche Anwalt hatte den Entwurf nicht selbst vollständig verifiziert (4).

Im September 2025 verhängte das Second District Court of Appeal von Kalifornien gegen Anwalt Amir Mostafavi eine Strafe von 10.000 US-Dollar, nachdem ein Opening Brief erfundene Inhalte enthielt. CalMatters berichtete, dass das Gericht 21 von 23 Zitaten als frei erfunden einstufte und ausdrücklich festlegte: Keine Zitate verwenden, die die verantwortliche Anwältin oder der verantwortliche Anwalt nicht selbst gelesen und verifiziert hat (5).

Im Juli 2025 sanktionierte ein Bundesrichter in Colorado zwei Anwälte von Mike Lindell jeweils mit 3.000 US-Dollar, nachdem ein Schriftsatz in einem Verleumdungsprozess mehr als zwei Dutzend Fehler enthielt, darunter Zitate auf nicht existierende Entscheidungen. Nach Angaben der NPR verletzten die Anwälte die Pflicht zur verlässlichen Tatsachendarstellung in der gerichtlichen Vorlage (6).

Im Juni 2025 warnte der High Court of Justice in London, dass Anwälte, die sich auf nicht existente Entscheidungen durch KI stützen, mit Missachtungsvorwürfen oder in Extremfällen mit strafrechtlichen Folgen rechnen müssen. Das Gericht bezog sich auf zwei Fälle mit fingierter Rechtsprechung und betonte, dass bei Missbrauch das öffentliche Vertrauen und die Rechtsstaatlichkeit auf dem Spiel stehen (7).

In Utah wurde Richard Bednar sanktioniert, nachdem ein Schriftsatz aus ChatGPT-gestützten Recherchen fingierte Rechtsautoritäten enthielt, unter anderem den nicht existierenden Fall Royer v. Nelson. Das Utah Court of Appeals stellte klar: KI kann ein Recherchewerkzeug sein. Jede Anwältin und jeder Anwalt bleibt aber verpflichtet, Eingaben und Ausführungen zu prüfen und deren Genauigkeit sicherzustellen (8).

Warum solche Fehler wiederkehren

Es ist nicht nur eine Technikfrage. Es geht um Workflow-Design, Aufsicht, Anreize und die Review-Kultur.

Erstens ist generative KI darauf optimiert, Muster zu vervollständigen. In juristischen Texten ist die Zitation Teil dieses Musters. Wenn das Modell frei formuliert, kann es eine scheinbar inhaltlich richtige Passage erzeugen, bevor nachgewiesen ist, dass die zitierte Entscheidung tatsächlich existiert und die beanspruchte Aussage trägt.

Zweitens arbeiten Juristinnen und Juristen oft unter Zeitdruck. Der Entwurf wirkt hilfreich, der Stil wirkt professionell und die genannten Entscheidungen erscheinen plausibel. Je geschliffener die Antwort ist, desto leichter werden die Überprüfung einzelner Zitate und Entscheidungspassagen übersprungen.

Drittens wird sprachliche Redaktion oft als risikoärmer angesehen als die Primärrecherche. Die aktuellen Fälle zeigen das Gegenteil: Ein Tool, das „nur“ den Stil verbessert, kann dennoch Rechtsverweise ergänzen, verändern oder verzerren, wenn der Workflow keine Gegenkontrolle erzwingt.

Viertens können auch echte Quellen falsch eingesetzt werden. Eine Entscheidung kann existieren, aber die konkrete Aussage nicht tragen. Ein Zitat kann erfunden sein. Ein echter Fallname kann mit falscher Aktennummer oder falscher Rechtsordnung kombiniert werden. Eine Quelle kann veraltet, eingeschränkt oder verfahrensrechtlich irrelevant sein. Verantwortliche Legal-AI-Lösungen müssen all diese Fehlerarten abfangen – nicht nur die offenkundig erfundene Entscheidung.

Praktischer Standard für Juristinnen und Juristen

Der Standard ist klar, aber in der Praxis anspruchsvoll: Keine Rechtsbehauptung darf auf eine Autorität gestützt werden, deren Existenz, Relevanz, Zuständigkeit, Aktualität und Stützkraft nicht plausibilisiert und verifiziert wurde.

Für Gerichtsschriften bedeutet das: die herangezogenen Entscheidungen müssen persönlich gelesen und verifiziert werden. Für Beratung und interne Recherchen bedeutet es, dass der Weg von der Behauptung zur Quelle nachvollziehbar bleibt und einer belastbaren Prüfung standhält. Für die Kanzleiführung bedeutet es: Die Nutzung von KI durch Associate, Referendarinnen und Referendare, wissenschaftliche Mitarbeitende, Rechtsfachangestellte und externe Dienstleister muss verbindlich beaufsichtigt werden. Wer einen Auftrag delegiert, delegiert nicht die Berufspflichten.

Offenlegungspflichten unterscheiden sich nach Gericht und Zuständigkeit. Die Verifikation ist jedoch unabhängig vom Forum gleich: Ob eine KI-Offenlegung erforderlich ist oder nicht – die Verantwortung für den Inhalt des eingereichten Dokuments, die zitierte Autorität und die Aussage gegenüber Gericht oder Mandant bleibt bei der verantwortlichen Anwältin oder dem verantwortlichen Anwalt (9).

Wie LexVera aufgebaut ist, um dieses Risiko zu reduzieren

LexVera basiert auf einer konservativen Prämisse: Legal AI darf die rechtliche Beleglage nicht erfinden. Eine plausibel klingende Antwort reicht nicht. Das Ergebnis muss prüfbar, quellenbasiert und mit klarer Unsicherheit gekennzeichnet sein.

Unsere Workflows starten mit abgerufenen Rechts- und Mandatsquellen, nicht mit ungefiltertem Modellwissen. Die Plattform trennt öffentliche Rechtsquellen, Mandantendaten, Kanzleiwissen und Nutzereingaben, damit diese Ebenen nicht zu einer ungetesteten Gesamtaussage verschmelzen.

Für zitierungsrelevante Arbeit nutzt LexVera vor der Finalisierung einen verifizierten Zitationspfad. Kurz gesagt: Zitate sind kein freier Fließtext, den das Modell beliebig formuliert. Schlusszitate sind an dokumentierte Quellen und konkrete Validierungsschritte gebunden. Wenn sich eine Quelle nicht verifizieren lässt, ist der sichere Weg: Kürzung, Kennzeichnung der Einschränkung oder zwingende Review-Anforderung statt souverän klingender, aber unbelegter Bezugnahme.

LexVera prüft zudem, ob die zitierte Autorität fachlich passt. Das Prüfmodell bewertet Herkunftsgericht, Datum, Quellentyp, Verfahrensstand und Indikatoren zur aktuellen Rechtslage. Eine reale Entscheidung, die veraltet, eingeschränkt oder inhaltlich nicht einschlägig ist, darf nicht als starke Stütze dargestellt werden.

Die Plattform ist bewusst anwaltlich ausgerichtet. Sie macht die Materialien hinter der Antwort sichtbar, erhält Review-Pfade und markiert Unsicherheiten. Ziel ist nicht, fachliche Würdigung zu ersetzen, sondern den Fehlerraum zu verengen, in dem ein stilistisch sauberer Entwurf unzureichend belegt in die Beratung gelangt.

Was einen Legal-AI-Workflow sicherer macht

Fragen, die Juristinnen und Juristen jedem KI-Anbieter stellen sollten

Die Anbieterdue-Diligence sollte über allgemeine Genauigkeitsversprechen hinausgehen. Es braucht operative Fragen, die die tatsächlichen Risiken adressieren.

Praktische Konsequenz

Die aktuellen Sanktionen bedeuten nicht, dass Kanzleien KI meiden sollten. Sie bedeuten, dass unkontrollierte KI nicht akzeptabel ist. Das professionelle Problem ist nicht, dass Software beim Formulieren hilft. Das Problem ist, dass die rechtliche Stützung nicht verifiziert wurde, bevor sie verwendet wurde.

Legal AI sollte Juristinnen und Juristen beim Finden, Prüfen und Einordnen von Autoritäten unterstützen. Sie sollte nicht dabei helfen, nicht tragfähige Rechtsbehauptungen einzureichen. Die zuverlässigsten Systeme bremsen bewusst an der Stelle, an der Sorgfalt seit jeher gefordert ist: sobald eine Behauptung gegenüber Gericht, Behörde oder Mandant als vertretbare Aussage abgegeben wird.

Die Frage ist nicht, ob KI wie ein Anwalt schreiben kann. Die Frage ist, ob der Workflow jede Rechtsbehauptung zwingend durch Quellen führt, die eine Juristin oder ein Jurist selbst lesen, verifizieren und verteidigen kann.

Quellen und weiterführende Literatur

Current Law

Warum Legal AI prüfen muss, ob eine Entscheidung noch geltendes Recht ist

Verifizierte Zitate reichen nicht, wenn die zitierte Autorität nicht mehr aktuell ist.

Citation Reliability

Fallstudie: Deterministische Zitations-Pipelines für mehr Vertrauen in Legal AI

Wie dedizierte Validierungsstufen den Zitationsprozess robuster machen.

Quellenbasiert

Wie quellenbasierte KI juristische Recherche verändert

Praxisnah: Retrieval, Zitierung und professionelle Prüfung im Zusammenspiel.