Künstliche Intelligenz in der Anwaltschaft:
Zu Halluzinationen, Berufsrecht und Haftung

THEMEN: KI | Anwaltshaftung | Berufsrecht und Berufspflichten

KI im Anwaltsberuf
Zuletzt aktualisiert am 16.07.2025

Einleitung

Die rasante Entwicklung künstlicher Intelligenz (KI) verändert die Arbeitswelt und macht auch vor dem juristischen Berufsstand nicht halt. Längst nutzen Rechtsanwälte Tools wie ChatGPT, Perplexity oder Gemini, um Schriftsätze zu entwerfen, rechtliche Recherchen zu beschleunigen oder Argumentationshilfen zu generieren.

Die zweifellose Steigerung von Effizienz birgt allerdings auch erhebliche Risiken: Denn KI-Sprachmodelle (Large Language Models, LLMs) neigen nicht nur zu inhaltlichen Fehlern, sondern mitunter auch zu Halluzinationen – der Erfindung von Tatsachen, Zitaten oder sogar ganzen Gerichtsentscheidungen.

Dieser Beitrag beleuchtet die Risiken der Nutzung generativer KI in der juristischen Praxis: Welche Fehlerquellen bestehen? Welche berufsrechtlichen Pflichten gelten? Wie ist die Haftung für fehlerhafte Inhalte der KI?  Und darf das Mandat gekündigt werden – samt Rückforderung des Honorars –, wenn ein Anwalt pflichtwidrrig KI verwendet?

1. Juristische Sprache als Fehlerquelle

Sprachmodelle erzeugen Texte, die auf den ersten Blick plausibel klingen, bei genauerer Betrachtung jedoch mitunter gravierende inhaltliche Mängel aufweisen. Gerade im juristischen Kontext ist die Fehleranfälligkeit besonders hoch.

Juristische Begriffe haben einen klaren Bedeutungsgehalt. Oft sind Rechtsbegriffe sogar im Gesetz selbst definiert (man spricht dann von einer Legaldefinition). In vielen Fällen weicht die Bedeutung eines juristischen Begriffs dabei vom allgemeinen Sprachgebrauch ab, etwa weil dieser weiter oder enger ist.

Für Anwälte ist die Trennung zwischen juristischem und alltäglichem Bedeutungsgehalt kein Problem. Für künstliche Intelligenz aber stellt die linguistische Diskrepanz zwischen Fachsprache und Alltagssprache eine zentrale Schwachstelle dar.

Sprachmodelle werden auf riesigen Textmengen trainiert, darunter vor allem mit alltagssprachlichen Texten. Die unumgängliche Konsequenz: In KI-generierten Schriftsätzen schleichen sich Sinnverschiebungen, Missverständnisse und Rechtsanwendungsfehler ein.

2. Halluzinationen in juristischen Schriftsätzen

a) Hintergrund zu KI-Halluzinationen

Beim Einsatz künstlicher Intelligenz für juristische Zwecke sind Halluzinationen ein besonders gravierendes Problem.

Sprachmodelle funktionieren nicht wie klassische Datenbanken. Sie verstehen den Inhalt nicht im menschlichen Sinne, sondern berechnen Wort für Wort die wahrscheinlichste Fortsetzung eines Textes. Eine „Halluzination“ ist damit keine bewusste Lüge der KI. Vielmehr generiert das System in (scheinbar) überzeugendem Ton frei erfundene Informationen.

Der erschreckende Befund: Laut einer Studie der Stanford University aus dem Jahr 2024 liegt die Quote von Halluzinationen bei juristischen KI-Anfragen zwischen 69% und 88%! Bei Millionen von Gerichtsprozessen pro Jahr besteht hier noch viel Verbesserungsbedarf. Denn selbst eine Dezimierung der Quote auf „nur“ 5% wäre immer noch inakzeptabel hoch.

• Eine spannende Datenbank für juristische KI-Halluzinationen aus allerlei Ländern finden Sie hier.

b) KI-Halluzinationen vor US-Gerichten

Halluzinationen in KI-generierten Anwaltsschreiben sind aktuell vor allem aus den USA bekannt. Dies liegt zweifellos aber nicht daran, dass KI-Systeme in englischer Sprache besonders fehleranfällig wären.

Der Grund liegt vielmehr darin, dass in den USA deutlich lockere Datenschutz- und Veröffentlichungsregeln gelten und weite Teile eines Gerichtsprozesses – einschließlich der anwaltlichen Schriftsätze – der Öffentlichkeit zugänglich gemacht werden. In Staaten mit strengerem Fokus auf Datenschutz bleiben KI-Halluzinationen der Öffentlichkeit dagegen oft verborgen.

Ein interessanter, auch medial diskutierter Fall stammt aus dem US-Bundesstaat Alabama. Dort sah sich sich der prozessführende Rechtsanwalt der Kanzlei Buttler Snow zu folgender Stellungnahme veranlasst (Originaldokument vom 19.05.2025 hier):

c) KI-Halluzinationen vor deutschen Gerichten

Auch in Deutschland werden mehr und mehr Fälle bekannt, in denen Anwälte in Gerichtsverfahren halluzinierte KI-Ergebnisse verwenden.

So hat ein Rechtsanwalt in einer Familiensache vor dem Amtsgericht Köln einen Schriftsatz eingereicht, der offenbar von einer KI erstellt wurde und zahlreiche erfundene oder unzutreffende Fundstellen enthielt (Beschluss vom 02.07.2025 – 312 F 130/25). Der Schriftsatz enthielt zahlreiche nicht existente Quellen, falsche Literaturangaben und Fehlzitate, z.B. fingierte Randziffern und erfundene Beiträge in Fachzeitschriften. Aus dem Beschluss des Amtsgerichts:

3. Künstliche Intelligenz und Berufsrecht

a) Inhalt des anwaltlichen Berufs- und Standesrechts

Geregelt ist das anwaltliche Berufsrecht hauptsächlich in der Bundesrechtsanwaltsordnung (BRAO) und in der Berufsordnung für Rechtsanwälte (BORA). Nach deutschem Berufsbild ist der Anwalt sowohl Interessenvertreter seines Mandanten als auch unabhängiges Organ der Rechtspflege (§ 1 BRAO).

Das anwaltliche Berufsrecht (auch Standesrecht genannt) umfasst die ethischen und berufsbezogenen Verhaltenspflichten, die Rechtsanwälte im Rahmen ihrer Tätigkeit zu beachten haben. Es dient dem Schutz der Integrität des Anwaltsberufs, der Unabhängigkeit der Anwaltschaft, sowie dem Vertrauen der Öffentlichkeit in eine verlässliche Rechtspflege.

b) Gewissenhafte Berufsausübung und Verschwiegenheit

In § 43 BRAO findet sich eine der wichtigsten anwaltlichen Berufspflichten. Angeordnet wird darin die Pflicht zur gewissenhaften Berufsausübung:

„Der Rechtsanwalt hat seinen Beruf gewissenhaft auszuüben. Er hat sich innerhalb und außerhalb des Berufes der Achtung und des Vertrauens, welche die Stellung des Rechtsanwalts erfordert, würdig zu erweisen.“

Ebenfalls zentral ist die in § 43a Abs. 2 BRAO angeordnete Pflicht zur Verschwiegenheit. Konkret heißt es:

„Der Rechtsanwalt ist zur Verschwiegenheit verpflichtet. Diese Pflicht bezieht sich auf alles, was ihm in Ausübung seines Berufes bekanntgeworden ist. Dies gilt nicht für Tatsachen, die offenkundig sind oder ihrer Bedeutung nach keiner Geheimhaltung bedürfen. (…)“

Was fordern eine gewissenhafte Berufsausübung und die Verschwiegenheitspflicht nun aber genau? Im Kern geht es vor allem um folgende Punkte, die bei der Nutzung generativer KI unbedingt zu beachten sind:

c) Folgen eines Verstoßes gegen Berufsrecht

Verstößt ein Rechtsanwalt bei der Nutzung von KI gegen geltendes Berufs- und Standesrecht, kann dies zu einem anwaltsgerichtlichen Verfahren führen. Je nach Schwere der Pflichtverletzung können nach § 114 Abs. 1 BRAO folgende Maßnahmen gegen den Rechtsanwalt verhängt werden:

• Warnung,
• Verweis,
• Geldbuße bis zu 50.000,00 Euro,
• Tätigkeitsverbot bzgl. bestimmter Rechtsgebiete für die Dauer von 1-5 Jahren,
• Ausschließung aus der Rechtsanwaltschaft (dauerhaftes Berufsverbot).

Gravierende Verstöße gegen anwaltliches Berufsrecht können daneben auch strafrechtliche Konsequenzen nach sich ziehen. Dies gilt insbesondere für die Verletzung der Verschwiegenheitspflicht. Nach § 203 Abs. 1 Nr. 3 StGB wird die unbefugte Offenbarung geschützter Informationen als Verletzung von Privatgeheimnissen mit Freiheitsstrafe von bis zu einem Jahr bestraft.

4. Kündigung des Mandats wegen Nutzung von KI?

a) Grundsatz: Recht zur grundlosen Kündigung

Ein Anwaltsvertrag ist in aller Regel ein Vertragsverhältnis, bei dem der Anwalt eine besondere Vertrauensstellung innehat und „Dienste höherer Art“ erbringt. Für solche Fälle sieht § 627 Abs. 1 BGB vor, dass der Anwaltsvertrag jederzeit fristlos und grundlos gekündigt werden darf.

Dieses Recht zur freien Kündigung gilt sowohl für den Mandanten als auch für den Anwalt selbst.

Wichtig: Solange § 627 BGB anwendbar ist, stellt sich daher nicht die Frage, ob und wann die Nutzung künstlicher Intelligenz zu einer Kündigung berechtigt. Denn beide Vertragsparteien können jederzeit grundlos das Mandatsverhältnis beenden.

b) Ausnahme: Kündigung nur aus wichtigem Grund

Etwas anderes gilt aber, wenn das freie Kündigungsrecht nach § 627 Abs. 1 BGB wirksam ausgeschlossen wurde. In diesem Fall hat der Mandant nicht länger das Recht zur freien, grundlosen Kündigung des Anwaltsvertrages.

• Hinweis: In der juristischen Praxis ist ein wirksamer Ausschluss des freien Kündigungsrechts jedoch selten. Insbesondere bei formularmäßigen Regelungen mit Verbrauchern – etwa in Allgemeinen Geschäftsbedingungen (AGB) – ist ein solcher Ausschluss oft unwirksam, da der Mandant hierdurch unangemessen benachteiligt wird (§ 307 BGB).

Möglich bleibt dann nur noch die außerordentliche Kündigung aus wichtigem Grund nach § 626 BGB. Zu erklären ist die außerordentliche Kündigung aus wichtigem Grund innerhalb von zwei Wochen ab Kenntnis des Kündigungsgrundes.

Anders als das freie Kündigungsrecht ist das Recht zur außerordentlichen Kündigung zwingend, kann also nicht wirksam ausgeschlossen werden. Selbst ein Ausschluss durch eine Individualvereinbarung wäre sittenwidrig und somit nichtig (§ 138 Abs. 1 BGB).

c) Voraussetzungen des wichtigen Grundes

Für eine außerordentliche Kündigung aus wichtigem Grund muss der Anwalt eine derart schwerwiegende Pflichtverletzung begangen haben, dass dem Mandanten die Fortsetzung des Mandats nicht zugemutet werden kann.

Zu beachten ist dabei, dass KI von Anwälten durchaus eingesetzt werden darf. Es gelten dazu die oben genannten Grundsätze zum Berufsrecht. Der bloße Einsatz von KI stellt daher für sich genommen noch keine Pflichtverletzung dar.

Eine Pflichtverletzung liegt vielmehr nur vor, wenn der Einsatz von KI-Systemen unter Verstoß gegen die gebotene Sorgfalt erfolgt. Dies ist zum Beispiel der Fall, wenn der Rechtsanwalt fehlerhafte oder unzureichende Ergebnisse der KI ohne sorgfältige Überprüfung übernimmt oder durch den Einsatz von KI gegen seine Verschwiegenheitspflicht verstößt.

In einem zweiten Schritt ist dann zu prüfen, ob die Pflichtverletzung so schwerwiegend ist, dass dem Mandanten die Fortsetzung des Mandatsverhältnisses nicht zugemutet werden kann. Nicht jede sorgfaltswidrige Nutzung von KI rechtfertigt somit eine außerordentliche Kündigung aus wichtigem Grund. Die Pflichtverletzung muss eine hinreichende Schwere haben.

Hinweis: Die sorgfaltswidrige Nutzung von KI muss das Vertrauensverhältnis nachhaltig erschüttern. Ob die hierfür erforderliche Erheblichkeitsschwelle überschritten ist, hängt stets von den Umständen des konkreten Einzelfalls ab und kann nicht pauschal beurteilt werden.

5. Anspruch auf Rückzahlung der eigenen Anwaltskosten?

Nach einer Mandatskündigung wegen pflichtwidriger KI-Nutzung durch den Anwalt stellt sich unweigerlich eine weitere Frage: Hat der Mandant einen Anspruch auf Rückzahlung des Honorars?

Beantwortet wird diese Frage in § 628 Abs. 1 BGB. In dieser recht sperrig formulierten Vorschrift ordnet der Gesetzgeber folgendes an:

„Wird nach dem Beginn der Dienstleistung das Dienstverhältnis auf Grund des § 626 oder des § 627 gekündigt, so kann der Verpflichtete einen seinen bisherigen Leistungen entsprechenden Teil der Vergütung verlangen. Kündigt er, ohne durch vertragswidriges Verhalten des anderen Teiles dazu veranlasst zu sein, oder veranlasst er durch sein vertragswidriges Verhalten die Kündigung des anderen Teiles, so steht ihm ein Anspruch auf die Vergütung insoweit nicht zu, als seine bisherigen Leistungen infolge der Kündigung für den anderen Teil kein Interesse haben. Ist die Vergütung für eine spätere Zeit im Voraus entrichtet, so hat der Verpflichtete sie nach Maßgabe des § 346 oder, wenn die Kündigung wegen eines Umstands erfolgt, den er nicht zu vertreten hat, nach den Vorschriften über die Herausgabe einer ungerechtfertigten Bereicherung zurückzuerstatten.“

Für eine Rückzahlung bereits geleisteter Anwaltskosten müssen also gleich mehrere Voraussetzungen erfüllt sein. Um folgende Punkte handelt es sich:

6. Haftung des Anwalts für Fehler der KI

Die zivilrechtliche Haftung des Rechtsanwalts für fehlerhafte KI-Ergebnisse unterscheidet sich nicht von sonstigen Fällen der Anwaltshaftung, etwa wegen Fristversäumnis oder Beratungsfehlern. Eine Haftung richtet sich also nach den allgemeinen Grundsätzen des Vertragsrechts.

• Beachte: Anwälte und Anwaltssozietäten haften persönlich für Fehler von KI-Systemen, sobald die Ergebnisse der KI verwendet werden. Eine „Abwälzung“ der Haftung auf den Anbieter der KI ist nicht möglich. Auch ist es unzulässig, die eigene Haftung für Fehler der KI auszuschließen oder zu begrenzen (z.B. durch eine Klausel wie: „Eine Haftung für Fehler von KI-Systemen wird ausgeschlossen.“).

Ein Anspruch des Mandanten auf Schadensersatz hat daher regelmäßig folgende Voraussetzungen:

Fazit

Die Nutzung von KI steht in der Anwaltschaft noch am Anfang. Die Rechtslage und Rechtsprechung werden sich hierzu in den kommenden Jahren sicherlich fortentwickeln. Am Kern der hier dargestellten anwaltlichen Pflichten dürfte sich aber zumindest wenig ändern.

Völlig offen ist die Entwicklung bei verwandten Fragen, die in diesem Beitrag nicht behandelt werden konnten. Relevant könnte beispielsweise die Frage werden, ob gegen den Betreiber von KI-Systemen ein Anspruch auf Produkthaftung bestehen kann, wenn KI-Ergebnisse falsch sind oder aus anderen Gründen einen Schaden verursachen.

Kurzum: Es bleibt spannend!

© Rechtsanwalt C.D. Franz

Dieser Beitrag enthält keine Rechtsberatung und dient lediglich der allgemeinen Information.