Die fortschreitende Integration von Künstlicher Intelligenz (KI) in die juristische Arbeit verspricht Effizienz, birgt aber signifikante Haftungs- und Sorgfaltsrisiken. Mit sogenannten KI-Halluzination, also mit falschen oder erfundenen „Fakten“, wurde nun ein Anwalt vom Gericht erwischt. Eine solche Pflichtverletzung schädigt nicht nur das Ansehen, sondern kann nachgelagert zur berufsrechtlichen Verantwortung gezogen werden.
Sachverhalt: Erfundene Zitate und falsche Rechtsregeln
In einem familiengerichtlichen Verfahren rügte das AG Köln (Az. 312 F 130/25) den Schriftsatz eines Fachanwalts für Familienrecht. Das Gericht stellte fest, dass die einige aufgeführten Voraussetzungen und Fundstellen „offenbar mittels künstlicher Intelligenz generiert und frei erfunden“ waren. Konkret wurden nicht existente Urteile, fiktive Monografien, Aufsätze sowie falsche Kommentatoren und Randziffern zitiert. Besonders gravierend war die Feststellung, dass eine gänzlich neue und inhaltlich falsche Rechtsregel postuliert wurde, die ein Fachanwalt sofort hätte als juristischen Unfug identifizieren müssen. Der Schriftsatz sei aufgrund des ungeprüften Outputs der KI unbrauchbar und irreführend.
Gerichtliche Entscheidung und Berufsrechtsverstoß
Das Amtsgericht Köln rügte den Anwalt scharf und betonte, dass der Verfahrensbevollmächtigte derartige Ausführungen künftig zu unterlassen habe. Solches Verhalten erschwere die Rechtsfindung, führe unkundige Leser in die Irre und schädige das Ansehen des Rechtsstaates und insbesondere der Anwaltschaft empfindlich. Das Gericht wies explizit darauf hin, dass die bewusste Verbreitung von Unwahrheiten – wozu der wissentlich falsche Vortrag über Inhalt und Aussagen von Gesetzen und Urteilen gehört – einen Verstoß gegen das Sachlichkeitsgebot gemäß § 43a Abs. 3 BRAO darstellt.
Ahndung im berufs- oder strafrechtliche Verfahren
Die Entscheidung zeigt, dass die ungeprüfte Übernahme KI-generierter, falscher Zitate einen klaren Verstoß gegen die anwaltlichen Berufspflichten zur Sorgfalt und Sachlichkeit darstellt. Obwohl der richterliche Hinweis auf den Berufsrechtsverstoß streng genommen ein obiter dictum ist und das Gericht keine unmittelbare Sanktionsmacht hat, entfaltet er eine nicht zu unterschätzende faktische Wirkung. Der betroffene Anwalt muss ein berufsrechtliches Verfahren befürchten.
Die Sanktionierung erfolgt in Deutschland ausschließlich nachgelagert durch Berufs- oder Strafrecht, da unmittelbare prozessuale Sanktionen im laufenden Verfahren mangels gesetzlicher Grundlage fehlen. Dies liegt am Grundsatz iura novit curia (das Gericht kennt das Recht), weshalb ein Gericht über die Rechtslage nicht getäuscht werden kann. Eine Strafbarkeit wegen versuchten Prozessbetrugs durch erfundene Rechtsquellen wird überwiegend als objektiv ungeeignet zur Täuschung des Richters angesehen.
Bedeutung für die Anwaltschaft
Für Kanzleien und Anwälte ergeben sich aus dem Fall zwei zentrale Lehren. Zum einen ist der Anwalt nach § 43 S. 1 BRAO zur gewissenhaften Berufsausübung verpflichtet. KI-Systeme dürfen die Tätigkeit nur unterstützen, nicht ersetzen. Eine eigenverantwortliche Überprüfung und Endkontrolle sämtlicher KI-Ergebnisse ist stets erforderlich, da KI-generierten Arbeitsprodukten im Gegensatz zu erfahrenen Mitarbeitern kein „Grundvertrauen“ entgegengebracht werden darf. Eine unsaubere Arbeit kann oft für eine naive Unkenntnis des Anwenders über die Funktionsweise der KI als probabilistischen Textgenerator sprechen.
Unabhängig von Halluzinationen kann die Nutzung öffentlich zugänglicher KI-Tools zu schwerwiegenden Datenschutz- und Compliance-Verstößen führen. Die Eingabe sensibler, vertraulicher Mandanteninformationen, die Rückschlüsse auf ein konkretes Mandatsverhältnis zulassen, kann die anwaltliche Verschwiegenheitspflicht gemäß § 43a Abs. 2 BRAO verletzen. Kanzleien sollten daher interne Richtlinien festlegen, die die Verwendung von abstrakten Prompts und die vorherige Anonymisierung von Dokumenten vorschreiben.
BRAK und DAV zu KI in der Anwaltschaft
Aus gegeben Anlass ist der gesamten Anwaltschaft die Lektüre der Veröffentlichungen der Bundesrechtsanwaltskammer (BRAK) und des Deutschen Anwaltvereins (DAV) dringen zu empfehlen. Diesehaben die Pflicht zur kritischen Überprüfung des KI-Outputs in Leitfäden und Stellungnahmen konkretisiert.
Die BRAK veröffentlichte bereits im Dezember 2024 einen Leitfaden zum berufsrechtskonformen Einsatz von KI. Die BRAK betont, dass der Einsatz von KI-Systemen lediglich zur Unterstützung dienen dürfe und nicht die anwaltliche Tätigkeit ersetzen kann. Die eigenverantwortliche Überprüfung und Endkontrolle der KI-Ergebnisse ist zwingend erforderlich. Explizit wird vor dem Risiko der „Halluzinationen“ gewarnt. Die BRAK empfiehlt ferner, abstrakte Anfragen zu stellen und Dokumente vor dem Upload zu anonymisieren.
Aufbauend auf den BRAK-Hinweisen legte der DAV im Juli 2025 die Initiativ-Stellungnahme Nr. 32/2025 vor, um Juristen eine praxisnahe Orientierungshilfe zu bieten. Der DAV bekräftigt, dass Anwältinnen und Anwälte nur gewissenhaft handeln, wenn sie das Ergebnis der KI kritisch prüfen. Sowohl BRAK als auch DAV stellen klar, dass kein „Grundvertrauen“ in KI-generierte Arbeitsprodukte gesetzt werden darf, wie es möglicherweise in langjährige, erfahrene Mitarbeitende gesetzt wird. Der DAV konkretisiert, dass alle Belegstellen in KI-Texten vollständig zu prüfen sind, selbst wenn keine konkreten Hinweise auf Halluzinationen vorliegen.
Fazit
Der Fall des AG Köln ist ein dringender Warnruf an die Anwaltschaft. Die bestehenden berufsrechtlichen Pflichten, insbesondere die Sorgfalts- und Wahrheitspflicht, gelten uneingeschränkt weiter, unabhängig von der genutzten Technologie. Kanzleien sollten sicherstellen, dass alle Mitglieder im sicheren und kritischen Umgang mit KI geschult sind. Um die Qualität anwaltlicher Arbeit zu sichern, wird diskutiert, die Berufsordnung zu ergänzen und Anwälte zu verpflichten, bei Einreichung eines Schriftsatzes zu versichern, dass alle zitierten Fundstellen auf ihre Existenz und Richtigkeit überprüft wurden.
Die zentrale Schlussfolgerung bleibt: KI ist ein Hilfsmittel, aber die redaktionelle Verantwortung für den Inhalt trägt immer der Mensch, der den Schriftsatz unterzeichnet. Unsere Rechtsanwälte und KI-Beauftragten bei KINAST beraten Kanzleien und Rechtsabteilungen umfassend zum sicheren und datenschutzkonformen Einsatz von KI-Tools in der anwaltlichen Praxis.
Der „KI-Beauftragte“ –
Ihre Lösung für rechtssichere KI-Compliance
Wir bieten Unternehmen eine umfassende Lösung für die rechtlichen und regulatorischen Herausforderungen, die der Einsatz von KI mit sich bringt.
