Vorsicht vor dem digitalen Beichtstuhl: KI-Chats können vor Gericht gegen Sie verwendet werden

Was viele Nutzer von ChatGPT, Claude und anderen KI-Chatbots bislang sorglos ignorierten, wird nun zur juristischen Zeitbombe: Ihre vertraulichen Gespräche mit künstlicher Intelligenz genießen keinerlei rechtlichen Schutz – und können im Ernstfall als Beweismittel gegen Sie eingesetzt werden. Ein wegweisendes Urteil eines New Yorker Bundesrichters hat in der amerikanischen Anwaltschaft Schockwellen ausgelöst und dürfte auch für deutsche Nutzer ein dringender Weckruf sein.

Ein Richterspruch mit weitreichenden Folgen

Der Fall, der die juristische Fachwelt aufschreckte, dreht sich um Bradley Heppner, den ehemaligen Vorstandsvorsitzenden des insolventen Finanzdienstleisters GWG Holdings. Heppner, dem Wertpapier- und Überweisungsbetrug vorgeworfen wird, hatte den KI-Chatbot Claude von Anthropic genutzt, um Berichte über seinen Fall vorzubereiten und diese anschließend mit seinen Anwälten zu teilen. Seine Verteidiger argumentierten, die KI-Konversationen müssten vertraulich bleiben, da sie Details aus der anwaltlichen Verteidigungsstrategie enthielten.

Die Staatsanwaltschaft sah das naturgemäß anders. Und Richter Jed Rakoff gab ihr Recht. In seiner Entscheidung vom Februar ordnete er an, dass Heppner 31 mit Claude generierte Dokumente an die Ermittler herausgeben müsse. Die Begründung war so simpel wie vernichtend: Zwischen einem KI-Nutzer und einer Plattform wie Claude könne kein Mandatsverhältnis bestehen – und folglich greife auch das anwaltliche Schweigerecht nicht.

Der KI-Chatbot ist kein Anwalt – und wird es nie sein

Was auf den ersten Blick selbstverständlich klingt, hat in der Praxis enorme Sprengkraft. Millionen Menschen weltweit nutzen KI-Chatbots mittlerweile als eine Art digitalen Berater – für medizinische Fragen, finanzielle Entscheidungen und eben auch für rechtliche Angelegenheiten. Doch wer seine intimsten juristischen Sorgen einem Algorithmus anvertraut, der sollte wissen: Diese Gespräche sind so vertraulich wie ein Plakat am Marktplatz.

Richter Rakoff wies bei einer Anhörung ausdrücklich darauf hin, dass Claude in seinen Nutzungsbedingungen klipp und klar festhalte, dass Nutzer „keine Erwartung an die Vertraulichkeit ihrer Eingaben" haben dürften. Sowohl OpenAI als auch Anthropic behalten sich in ihren Datenschutzrichtlinien das Recht vor, Nutzerdaten an Dritte weiterzugeben. Beide Unternehmen empfehlen zudem, vor der Nutzung ihrer Chatbots für rechtliche Fragen einen qualifizierten Fachmann zu konsultieren. Wie viele Nutzer diese Hinweise tatsächlich lesen, darf getrost bezweifelt werden.

Anwaltskanzleien schlagen Alarm

In der Folge des Urteils haben mehr als ein Dutzend großer US-Kanzleien ihre Mandanten in E-Mails und öffentlichen Stellungnahmen eindringlich gewarnt. „Wir sagen unseren Mandanten: Sie sollten hier mit äußerster Vorsicht vorgehen", erklärte Alexandria Gutiérrez Swette von der New Yorker Kanzlei Kobre & Kim. Die Ratschläge reichen von der sorgfältigen Auswahl der KI-Plattform bis hin zu konkreten Formulierungsvorschlägen für Chatbot-Eingaben.

Besonders bemerkenswert: Die Kanzlei Sher Tremonte, die häufig Angeklagte in Wirtschaftsstrafverfahren vertritt, hat in einem neuen Mandatsvertrag vom März ausdrücklich festgehalten, dass die Weitergabe vertraulicher anwaltlicher Kommunikation an eine KI-Plattform eines Drittanbieters einen Verzicht auf das anwaltliche Schweigerecht darstellen könne. Wer also die Ratschläge seines Anwalts in einen Chatbot eintippt, riskiert, den gesamten Schutz seiner Verteidigung zu untergraben.

Geschlossene Systeme als möglicher Ausweg?

Einige Kanzleien, darunter die renommierte Großkanzlei O'Melveny & Myers, empfehlen den Einsatz sogenannter „geschlossener" KI-Systeme, die speziell für den Unternehmenseinsatz konzipiert seien und einen stärkeren Schutz für rechtliche Kommunikation bieten könnten. Allerdings räumen selbst die Befürworter ein, dass diese Einschätzung juristisch weitgehend ungetestet sei. Die Kanzlei Debevoise & Plimpton rät Mandanten, bei der Nutzung von KI-Tools für juristische Recherchen ausdrücklich zu vermerken, dass die Recherche auf Anweisung eines Anwalts erfolge – ein Hinweis, der den Schutz des anwaltlichen Schweigerechts möglicherweise aufrechterhalten könnte.

Zwei Urteile, zwei Welten

Interessanterweise fiel am selben Tag wie Rakoffs Entscheidung ein zweites Urteil, das in eine gänzlich andere Richtung weist. Ein Richter in Michigan entschied, dass eine Frau, die sich in einem arbeitsrechtlichen Verfahren selbst vertrat, ihre ChatGPT-Konversationen nicht an die Gegenseite herausgeben müsse. Richter Anthony Patti behandelte die KI-Chats als persönliches „Arbeitsergebnis" der Klägerin und stellte klar: „ChatGPT und andere generative KI-Programme sind Werkzeuge, keine Personen."

Diese widersprüchlichen Entscheidungen verdeutlichen, dass die Rechtsprechung in diesem Bereich noch in den Kinderschuhen steckt. Juristen erwarten, dass weitere Urteile in den kommenden Jahren Klarheit schaffen werden. Bis dahin gilt die uralte Anwaltsweisheit mehr denn je: Sprechen Sie über Ihren Fall mit niemandem außer Ihrem Anwalt – und schon gar nicht mit einer künstlichen Intelligenz.

Was bedeutet das für Deutschland?

Auch wenn das Urteil zunächst nur die US-amerikanische Rechtsprechung betrifft, sollten deutsche Nutzer hellhörig werden. Die Datenschutzgrundverordnung bietet zwar einen gewissen Schutz, doch wer sensible Informationen in die Server amerikanischer Tech-Konzerne einspeist, begibt sich auf dünnes Eis. In einer Zeit, in der die Digitalisierung nahezu jeden Lebensbereich durchdringt und der Staat immer tiefere Einblicke in das Privatleben seiner Bürger fordert, ist Wachsamkeit das Gebot der Stunde.

Die blinde Technikgläubigkeit, mit der viele Menschen KI-Tools als allwissende Orakel behandeln, ist nicht nur naiv – sie kann existenzbedrohend werden. Wer einem Chatbot seine rechtlichen Probleme anvertraut, handelt so, als würde er seine Verteidigungsstrategie auf einer Postkarte an die Staatsanwaltschaft schicken. Die Technologie mag beeindruckend sein. Vertrauenswürdig ist sie nicht.