Direkt zum Inhalt wechseln
Beitrag

Gefährliche Intelligenz: Warum KI keine persönliche Rechtsberatung ersetzen kann

Immer mehr Rechtsuchende nutzen KI-Tools, um sich rechtlich zu orientieren. Doch eine aktuelle Untersuchung der Europäischen Rundfunkunion (EBU), die sich auch auf den Rechtsberatungsbereich übertragen lässt, zeigt, dass in 45% der KI-Antworten Nachrichteninhalte signifikante Fehler enthalten. Für die Rechtsberatung bedeutet das, dass KI weiterhin keine absolut zuverlässigen und rechtssicheren Auskünfte liefert. Wer sich also auf automatisierte Auskünfte verlässt, riskiert Falschinformation mit weitreichenden, rechtlichen Folgen. In diesem Beitrag klären wir, warum persönliche Rechtsberatung im KI-Zeitalter unverzichtbar bleibt und wie sich Unternehmen und Anwält:innen darauf einstellen sollten.

Die EBU‑Studie mit Beteiligung von 22 öffentlich‑rechtlichen Medienorganisationen aus 18 Ländern und in 14 Sprachen kommt zu dem Ergebnis, dass rund 45 % aller untersuchten Antworten von KI‑Assistenten zumindest einen erheblichen Fehler aufweisen. Zu den zentralen Mängeln gehören u. a. fehlerhafte Quellenangaben (31 % der Fälle) sowie Halluzinationen bzw. veraltete Informationen (20 %). Obgleich die Studie im Medien‑/Nachrichtenkontext durchgeführt wurde, ist das Thema für die Rechtsberatung hochrelevant, denn den meisten KI-Anwendungen liegen dieselben Sprachmodelle zugrunde, die auch im untersuchten Bereich geprüft wurden. Es kann zunehmend beobachtet werden, dass Klient:innen oder beteiligte Parteien sich auf Aussagen von KI‑Systemen stützen, z. B. indem „ChatGPT gab mir …“ vorgebracht wird, und damit mit vermeintlicher (aber fehlerhafter) Rechtsberatung argumentieren. Dieser Beitrag soll juristische Risiken der KI-Nutzung in der Rechtsbranche thematisieren und eine Praxisempfehlung abgeben.

 

Haftung und Bedeutung von Sorgfaltspflichten

Wenn sich Mandant:innen auf ungenaue oder falsche Informationen stützen, kann dies einen nicht unerheblichen Schaden verursachen, unter anderem in Form von finanziellen oder rechtlichen Nachteilen.
Aber auch Rechtsanwält:innen dürfen sich nicht blind auf KI-generierte Inhalte verlassen. Gerade in digitalisierten Prozessen gilt es, die übliche Sorgfalt zu wahren: Bei der Nutzung von KI‑Tools bedeutet dies, dass die generierten Auskünfte nicht einfach ungeprüft übernommen werden dürfen. Andernfalls könnte sich ein Anwalt‑Mandant‑Verhältnis so darstellen, dass das Beratungsmandat auf unzureichender Grundlage erfolgt. Daraus ergeben sich mögliche Haftungsrisiken.

Mandant:innen wie auch Dritte, die sich auf solche ungeprüften KI‑Aussagen stützen, können im Geschäftsverkehr folgenschwere fehlerhafte Entscheidungen treffen – dies kann wettbewerbs‑ oder regulatorische Risiken erzeugen (z. B. im Datenschutz‑ oder Compliance‑Kontext).

Ein Beispiel verdeutlicht das anschaulich: Ein Unternehmen stützt sich auf eine KI-generierte Aussage, dass eine bestimmte Datenverarbeitung keine Einwilligung erfordere. Tatsächlich ist jedoch eine differenzierte datenschutzrechtliche Einzelfallprüfung notwendig – mit dem Ergebnis, dass ohne Einwilligung ein erheblicher datenschutzrechtlicher Verstoss vorliegt. Erst durch eine nachträgliche persönliche Beratung kann das Unternehmen Schadensbegrenzung betreiben. Dieser Fall verdeutlicht: Ohne juristische Tiefenprüfung sind Fehlentscheidungen vorprogrammiert.

 

Grenzen von KI-Modellen im Rechtskontext

Die EBU‑Studie legt dar, dass KI‑Assistenten zwar Antworten generieren, aber keine Garantie für Korrektheit oder Quelle bieten. Im Rechtsbereich heisst das:

  • Aussagen können unvollständig oder falsch sein (Fehlerrate ~ 45 %).
  • Hintergrunddaten sind oft veraltet, gerade in Rechtsgebieten mit jüngerer Rechtsentwicklung oder aktuellen Gerichtsentscheiden.
  • Ausführliche Kommentarliteratur steht nicht offen im Internet zur Verfügung, weshalb eine KI-Anwendung auf diese Daten im Regelfall nicht zurückgreifen kann. Die KI-generierte Antwort umfasst somit nicht alle verfügbaren Quellen.
  • Die Herleitung einer Antwort ist vielfach nicht nachvollziehbar und entzieht sich einer qualitativen rechtlichen Überprüfung. Fehlende oder falsche Quellenangaben bergen das Risiko einer unnachprüfbaren «Beratung».
  • KI kann nicht die Verantwortung oder Haftung übernehmen – das bleibt menschlicher Rechtsberatung vorbehalten.

 

Was persönliche Rechtsberatung leisten kann – und KI nicht

Persönliche Rechtsberatung beginnt dort, wo KI ihre strukturellen Grenzen erreicht. Juristische Expertise ist keine Frage reiner Wissenswiedergabe, sondern beruht auf Interpretation, Abwägung und strategischer Erfahrung. Ein Anwalt analysiert nicht nur abstrakte Rechtsnormen, sondern berücksichtigt auch die konkreten Auswirkungen für das Unternehmen, branchenspezifische Anforderungen und zwischenmenschliche Dynamiken in einem Rechtskonflikt.

Darüber hinaus sind juristische Einschätzungen häufig nicht binär – es braucht das Fingerspitzengefühl eines erfahrenen Rechtsberaters, um Risiken zu gewichten, Prozesschancen realistisch einzuschätzen und individuelle Lösungen zu entwickeln, die über rein formale Aussagen hinausgehen.

 

Warum persönliche Rechtsberatung nicht obsolet ist

Die Studie der EBU zeigt eindrücklich, dass KI‑Assistenten systematische Schwächen haben. Eine professionelle Rechtsberatung hingegen bietet:

  • Individuelle Prüfung des Falls mit allen relevanten Rahmenbedingungen (Sachverhalt, Branche, Vertragswerk, Gerichts‑ und Verwaltungspraxis)
  • Haftung und Sorgfaltspflicht: Damit entsteht ein verlässliches Fundament für rechtliche Entscheidungen
  • Transparenz und Nachvollziehbarkeit der Quellen und Argumentation
  • Anpassung an spezifische rechtliche Anforderungen (z. B. CH Recht, regulatorische Besonderheiten)

Und nicht zuletzt ist da der menschliche Faktor: Facetten eines Problems lassen sich oftmals nur in einem persönlichen Gespräch und Austausch erkennen. Das kann aber den entscheidenden Unterschied bei der rechtlichen Lösung ausmachen. Dieses Transferdenken bleibt dem Menschen vorbehalten, eine Maschine ist dazu nicht in der Lage.

Zudem schafft persönliche Rechtsberatung ein Vertrauensverhältnis, das weit über die blosse Informationsvermittlung hinausgeht. Mandant:innen erwarten nicht nur rechtlich korrekte Antworten, sondern eine Einschätzung, wie sie mit einer Situation umgehen sollen – ob es sich lohnt, eine Forderung durchzusetzen, wie man sich taktisch klug verhält oder ob ein Vergleich der bessere Weg ist. Diese beratende Rolle, die sich auch psychologischer und strategischer Elemente bedient, kann keine KI übernehmen.

 

Fazit und Handlungsempfehlung für die Praxis

Wer sich auf automatisierte KI‑Rechtsauskünfte verlässt, geht ein signifikantes Risiko ein, allein schon aufgrund der – nicht beseitigbaren – Fehlerquote, mangelnder Nachvollziehbarkeit von Quellen und Fehlen von kombiniertem Denken.

Für Unternehmen, Mandant:innen und Rechtsberatende gilt daher: Persönliche, sorgfältige Rechtsberatung bleibt auch im Zeitalter von KI unverzichtbar. KI kann – und sollte – unterstützend eingesetzt werden, um auch in der Rechtsberatung die Effizienz zu steigern, darf aber nicht unkritisch die Rolle eines menschlichen Juristen übernehmen. Die Nutzung von KI‑Tools zur Voranalyse oder als unterstützende Ressource ist zweckdienlich und erleichtert die Sachverhaltsanalyse, kann aber eine  abschliessende Rechtsberatung nicht ersetzen. Als Rechtsanwält:in müssen wir Mandant:innen aufklären, dass KI-Aussagen keine verbindlichen Lösungen darstellen und KI-basierte Argumente stets fachlich überprüft werden müssen – und zwar im Rahmen der tatsächlichen rechts- bzw. verfahrensrelevanten Argumentation.

Die Kombination aus menschlichem Urteilsvermögen, rechtlicher Verantwortung und persönlichem Mandatsverständnis macht anwaltliche Beratung auch in Zukunft unersetzlich. Unternehmen, die auf fundierte rechtliche Begleitung setzen, sichern sich nicht nur Compliance, sondern vor allem auch Entscheidungssicherheit. Gerade in Zeiten digitaler Verunsicherung ist dieser Mehrwert relevanter denn je.

Zukünftig ist damit zu rechnen, dass regulative Anforderungen steigen, insbesondere im Hinblick auf Haftung, Transparenz und Kennzeichnung von KI‑gestützten Rechtsinformationen. Rechtsanwaltskanzleien sollten sich daher proaktiv mit klaren Vorschriften, Schulungen und einem Bewusstsein für die Haftungsrisiken auf solche Regularien einstellen.

 

Key-Takeaways:

  • KI ist kein Ersatz für anwaltliche Prüfung und strategische Rechtsberatung.
  • Juristische Haftung bleibt beim Menschen – und bedarf menschlicher Kontrolle.
  • Persönliche Beratung berücksichtigt den Einzelfall, branchenspezifische Besonderheiten und aktuelle Entwicklungen.
  • KI kann unterstützen – aber nicht beraten.

 

Quellen