KI in der Justiz: Wenn der "Anwalt" in Österreich halluziniert

Schlüssig, objektiv, präzise?

Die KI sei bei der Anwaltschaft „voll angekommen", sagt Kanduth. Dass sie dort für die Rechtsrecherche genutzt wird, oder um sich einen Überblick über den Akt zu verschaffen, dagegen sei „überhaupt nichts einzuwenden". 

Wenn aber ein Antrag ausschließlich von KI verfasst wird, unnötig lang ist und vor dem Einbringen nicht mehr von einem Fachmann geprüft wird - etwa, weil sich Rechtssuchende den Anwalt gleich ganz sparen wollen -, werde es problematisch. Kanduth skizziert vier Kernprobleme.

Erstens den „Automation Bias": Menschen würden dazu neigen, maschinellen Ergebnissen zu stark zu vertrauen, erklärt er. Was die KI abliefert, klingt schlüssig, objektiv und präzise. Richter, denen die Zeit und die Ressourcen fehlen, um im Detail zu prüfen, könnten darauf hineinfallen.

So geschehen in Leipzig, Deutschland, wo ein Mann in einem Betrugsverfahren mithilfe eines Chatbots einen Antrag auf Befangenheit eines Richters gestellt hat, der gespickt war mit Fehlern - und recht bekam, wie der Spiegel kürzlich berichtete.

Zweites Problem sind „Halluzinationen". Die KI ist darauf programmiert, zu gefallen - sie muss Lösungen finden, und reiht aufgrund mathematischer Wahrscheinlichkeiten Text aneinander. Wenn sie ansteht, erfindet sie eben etwas. 

Ein „Entschuldigung: „Das weiß ich nicht", liest man von einem Chatbot erst, wenn man ihn wiederholt auf Fehler hinweist. Nicht-Juristen sehen diese Fehler nicht, und Juristen wie Richter müssen sich die Zeit nehmen, nachzurecherchieren.

30 frei erfundene Urteile

Kanduth kennt einen Fall, in dem ein Mann einen Chatbot genutzt hat, um Verfahrenshilfe zu beantragen, damit ihm die Republik für einen Antrag auf Schadenersatz einen „echten" Anwalt bezahlt. Der Antrag, der sonst nur ein bis zwei Seiten lang sein muss, erstreckte sich über 60 Seiten und enthielt 30 Zitate aus Entscheidungen des Obersten Gerichtshofes. „Keines davon war richtig", sagt Kanduth - alle waren frei erfunden.

Drittes Problem: die KI neigt dazu, zu übertreiben. In Salzburg gab es laut Kanduth einen Fall, in dem ein Kläger bei Gericht 400 Seiten ablieferte. „Es bleibt uns als Richter nicht erspart, das alles zu lesen", sagt Kanduth. „Und es ist mitunter frustrierend, wenn man mit etwas belastet wird, das nicht einmal ein Mensch geschrieben hat."

„Black Box"

In Österreich fehlen aktuell 225 Richterplanstellen. Im Doppelbudget, das am Mittwoch präsentiert wird, sind keine neuen vorgesehen (der KURIER berichtete). Dass die KI dieses Defizit ausgleichen kann, indem Richter sie stärker bei ihrer Arbeit einsetzen, schließt Kanduth aus - und nennt Problem Nummer vier: „Scheinsicherheit" und fehlende Transparenz.

Die KI verfasst Texte, die den Eindruck größter Objektivität vermitteln. Woher sie ihre Ergebnisse bezieht, wie sie auf ihre Schlussfolgerungen kommt, ist eine „Black Box". Schon deshalb könne eine KI nie einen Richter ersetzen, betont Kanduth. „Richterliches Handeln muss transparent und nachvollziehbar bleiben."

Ethische und rechtliche Fragen

Tatsache ist aber: der Einsatz von KI wird weiter zunehmen. Das bestätigt man auch im Justizministerium, Ziel sei ein „selbstbewusster und offener Zugang", heißt es dort. Aber: „Entscheidungen über den einzelnen Fall müssen stets dem Menschen vorbehalten bleiben, um ethische und rechtliche Fragen angemessen zu berücksichtigen und sicherzustellen, dass die Justiz weiterhin auf menschlichem Urteilsvermögen basiert."

Eingesetzt werde die KI in der Justiz derzeit, um den Posteingang zu optimieren und Mails dem richtigen Empfänger zuzuordnen, als Orientierungshilfe im digitalen Akt oder um Gerichtsentscheidungen, die veröffentlicht werden, zu anonymisieren. Derzeit werde ein Strategiepapier zum weiteren Einsatz erarbeitet.

Algorithmus vs. Mensch

Kanduth erwartet sich Antworten auf offene rechtsstaatliche Fragen, wie er sagt: So sei zu diskutieren, ob ein speziell auf den Einsatz von KI in der Justiz zugeschnittener Rechtsrahmen nötig sei. Oder eine Kennzeichnungspflicht, wenn KI zur Vorbereitung von Entscheidungen eingesetzt wurde. 

So könnte man offenlegen müssen, welche Eingaben (Prompts) verwendet wurden, um zu einer Lösung zu kommen. Kanduth weist in dem Zusammenhang auch auf die heikle Frage der Haftung hin: „Wer ist verantwortlich, wenn die KI fehlerhafte Vorschläge liefert und diese unkritisch übernommen werden?"

Der Rechtsstaat, betonte er in seinem Vortrag, lebe von Vertrauen. „Das entsteht nicht durch Algorithmen, sondern durch Menschen, die nach Recht, Gesetz und Gewissen entscheiden - und dafür Verantwortung übernehmen."