Wer mit einer gerichtlichen Entscheidung nicht einverstanden ist, kann sie heute binnen Sekunden von einem KI-System überprüfen lassen. Das gilt für Urteile und Beschlüsse, für Fragen der Beweiswürdigung ebenso wie für die Auslegung straf- oder strafprozessrechtlicher Vorschriften.
Der Betroffene gibt die Entscheidung in einen Chatbot ein, ergänzt seine eigene Sichtweise und fragt, ob das Gericht richtig entschieden habe. Die Antwort fällt möglicherweise kritisch aus. Eine andere Rechtsauffassung sei vorzugswürdig oder ein bestimmter Gesichtspunkt nicht hinreichend berücksichtigt worden.
Das kann zutreffen. Gerichte entscheiden nicht immer richtig. Aber in der Regel eben schon. Und es gibt bei umstrittenen, ungeklärten oder im Einzelfall schwierigen Tatsachen- oder Rechtsfragen häufig gute Argumente für unterschiedliche Auffassungen. Ihre Gewichtung verlangt juristisches Urteilsvermögen und die sorgfältige Auseinandersetzung mit Argumenten.
Ob ein Chatbot dafür das geeignete Instrument ist, ist zweifelhaft. Er beruht auf Sprachmodellen, die nach Wahrscheinlichkeiten antworten, dabei naturgemäß Fehler machen, insbesondere Rechtsfragen unzutreffend einordnen oder die Tragweite einzelner Argumente verkennen. Sie arbeiten auf der Grundlage schriftlicher Unterlagen ohne eigene Wahrnehmungen.
Vor allem aber neigen sie dazu, den Auffassungen ihrer Nutzer entgegenzukommen. Dieses als Sycophancy bezeichnete Phänomen ist wissenschaftlich untersucht.
Wer einem Chatbot wiederholt erläutert, weshalb eine gerichtliche Entscheidung falsch sei, kann deshalb eine zunehmend zustimmende Bewertung erhalten. Aus einer vertretbaren anderen Rechtsauffassung wird dann womöglich ein eindeutiger Rechtsfehler. Aus einer schwierigen Abwägung eine offensichtlich falsche Entscheidung.
Hinzu kommt, dass die KI regelmäßig nur das Material kennt, das ihr vorgelegt wird. Neben der Entscheidung sind dies häufig ergänzende Angaben und Bewertungen des Betroffenen, deren Richtigkeit das System nicht überprüfen kann.
Problematisch ist die Autorität, die solchen Antworten zugeschrieben wird. Ein Chatbot, der binnen Sekunden eine umfangreiche, sprachlich überzeugende juristische Analyse liefert, erscheint leicht als besonders kompetente und unabhängige Kontrollinstanz. Dass seine Bewertung auf unvollständigen Informationen, einer zweifelhaften Gewichtung rechtlicher Argumente oder schlicht auf dem Wunsch beruhen kann, dem Nutzer entgegenzukommen, bleibt möglicherweise unerkannt.
Schnell entsteht der Eindruck, eine vermeintlich überlegene künstliche Intelligenz habe die Fehler des Gerichts aufgedeckt. Die eigene Unzufriedenheit mit einer Entscheidung erhält damit eine – scheinbar objektive – Bestätigung.
Darin liegt eine Gefahr für das Vertrauen in die Strafjustiz. Nicht weil gerichtliche Entscheidungen keiner Kritik ausgesetzt werden dürften. Im Gegenteil: Gerade die kritische Auseinandersetzung mit gerichtlichen Rechtsauffassungen gehört zum Rechtsstaat. Auch KI kann dazu einen Beitrag leisten.
Problematisch ist vielmehr, wenn ein System den Eindruck einer fachlich überlegenen Überprüfung vermittelt, obwohl es die Grenzen seiner eigenen Bewertung nicht hinreichend berücksichtigt und möglicherweise die Sichtweise des Nutzers bevorzugt.
142 Personen haben diesen Beitrag gelesen
Schreibe einen Kommentar