Das Forschungsprojekt leiten Prof. Dr. Philipp Reuß vom Institut für Privat- und Prozessrecht und Dr. Valentin Gold von der Sozialwissenschaftlichen Fakultät, der zu unterschiedlichen Anwendungsbereichen von Künstlicher Intelligenz arbeitet. Im Projekt wird es vor allem darum gehen, die Akzeptanz und Rechtskonformität des geplanten Vorgehens abzusichern sowie rechtliche und technische Grenzen des KI-Einsatzes zur Unterstützung der richterlichen Entscheidungsfindung aufzuzeigen.
Hürden des KI-Einsatzes
Aus technischer Sicht geht es unter anderem darum, welche Anforderungen die Daten und welche Voraussetzungen die angewandten Algorithmen erfüllen müssen. Zudem geht es um die Frage, wie transparent das Ergebnis dargestellt werden muss, damit eine Akzeptanz gewährleistet ist – in der Gesellschaft ebenso wie bei den Richterinnen und Richtern. Untersucht wird außerdem, ob der Einsatz von KI durch eine externe Zertifizierungsstelle zuverlässig überwacht werden kann.
Aus rechtlicher Sicht geht es vor allem darum, welche Anforderungen an ein KI-basiertes Richterassistenzsystem sich aus dem Verfassungs- und dem Zivilverfahrensrecht ergeben. „Wer hat die Hoheit über die Daten, mit der die KI trainiert wird? Dies müssen wir mit Blick auf den Gewaltenteilungsgrundsatz beantworten“, erklärt Reuß. „Die Ausgestaltung des Assistenzsystems muss zum Beispiel das richterliche Entscheidungsmonopol, das Recht auf rechtliches Gehör und das Rechtsstaatsprinzip insbesondere mit Blick auf die Begründung und Begründbarkeit von Entscheidungen gewährleisten. Weitere Fragen stellen sich auch hinsichtlich des Diskriminierungsverbots, des Gebots des effektiven Rechtsschutzes und des Unmittelbarkeitsgrundsatzes im Rahmen der Beweiswürdigung.“
