KI vor Gericht: Was wir aus COMPAS lernen müssen

Vor einigen Monaten stieß ich in einem Fachgespräch mit Jurist:innen auf einer internationalen Konferenz auf einen Fall aus den USA, der mich bis heute beschäftigt. Ein junger Angeklagter erhielt vom Gericht eine hohe Risikobewertung für Rückfälligkeit. Grundlage war nicht das Verhalten vor Gericht und auch nicht die Umstände der Tat, sondern tatsächlich ein Algorithmus: Ja, es handelte sich dabei um das berüchtigte und kontrovers diskutierte COMPAS-System (= Correctional Offender Management Profiling for Alternative Sanctions), das in den USA Anwendung findet. In den USA ist mit COMPAS seit den 2000er Jahren bereits ein System im Einsatz, das das Rückfallrisiko von Angeklagten berechnet. Es dient Richter:innen und Bewährungsbehörden als Entscheidungshilfe (z. B. bei Strafzumessung, vorzeitiger Entlassung oder Bewährungsauflagen). Gerade dieser Einsatz löst immer wieder heftige Debatte aus: Darf die Justiz ihre Entscheidungen auf Prognosen stützen, die aus undurchsichtigen Algorithmen stammen? Wie lässt sich das mit rechtsstaatlichen Prinzipien vereinbaren? Diese Fragen betreffen nicht nur die USA – auch in Europa (und damit in Österreich) rücken sie näher. Während bei uns bislang keine vergleichbaren Tools eingesetzt werden dürfen, ist die Diskussion darüber aber längst eröffnet.

Um auf den exemplarischen Fall aus den USA zurückzukommen: Das Urteil fiel jedenfalls spürbar härter aus, weil ein KI-System errechnet hatte, dass der Angeklagte wohl wieder straffällig werden würde. Im Gespräch mit den Jurist:innen bei der Konferenz fragte ich mich: Was wäre, wenn ein solches System in Österreich zum Einsatz käme? Würden wir es akzeptieren, wenn Richter:innen ihre Entscheidungen auf eine „Black Box“ stützten, deren Funktionsweise niemand wirklich versteht? Wäre das noch Rechtsprechung – oder schon reine Technikverwaltung? Zugegeben: Zum Status quo wäre der Einsatz eines solchen KI-Tools in Österreich und in der EU aufgrund verschiedener gesetzlicher Vorschriften (u. a. wegen des AI Acts) nicht möglich – aber über einen solchen hypothetischen Fall nachdenken sollte man durchaus, insbesondere aus Sicht der (Rechts-)Ethik. Aber worin liegt die (rechts-)ethische Herausforderung?

In einer Zeit, in der KI immer mehr Lebensbereiche durchdringt, stellt sich die Frage, ob wir bereit sind, auch den Justizsektor – den wohl empfindlichsten Bereich staatlicher Gewalt – algorithmischen Prognosen zu überlassen (oder eben nicht). Die Justiz gilt immer noch als Inbegriff menschlicher Urteilskraft. Richter:innen und Geschworene sollen nicht nur Gesetze anwenden, sondern den Einzelfall unter normativen Gesichtspunkten würdigen. Mit dem Einzug von KI-Systemen (etwa in die Strafjustiz) würde sich dieses Selbstverständnis verändern – eine Transformation, die ethisch zutiefst fragwürdig erscheint.

COMPAS basiert auf umfangreichen Fragebögen, die Faktoren wie Bildung, Beschäftigung, frühere Verurteilungen und soziales Umfeld erfassen. Daraus errechnet das System eine Risikokategorie für Rückfälligkeit. Die vermeintliche Objektivität erweist sich jedoch als trügerisch. Untersuchungen – allen voran jene von ProPublica 2016 – belegten, dass COMPAS vor allem People of Color systematisch als risikoreicher einstufte als weiße Vergleichspersonen, obwohl die tatsächliche Rückfallquote dies nicht rechtfertigte. Der Algorithmus reproduziert damit also bestehende gesellschaftliche Ungleichheiten.

Zudem ist COMPAS ein proprietäres System: Die Berechnungslogik bleibt geheim, selbst Gerichte haben keinen effizienten Einblick. Für Angeklagte bedeutet das, dass sie nicht verstehen, geschweige denn anfechten können, warum sie eine bestimmte Risikobewertung erhalten haben. Ein klarer Konflikt, oder? Ja, durchaus. Nämlich mit fundamentalen rechtsstaatlichen Prinzipien (wie bspw. dem Anspruch auf ein faires Verfahren).

Auch wenn Österreich kein COMPAS nutzt: Die Herausforderung ist identisch. Sollten künftig KI-gestützte Prognosesysteme bei uns eingesetzt werden, stünden wir vor derselben Frage: Wie verhindern wir, dass Algorithmen intransparent wirken, Diskriminierungen verstärken und Vertrauen in die Justiz untergraben?

Die technische Analyse ist wichtig, doch die eigentliche Herausforderung liegt im normativen Bereich. KI in der Justiz zwingt uns, über das Wesen des Rechts und die moralische Legitimität von Entscheidungen ernsthaft nachzudenken – sowohl was die positiven als auch die negativen Aspekte betrifft. Ethik wird hier nicht zum „Luxus“ oder zu einem „Nice to have“, sondern zur unverzichtbaren Leitdisziplin.

Ich möchte dahingehend nun in aller Kürze drei wesentliche Säulen hervorheben:

(1) Utilitaristische Perspektive: KI könnte die Effizienz steigern, Verfahren beschleunigen und Ressourcen sparen. Wenn die öffentliche Sicherheit dadurch erhöht wird, scheint der gesellschaftliche Nutzen evident.

(2) Deontologische Perspektive: Doch Effizienz allein reicht nicht. Werden Angeklagte auf Grundlage statistischer Profile behandelt, werden sie auf Wahrscheinlichkeiten reduziert – und somit nicht mehr als autonome Subjekte vor dem Gesetz anerkannt. Das widerspricht der Menschenwürde und zentralen rechtsstaatlichen Garantien.

(3) Tugendethische Perspektive: Die richterliche Entscheidung erfordert Urteilskraft, Verantwortungsbewusstsein und Sensibilität für die Besonderheiten des Einzelfalls. Werden Algorithmen zur dominierenden Entscheidungsbasis, droht diese richterliche Tugendhaftigkeit zu erodieren. Für Österreich ist dieser rechtsethische Rahmen allemal entscheidend, da unsere Rechtsordnung auf Prinzipien wie Menschenwürde, Unschuldsvermutung und richterliche Unabhängigkeit gebaut ist. Solange KI-Systeme nicht erklären können, warum sie zu einem Ergebnis gelangen, bleibt ihre Einbindung in den Kernbereich richterlicher Tätigkeit hoch problematisch.

Ethik fungiert hier als eine Art „Schutzschirm“ gegen eine technokratische Verengung: Sie möchte uns daran erinnern, dass Recht nicht nur eine Berechnung, sondern eine normative Praxis ist.

Das Beispiel COMPAS skizziert ausdrücklich, wie ambivalent der Einsatz von KI in der Justiz ist. Einerseits lockt die Aussicht auf mehr Effizienz, Konsistenz und Vorhersagbarkeit, andererseits aber droht eine gefährliche Verschiebung. Sie lautet: Die Distanzierung von individueller Gerechtigkeit und hin zu einer „Statistik-Justiz“, die Ungleichheiten verfestigt. Für Österreich und die EU bedeutet das: Es gibt noch die Chance, Fehler der USA zu vermeiden. Die Debatte um KI muss nicht erst beginnen, wenn entsprechende Systeme längst implementiert sind, sondern jetzt – im Vorfeld. Zentrale Voraussetzungen sind Transparenz, unabhängige Überprüfbarkeit und die Möglichkeit, algorithmische Bewertungen rechtlich anzufechten. Mehr noch: Die rechtsethische Reflexion ist nicht nur Begleitung, sondern Bedingung legitimer Rechtspflege. Ohne sie droht der Justiz der Verlust an Vertrauen, Legitimität und moralischer Autorität.

Die Lehre aus COMPAS kann zusammenfassend wie folgt definiert werden: Gerechtigkeit ist nicht algorithmisch erzwingbar. KI kann die richterliche Arbeit unterstützen, aber nicht ersetzen. Gerade in Zeiten wachsender Automatisierung bleibt es Aufgabe von Richter:innen, als letzte Instanz Verantwortung zu übernehmen – und damit die Menschlichkeit des Rechts zu bewahren. Law without ethics? It’s difficult!