Herausforderungen von digitaler Diskriminierung: „Algorithmic Bias“ und Art. 7 B-VG

Man stelle sich folgenden Sachverhalt vor: Zuerst eine Bewerbung und dann (k)eine Einladung zum Vorstellungsgespräch. Ja, das ist wohl ein alltäglicher Prozess in Bewerbungsverfahren. Unternehmen und deren Personalverantwortliche entscheiden sich nach Einschätzung und Sichtung der Unterlagen der Bewerber:innen entweder für oder gegen eine:n Bewerber:in. Und jetzt stelle man sich vor: Die Bewerber:innen-Auswahl erfolgt KI-gestützt. Was auf den ersten Blick nach einem üblichen Auswahlverfahren aussieht, kann in Wahrheit ein Symptom eines strukturellen Problems sein: Automatisierte Diskriminierung, ausgelöst durch „Algorithmic Bias“. Darunter versteht man Vorurteile, die nicht durch Menschen, sondern durch Maschinen entstehen – also auch durch KI-Systeme.

In solchen Fällen arbeiten im Hintergrund Algorithmen, die primär aus historischen Daten lernen und dabei oft die Fehler und Vorurteile der Vergangenheit reproduzieren. Da kann es dann vorkommen, dass etwa Frauen bei technischen Jobs seltener berücksichtigt werden als Männer oder Menschen mit „fremdklingenden“ Namen häufiger im Bewerbungsprozess abgelehnt werden. Es kann auch passieren, dass Bewerber:innen aus bestimmten Regionen benachteiligt werden. Das KI-System selbst verfolgt in solchen Kontexten keine böse Absicht, sondern es basiert bloß auf mathematischem Denken und Datensätzen. Doch die Wirkung ist gleich, denn es folgt: Benachteiligung, Ausgrenzung, Ungleichbehandlung. Was aber sagt das gegenwärtige Recht dazu? Ich stelle mir dabei häufig folgende Frage: Genügt unser klassisches Gleichheitsverständnis i. S. d. Art. 7 B-VG noch, also der Gleichheitssatz der Bundesverfassung? Oder brauchen wir ein neues Verständnis von Gleichheit, das dem digitalen Zeitalter tatsächlich gerecht wird?

Die österreichische Bundesverfassung garantiert in Art. 7 Abs. 1 B-VG ausdrücklich: „Alle Staatsbürger sind vor dem Gesetz gleich. Vorrechte der Geburt, des Geschlechts, des Standes, der Klasse und des Bekenntnisses sind ausgeschlossen.“ De lege lata schützt dieses Gleichheitsgebot vor staatlicher Diskriminierung (z. B. in Bezug auf gesetzliche Bestimmungen oder auf das Verwaltungshandeln von Bund, Ländern und Gemeinden). Mittels Art. 7 B-VG wird zudem das Sachlichkeitsgebot garantiert. Dies bedeutet, dass unsachliche Differenzierungen gemäß dieser Norm verboten sind. Doch was ist mit Entscheidungen, die einerseits technisch vermittelt, andererseits aber staatlich verwendet werden? Ja, das ist eine Frage, die man sich im KI-Zeitalter durchaus stellen muss. Denn ich denke da bspw. an automatisierte Entscheidungen im Schulbereich oder an KI-Tools, die im Rahmen der Vermittlung von arbeitslosen Personen zukünftig Anwendung finden können. Hier beginnt eine spürbare Grauzone, die wohl immer eine Einzelfallbeurteilung notwendig macht.

Neben der Pflicht zur Nichtdiskriminierung trifft eine solche Pflicht im Übrigen auch den privaten Bereich. Im privaten Bereich schützt etwa das Gleichbehandlungsgesetz (GlBG) oder das Behinderteneinstellungsgesetz (BEinstG) vor Ungleichbehandlung und Diskriminierung (siehe hierzu §§ 3 Z 1 und 17 Abs. 1 GlBG; § 7b Abs. 1 BEinstG). Doch in der Praxis ist es schwer, algorithmische Diskriminierung konsequent nachzuweisen. Dies trifft besonders dann zu, wenn die Entscheidung automatisiert und intransparent erfolgt (Stichwort: „Blackbox-Systeme“). Und Beweisprobleme und mangelnde Rechenschaftspflichten machen einen effektiven Rechtsschutz nahezu unmöglich.

Ethik verlangt nicht nur gleiche Behandlung, sondern auch faire Chancen. Wenn KI-Systeme Menschen auf Basis von Gruppenzugehörigkeit oder historischer Daten benachteiligen, dann ist das aus Sicht von diversen Gerechtigkeitsprinzipien äußerst problematisch, selbst wenn kein Mensch absichtlich diskriminiert. Ich möchte das mit einem Beispiel veranschaulichen: Eine KI stuft Menschen aus einem ärmeren Bezirk als kreditunwürdig ein, obwohl sie individuell durchaus zuverlässig sind. Hier sind wir mit einem ethischen Problemfeld konfrontiert, weil in diesem Fall sozialstrukturelle Benachteiligung gleichsam technisch reproduziert wird. Wenn also Entscheidungen über Lebenschancen automatisiert getroffen werden, ohne dass Betroffene sie verstehen oder gar anfechten können, dann ist das nicht nur diskriminierend, sondern potenziell entmenschlichend. Blickt man in diverse wissenschaftliche Literatur, so spricht man im Ethik-Sektor diesbezüglich oftmals von einer Art Verstoß gegen die „digitale Menschenwürde“. Letzterer Gesichtspunkt ist deshalb so wichtig, weil speziell automatisierte Entscheidungen zunehmend tief in persönliche Lebensbereiche eingreifen. Daher gewinnt auch die Frage nach der Wahrung individueller Würde an Brisanz. Nein, es geht nicht nur um Chancengleichheit, sondern um eine fundamentale Frage: Wie bleibt der Mensch Subjekt, wenn Entscheidungen algorithmenbasiert bzw. mittels KI-Unterstützung getroffen werden?

Eine zukunftsweisende Auslegung des Gleichheitsgebots müsste nicht nur die bisherige klassische Benachteiligung (z. B. wegen Geschlecht oder Religion), sondern auch eine technisch vermittelte Diskriminierung erfassen – selbst wenn diese de facto nicht intendiert, sondern statistisch produziert ist. Eine spezifische Erweiterung um eine „mittelbare algorithmische Diskriminierung“ könnte also angedacht werden. Und sollte sich der Staat in Zukunft algorithmischer Systeme bedienen (z. B. in den Bereichen des AMS, in Schulen oder bei Asylverfahren), so sollte Art. 7 B-VG analog auch für diese Fälle gelten. Jedenfalls darf die Verantwortungsfrage nicht leichtfertig an KI-Systeme „delegiert“ werden, wie es von unterschiedlichen Seiten aber nicht selten gefordert wird. Natürlich bin ich mir bewusst, dass diese Problematik noch nicht vollständig geklärt ist und dahingehend noch einige Fragen beantwortet werden müssen – ich bin mir sicher: auch höchstgerichtlich.

Die EU-Verordnung über künstliche Intelligenz (EU-VO 2024/1689) fordert bereits eine engmaschige Überprüfbarkeit von Entscheidungen im Rahmen des Einsatzes von KI. Prioritär ist dabei die Transparenzpflicht nach Art. 50 KI-VO. Jedwede Form eines KI-Einsatzes muss (spätestens mit August 2026) offengelegt werden – und das unter Berücksichtigung des risikobasierten Ansatzes der KI-VO (z. B. im Rahmen einer Hochrisiko-KI i. S. d. Art. 6 KI-VO und unter Bezugnahme auf Fragen der Diskriminierung siehe ErwGr 58 zu Art. 6 KI-VO). Dass die Bestimmungen der KI-VO ausbaufähig sind, bin ich mir bewusst. Hier besteht noch einiges an Potenzial, um letztlich eine effektivere Regulierung und einen effizienteren Schutz vor (staatlicher) Ungleichbehandlung zu erzielen, selbst wenn bei der Verwendung von KI in Bewerber:innen-Prozessen zum Status quo die Arbeitgeber:innen für diskriminierende Outputs verantwortlich sind.

Weitere Ansätze: In Analogie zur Antidiskriminierung könnte bei Verdacht auf algorithmischen Bias außerdem die Beweislast auf Anbieter:innen der Technologie übergehen (ähnlich wie im Gleichbehandlungsrecht). Der Verfassungsgerichtshof (VfGH) könnte darüber hinaus ermächtigt (oder verpflichtet) werden, auch algorithmisch vermittelte Benachteiligungen zu prüfen (etwa durch Ausweitung der Individualbeschwerde).