KI-Systeme können Menschen aufgrund von Alter, Geschlecht oder Hautfarbe diskriminieren, z. B. weil die Daten, mit denen die Modelle trainiert wurden, einen Bias (also eine Verzerrung) enthalten und somit gesellschaftliche Vorurteile reproduzieren. Oder die Daten bilden nicht das ab, was sie abbilden sollen (z. B. die gesellschaftliche Vielfalt).
Hinweis
Dies kann passieren, wenn sie beispielsweise nur in einem spezifischen Kulturraum erhoben wurden und was in der Folge dazu führen kann, dass der gesellschaftliche Zusammenhalt und die Integrität dadurch gefährdet werden.
KI-spezifisch ist die Art und Weise wie die Daten für die Entscheidungsfindung genutzt werden, denn bei Algorithmen des maschinellen Lernens werden (im Vergleich zu einem „einfachen“ Algorithmus), Entscheidungen auf Basis vorhergehender Entscheidungen getroffen, ohne dass diese Entscheidungsfindung vom Entwickler*innenteam direkt beeinflusst werden kann.
Das System optimiert also selbständig seine Entscheidungsfindung, was es schwieriger macht, die Ursachen für diskriminierende Entscheidungen zu ermitteln. Vor diesem Hintergrund stellt sich die Frage, wie sich Diskriminierung und Verzerrungen in KI-Systemen vermeiden oder zumindest abmildern lassen. Ein zentrales Konzept oder Kriterium dabei ist Fairness, das sowohl die Entscheidungsprozesse selbst als auch den Zugang zu KI-Technologien in den Blick nimmt.
Definition
Aus technischer Perspektive wird Fairness definiert als die Maßnahmen, die zur Optimierung von Suchmaschinen oder Ranking-Diensten durchgeführt werden, ohne diese für Zwecke zu verändern oder zu manipulieren die nicht im Interesse der Nutzer liegen (Demiaux 2017).
Die Erweiterung dieses Ansatzes beinhaltet auch die Betrachtung von Fairness-Aspekten während der Entwurfs- und Wartungsphase der Softwareentwicklung. Diese Aufgaben zielen darauf ab, negative oder schädliche menschliche Vorurteile zu kontrollieren, damit diese nicht durch das System weiterverbreitet werden (Varona & Suárez 2022).
Gerechtigkeit wird dabei hauptsächlich über Fairness definiert und zielt auf die Verhinderung, Überwachung oder Abschwächung unerwünschter Voreingenommenheit und Diskriminierung ab. Darüber hinaus wird in der Debatte um Fairness auch der faire Zugang zu KI, Daten und den Vorteilen von KI betrachtet. Ungleicher Zugang zu KI, Daten und deren Vorteilen verstärkt bestehende soziale Ungleichheiten. Daten stammen oft aus privilegierten Kontexten, während marginalisierte Gruppen unterrepräsentiert bleiben und dadurch benachteiligt werden. Auch die Nutzungsmöglichkeiten sind ungleich verteilt: Wohlhabende Institutionen oder Staaten verfügen über Ressourcen zur Entwicklung eigener Systeme, während ärmere Regionen abhängig von fremden Technologien bleiben. Dies führt nicht nur zu individuellen Nachteilen, etwa bei Arbeit oder Gesundheit, sondern gefährdet auch den gesellschaftlichen Zusammenhalt.
Zusammenfassung
Ein fairer Zugang erfordert deshalb rechtliche, technische und politische Maßnahmen, damit KI als kollektives Gut allen zugutekommt.
