1. Bias Arten und ihre Entstehung

Der Fachbegriff für Verzerrungen in Daten oder Modellen lautet Bias. Bias ist eine systematische Abweichung, die dazu führt, dass bestimmte Gruppen bevorzugt oder benachteiligt werden.

Arten von Bias sind unter anderem:

  • Sampling Bias: Nicht alle Gruppen sind in den Daten vertreten.
  • Measurement Bias: Es wird nicht das gemessen, was eigentlich relevant wäre.
  • Cultural Bias: Ergebnisse spiegeln kulturelle Vorurteile wider, oft aus einem westlich dominierten Kontext.

Eine zentrale Ursache von Bias ist die Beschaffenheit der Trainingsdaten. Maschinelles Lernen basiert auf der Analyse großer Datenmengen, die jedoch selten die Vielfalt der realen Welt abbilden. Wenn bestimmte Gruppen in den Daten unterrepräsentiert oder falsch repräsentiert sind, schlägt sich dies unmittelbar in den Entscheidungen der KI nieder. Ein prominentes Beispiel liefert das Recruiting-Tool von Amazon, das Bewerbungen vorsortieren sollte. Da die Trainingsdaten überwiegend männliche Lebensläufe enthielten, bewertete das System Bewerbungen von Frauen systematisch schlechter. Begriffe wie „Women’s College“ führten bereits zu negativen Bewertungen, was eine klare geschlechtsspezifische Diskriminierung zur Folge hatte.