Lerninhalt zum Bias

Auch in der biometrischen Identifikation sind Verzerrungen dokumentiert. Gesichtserkennungssysteme zeigen bei asiatischen, schwarzen und indigenen Personen eine bis zu hundertfach höhere Fehlerrate als bei weißen Personen. Besonders schwarze Frauen sind überproportional betroffen. Diese Diskrepanz hat schwerwiegende Folgen, da Gesichtserkennung zunehmend in sicherheits- und behördlichen Kontexten eingesetzt wird. Fehlerhafte Identifizierungen können zu ungerechtfertigten Verdächtigungen oder gar strafrechtlichen Konsequenzen führen.

Sprachmodelle illustrieren eine weitere Dimension von Bias. Untersuchungen an großen Sprachmodellen wie GPT-3 oder GPT-4 zeigen, dass Sprecher:innen von African-American English (AAE) häufiger mit negativen Eigenschaften verknüpft werden als Sprecher:innen des Standard-Englisch. In simulierten juristischen Szenarien führte dies dazu, dass AAE-Sprecher:innen häufiger als schuldig eingestuft wurden und eine höhere Wahrscheinlichkeit für die Verhängung der Todesstrafe aufwiesen. Solche Ergebnisse verdeutlichen, dass Bias in Sprachmodellen nicht nur theoretische Verzerrungen darstellt, sondern potenziell gravierende gesellschaftliche Konsequenzen nach sich zieht.