In zahlreichen Studien wurden die Risiken aufgezeigt, die KI und automatisierte Entscheidungsfindungssysteme für die Grundsätze der Gleichheit und Nichtdiskriminierung in den Bereichen Beschäftigung, Bereitstellung von Waren oder Dienstleistungen im öffentlichen und privaten Sektor, öffentliche Sicherheitspolitik oder sogar bei der Betrugsbekämpfung mit sich bringen.
Grundsätzlich wird zwischen Bias und Diskriminierung unterschieden:
Definition
Bias ist ein Aspekt der Entscheidungsfindung. Es handelt sich um eine Eigenschaft, die häufig nicht nur bei KI-Systemen, sondern auch bei Menschen oder Institutionen festgestellt wird. Unter Diskriminierung verstehen wir die negativen Auswirkungen, die sich aus Bias ergeben. Ein Beispiel hierfür ist eine voreingenommene Herangehensweise, bei der eine Lösung gegenüber einer anderen bevorzugt wird.
Übung zur Selbstreflexion
Wählen Sie eines dieser Beispiele aus und überlegen Sie: Welche Folgen hätte diese Art von Diskriminierung im Alltag, wenn sie unbemerkt bleibt?
