Menschenrechte & Daten

1. Menschenrechte & Daten im KI-Kontext

Die Nutzung von Daten für KI-Anwendungen wirft zahlreiche menschenrechtliche Fragen auf, da der Umgang mit Informationen über Individuen tief in grundlegende Rechte eingreift. Zunächst ist das Recht auf Privatsphäre zu berücksichtigen.

Für die Funktionsweise vieler KI-Systeme ist die Nutzung umfangreicher Datenmengen erforderlich, die aus Online-Aktivitäten, Bewegungsprofilen oder biometrischen Daten gewonnen werden. In vielen Fällen geschieht dies ohne informierte Zustimmung der Betroffenen.

Dies hat zur Folge, dass die informationelle Selbstbestimmung der Betroffenen eingeschränkt wird und sie einem ständigen Risiko der Überwachung ausgesetzt sind. Ein prominentes Beispiel ist der Einsatz von Gesichtserkennungstechnologien im öffentlichen Raum, der potenziell zur flächendeckenden Überwachung von Bürgerinnen und Bürgern führen kann. Dies stellt nicht nur die Privatsphäre, sondern auch die Versammlungsfreiheit in Frage, da Menschen aus Angst vor Überwachung von politischem Protest abgehalten werden.

2. Datensammlung und „Profiling“

KI-Systeme sind oft unsichtbare Datensammler, die Informationen auf eine Weise erfassen, die viele nicht vollständig verstehen. Ob über die Apps, die wir nutzen, die Websites, die wir besuchen, oder die Geräte, die wir mit uns führen – KI analysiert ständig unsere digitalen Spuren.

Diese Daten werden oft für marktorientierte Zwecke wie personalisierte Werbung verwendet, können aber auch für invasivere Anwendungen genutzt werden. Vorhersagende Profilerstellung („predictive profiling“) kann ohne ausdrückliche Zustimmung intime Details über unser Leben offenlegen, von politischen Zugehörigkeiten bis hin zu Gesundheitsproblemen (Ploug 2023).

Diese detaillierten Einblicke machen uns anfällig für Manipulation, Überwachung und Datenlecks und untergraben die Privatsphäre, die wir einst für selbstverständlich hielten. Die Auswertung von Social-Media-Daten durch KI im Gesundheitskontext ist hoch problematisch. Wenn Algorithmen anhand von Instagram-Fotos oder Tweets psychische Erkrankungen wie Depressionen erkennen können, öffnet dies Tür und Tor für Missbrauch: Arbeitgeber, Versicherungen oder staatliche Stellen könnten solche Analysen nutzen, um Menschen zu überwachen, zu diskriminieren oder auszugrenzen – oft ohne deren Wissen und ohne jede Möglichkeit, sich dagegen zu wehren.

3. Kontrollfrage

4. Echtzeitanalyse

Die Möglichkeit der Echtzeitanalyse hat die Überwachungsfähigkeiten von Unternehmen enorm verbessert und dazu geführt, dass öffentliche Räume, die einst anonym waren, heute von KI-gestützten Gesichtserkennungskameras, intelligenten Sensoren und biometrischen Systemen überwacht werden, die Bewegungen und Verhaltensweisen mit erschreckender Genauigkeit verfolgen können.

Zwar wird diese Technologie gelegentlich auch mit dem Anspruch genutzt, legitime Ziele wie die öffentliche Sicherheit oder die Verbrechensbekämpfung zu verfolgen, doch darf nicht übersehen werden, dass sie zugleich ein erhebliches Missbrauchspotenzial birgt. Ohne strikte und wirksame Regulierung droht ihr Einsatz, zu einem Instrument systematischer Grundrechtsverletzungen zu werden. Insbesondere in Staaten, die auf KI-gestützte Massenüberwachung setzen, kann die lückenlose Erfassung von Bewegungen – oftmals ohne Wissen oder Zustimmung der Betroffenen – eine Realität sein. Das Ergebnis ist eine Gesellschaftsordnung, in der individuelle Freiheiten nicht nur eingeschränkt, sondern strukturell untergraben werden.

Ein weiteres Problemfeld liegt in der Diskriminierung durch algorithmische Entscheidungen. KI-Systeme können bestehende gesellschaftliche Vorurteile reproduzieren und verstärken, wenn die verwendeten Daten unausgewogen oder historisch belastet sind. Es wurde festgestellt, dass automatisierte Bewerbungs- oder Kreditsysteme Frauen oder Menschen mit Migrationshintergrund systematisch benachteiligen können.

Darüber hinaus kann die intransparente Funktionsweise vieler KI-Anwendungen das Recht auf ein faires Verfahren gefährden. Der Einsatz von Algorithmen im Strafjustizsystem zur Berechnung von Rückfallwahrscheinlichkeiten birgt das Risiko, dass Betroffene die getroffenen Entscheidungen nicht nachvollziehen können oder diese anfechten. Dies steht im Widerspruch zu rechtsstaatlichen Prinzipien und beeinträchtigt die Möglichkeit effektiven Rechtsschutzes.