2. Datensammlung und „Profiling“

KI-Systeme sind oft unsichtbare Datensammler, die Informationen auf eine Weise erfassen, die viele nicht vollständig verstehen. Ob über die Apps, die wir nutzen, die Websites, die wir besuchen, oder die Geräte, die wir mit uns führen – KI analysiert ständig unsere digitalen Spuren.

Hinweis

Jede Online-Aktivität – Ihr Standort, Ihre Gewohnheiten, Vorlieben und Interaktionen – fließt in riesige Datenbanken ein, in denen Algorithmen komplexe Profile darüber erstellen, wer Sie sind, was Sie mögen und sogar, was Sie als Nächstes tun könnten.

Diese Daten werden oft für marktorientierte Zwecke wie personalisierte Werbung verwendet, können aber auch für invasivere Anwendungen genutzt werden. Vorhersagende Profilerstellung („predictive profiling“) kann ohne ausdrückliche Zustimmung intime Details über unser Leben offenlegen, von politischen Zugehörigkeiten bis hin zu Gesundheitsproblemen (Ploug 2023).

Diese detaillierten Einblicke machen uns anfällig für Manipulation, Überwachung und Datenlecks und untergraben die Privatsphäre, die wir einst für selbstverständlich hielten. Die Auswertung von Social-Media-Daten durch KI im Gesundheitskontext ist hoch problematisch. Wenn Algorithmen anhand von Instagram-Fotos oder Tweets psychische Erkrankungen wie Depressionen erkennen können, öffnet dies Tür und Tor für Missbrauch: Arbeitgeber, Versicherungen oder staatliche Stellen könnten solche Analysen nutzen, um Menschen zu überwachen, zu diskriminieren oder auszugrenzen – oft ohne deren Wissen und ohne jede Möglichkeit, sich dagegen zu wehren.