KI und Nachhaltigkeit

Kurs: KI und Nachhaltigkeit | OnCourse UB

• Lektion 2
  • Aktivität Textblock 1 auswählen

    Politische Rahmenbedingungen für nachhaltige KI

    Was bedeutet Responsible AI, Trustworthy AI oder AI Governance?

  • Aktivität Text- und Medienfeld auswählen

  • Aktivität Textblock 2 auswählen

    Regulierungslogiken: risikobasierte Regulierung, Soft Law, Hard Law, internationale Governance

    Hinweis

    Die Regulierung von KI folgt heute meist nicht nur einer einzigen Logik, sondern kombiniert verschiedene Ansätze, wobei die risikobasierte Regulierung eine besondere Bedeutung hat. Dahinter steht die Idee, dass nicht jede KI gleich gefährlich ist. Ein Empfehlungssystem für Filme ist anders zu bewerten als eine KI, die über Kreditvergabe, Bewerbungen oder medizinische Diagnosen mitentscheidet. Cajueiro et al. (2025) beschreiben deshalb, dass regulatorische Anforderungen je nach möglichem Schaden unterschiedlich streng ausfallen sollten. Je höher das Risiko für Menschen, Grundrechte oder Sicherheit ist, desto stärker müssen Kontrolle, Dokumentation und Aufsicht sein.

    Daneben ist die Unterscheidung zwischen Soft Law und Hard Law zentral. Soft Law meint

    • freiwillige Leitlinien,
    • Standards,
    • Ethik-Kodizes oder
    • Empfehlungen.

    Diese können Orientierung geben, sind aber rechtlich nicht zwingend. Hard Law dagegen umfasst

    • verbindliche Gesetze und
    • Verordnungen mit klaren Pflichten und möglichen Sanktionen.

    Alanoca et al. zeigen, dass viele Staaten zunächst mit Soft Law gearbeitet haben, bevor sie schrittweise verbindlichere Regeln eingeführt haben. Das ist verständlich, weil Soft Law schneller entwickelt werden kann, aber zugleich problematisch, weil ohne Durchsetzung oft unklar bleibt, ob Vorgaben tatsächlich eingehalten werden (Alanoca et al., 2025).

    Beispiel: die EU

    Besonders sichtbar ist diese Entwicklung in der Europäischen Union. Hulok beschreibt den EU-Ansatz als Verbindung aus risikobasierter Regulierung und dem Schutz von Grundrechten. KI soll also nicht nur innovationsfreundlich reguliert, sondern auch an rechtliche und demokratische Prinzipien gebunden werden (Hulok, 2025).

    Gleichzeitig weist Zaidan darauf hin, dass KI ein internationales Thema ist: Modelle, Plattformen und Daten bewegen sich über Ländergrenzen hinweg, während Gesetze meist national oder regional bleiben. Deshalb braucht es zusätzlich internationale Governance, also Abstimmung zwischen Staaten, Institutionen und Regulierungsansätzen. KI-Regulierung ist damit heute ein Mehrebenensystem aus freiwilligen Regeln, verbindlichem Recht und internationaler Koordination.

    Diese Abbildung zeigt die Risikokategorien, die in der EU-KI Verordnung verwendet werden:

    

  • Aktivität Akkordeon K11L2 auswählen
  • Aktivität Video K11L2 auswählen
  • Aktivität Textblock 3 auswählen

    Aufgabe

    Beantworte bitte nach Durcharbeit des Materials das folgende Quiz.

  • Aktivität Drag and Drop K11L2 auswählen
  • Aktivität Textblock 4 auswählen

    Organisatorische Umsetzung: Accountability, Transparenz, Audits, Assessments

    Ob verantwortungsvolle KI gelingt, entscheidet sich nicht nur in Gesetzen, sondern vor allem in Organisationen, denn dort muss geklärt werden, wer Entscheidungen trifft, wer Risiken prüft und wer im Problemfall Verantwortung übernimmt. Responsible AI Governance in Organisationen beruht besonders auf klaren Strukturen, geregelten Zuständigkeiten und festen Verfahren, das bedeutet Verantwortung darf nicht „irgendwo im System“ verschwinden, sondern muss organisatorisch sichtbar gemacht werden (Papagiannidis et al., 2025). Ein Schlüsselbegriff dafür ist Accountability, also Rechenschaftspflicht. Es genügt deshalb nicht zu sagen, ein KI-System habe eine Entscheidung „selbst“ getroffen. Organisationen müssen erklären können, warum ein System eingesetzt wird, wie es überwacht wird und wer eingreift, wenn Probleme auftreten (Bartsch et al., 2025). Accountability bedeutet also, Verantwortung aktiv zuzuweisen und nach außen begründen zu können, was besonders wichtig ist, wenn KI in sensiblen Bereichen eingesetzt wird.

    Eng damit verbunden ist Transparenz. Buijsman betont, dass Transparenz mehr ist als eine technische Erklärung einzelner Modellentscheidungen. Menschen müssen auch verstehen können, wofür ein System gedacht ist, mit welchen Daten es arbeitet, welche Grenzen es hat und welche Risiken bestehen (Buijsman, 2024). Transparenz ist also eine Voraussetzung dafür, dass Betroffene, Mitarbeitende und Aufsichtsstellen die Nutzung von KI überhaupt sinnvoll beurteilen können.

    Transparenzanforderungen in der KI-Verordnung

    KI-Systeme mit allgemeinem Verwendungszweck und die Modelle, auf denen sie beruhen, müssen konkrete Transparenzanforderungen erfüllen, unter anderem die Einhaltung des EU-Urheberrechts und die Veröffentlichung detaillierter Zusammenfassungen der für das Training verwendeten Inhalte. Zusätzliche Anforderungen gelten für die leistungsfähigeren Modelle, die systemische Risiken bergen könnten. So müssen beispielsweise Modellbewertungen durchgeführt, systemische Risiken bewertet und gemindert und potentielle Vorfälle gemeldet werden. Darüber hinaus sind künstlich erzeugte oder bearbeitete Bilder bzw. Audio- und Videoinhalte (sogenannte Deepfakes) in Zukunft eindeutig als solche zu kennzeichnen.

    Damit solche Anforderungen nicht nur auf dem Papier stehen, braucht es Audits und Assessments. Rismani et al. zeigen, dass es inzwischen viele unterschiedliche Mess- und Bewertungsverfahren für verantwortungsvolle KI gibt. Diese helfen dabei, Fairness, Sicherheit, Transparenz oder mögliche Schäden systematisch zu prüfen (Rismani et al., 2025). Wichtig ist dabei, dass Prüfung nicht einmalig bleibt. Verantwortungsvolle KI braucht laufende Kontrolle, regelmäßige Bewertung und die Bereitschaft, Systeme anzupassen, wenn neue Risiken sichtbar werden.

  • Aktivität Textblock 5 auswählen

    Verantworting in Praxisfeldern: Gesundheit, öffentlicher Sektor, Unternehmen

    Wie Responsible AI konkret aussieht, zeigt sich besonders gut in einzelnen Anwendungsfeldern.

    Im Gesundheitswesen sind die Anforderungen sehr hoch, weil KI dort Entscheidungen unterstützen kann, die direkte Folgen für Patientinnen und Patienten haben. Saenz et al. zeigen anhand eines Fallbeispiels, dass verantwortungsvoller KI-Einsatz in Kliniken klare Leitlinien braucht. Dazu gehören Fairness, Robustheit, Datenschutz, Sicherheit, Transparenz, Erklärbarkeit und Accountability. Der große Vorteil solcher Leitlinien ist, dass sie allgemeine ethische Prinzipien in praktische Anforderungen für den Klinikalltag übersetzen (Saenz et al., 2024).Auch KI im Gesundheitsbereich darf nicht nur technisch geprüft werden darf, sondern es braucht feste Governance-Strukturen, interdisziplinäre Teams, Risikoanalysen und eine kontinuierliche Überwachung im Betrieb. Gerade im Gesundheitswesen wird deutlich, dass verantwortungsvolle KI nicht mit der Einführung eines Systems endet, sondern als dauerhafte Aufgabe verstanden werden muss.

    Im öffentlichen Sektor kommen weitere Anforderungen hinzu. Hier geht es nicht nur um Effizienz, sondern auch um demokratische Legitimation, Gleichbehandlung und Bürgervertrauen. Popa zeigt am Beispiel der Niederlande, dass Instrumente wie Algorithmusregister, staatliche Aufsicht und transparente Verfahren helfen können, KI im öffentlichen Bereich verantwortungsvoller zu gestalten (Popa, 2024/2025). Gerade dort ist wichtig, dass Bürgerinnen und Bürger nachvollziehen können, wann und wie algorithmische Systeme eingesetzt werden.

    Beispiel Niederlande: The Algorithm Register

    Am Beispiel des niederländischen Algorithmusregisters wird besonders deutlich, warum ein solches Instrument notwendig ist, denn dort werden inzwischen 1.386 eingesetzte Algorithmen mit Angaben zu Zweck, Organisation, Status und teils auch Folgenabschätzungen öffentlich sichtbar gemacht, wodurch staatliches Handeln nachvollziehbarer und demokratische Kontrolle überhaupt erst praktisch möglich wird.

    Zum Register: https://algoritmes.overheid.nl/en

    Aufgabe

    Durchsuche das niederländische Algorithmusregister und untersuche einen der beiden Sektoren Gesundheit oder Sicherheit. Nenne zwei Algorithmen, die in diesem Bereich eingesetzt werden, und gib an, welche Behörde oder Organisation sie nutzt.

  • Aktivität Akkordeon 2 K11L2 auswählen
  • Aktivität Textblock 6 auswählen

    Für Unternehmen lassen sich aus diesen Beispielen ebenfalls wichtige Lehren ziehen. Auch dort braucht es

    • klare Zuständigkeiten,
    • Risikoanalysen,
    • Dokumentation und
    • regelmäßige Evaluation.

    Der Unterschied liegt oft darin, dass Unternehmen Responsible AI zusätzlich mit Innovationsdruck, Wettbewerb und Haftungsfragen verbinden müssen. Trotzdem zeigt sich über alle Bereiche hinweg:

    Verantwortungsvolle KI ist keine rein technische Frage, sondern eine Aufgabe, die Organisation, Recht, Ethik und Praxis zusammenbringen muss.