Kurs: KI und Nachhaltigkeit | OnCourse UB

  • Lektion 4

    • Datenerfassung und Datenaufbereitung

    • Dokumentation mit Model Cards

      Definition

      Eine Model Card unterstützt verantwortungsvollen Umgang mit Machine Learning, weil sie zentrale Informationen über ein Modell transparent darstellt. Darin werden Zweck, Trainingsdaten, Annahmen, Leistungswerte und bekannte Einschränkungen dokumentiert (Mitchell et al. 2018).

      Besonders wichtig ist, dass auch mögliche

      • Bias-Risiken,
      • Fairness-Aspekte und
      • ethische Überlegungen

      beschrieben werden, sodass Nutzer verstehen, in welchen Kontexten das Modell zuverlässig eingesetzt werden kann – und in welchen nicht.

      Durch diese Offenlegung schafft eine Model Card Nachvollziehbarkeit und Verantwortlichkeit, erleichtert die Einhaltung regulatorischer und ethischer Standards und gibt Anwendern die Grundlage, fundierte Entscheidungen über den Einsatz des Modells zu treffen.

    • Aufgabe

      Unter dieser Box findet ihr eine beispielhafte Model Card. Seht sie euch einmal an und schaut anschließend auch auf der Website des Projekts Model Card Toolkit (MCT) vorbei, auf der es ein Toolkit für KI-Modellanbieter gibt; auch das ist sicherlich als Vertiefung für einige interessant.

    • Model Card mit Textfeldern zu Zweck, Daten, Limitierungen, Fairness sowie Balkendiagrammen zu Trainings- und Testdaten.
      Model Card mit Textfeldern zu Zweck, Daten, Limitierungen, Fairness sowie Balkendiagrammen zu Trainings- und Testdaten.
      Quelle: https://pypi.org/project/model-card-toolkit/

    • Vertiefung

      Das Unternehmen Hugging Face bietet umfangreiche Informationen zu Model Cards: https://huggingface.co/docs/hub/model-cards

      Literatur

      Dwivedi, R., Dave, D., Naik, H., Singhal, S., Omer, R., Patel, P., ... & Ranjan, R. (2023). Explainable AI (XAI): Core ideas, techniques, and solutions. ACM computing surveys, 55(9), 1-33.

      Dataguard (2025): The growing data privacy concerns with AI: What you need to know (Online) https://www.dataguard.com/blog/growing-data-privacy-concerns-ai/ (abgerufen am 05.09.2025)

      Jordon, J., Szpruch, L., Houssiau, F., Bottarelli, M., Cherubin, G., Maple, C., ... & Weller, A. (2022). Synthetic Data--what, why and how?. arXiv preprint arXiv:2205.03257..

      Meijer, A., & Wessels, M. (2019). Predictive policing: Review of benefits and drawbacks. International journal of public administration, 42(12), 1031-1039.

      Mitchell, M., Wu, S., Zaldivar, A., Barnes, P., Vasserman, L., Hutchinson, B., ... & Gebru, T. (2019, January). Model cards for model reporting. In Proceedings of the conference on fairness, accountability, and transparency (pp. 220-229).

      Ploug, T. (2023). The right not to Be subjected to AI profiling based on publicly available data—privacy and the exceptionalism of AI profiling. Philosophy & Technology, 36(1), 14.

      Pagano, T. P., Loureiro, R. B., Lisboa, F. V., Peixoto, R. M., Guimarães, G. A., Cruz, G. O., ... & Nascimento, E. G. (2023). Bias and unfairness in machine learning models: a systematic review on datasets, tools, fairness metrics, and identification and mitigation methods. Big data and cognitive computing, 7(1), 15.

      Xu, F., Uszkoreit, H., Du, Y., Fan, W., Zhao, D., & Zhu, J. (2019). Explainable AI: A brief survey on history, research areas, approaches and challenges. In CCF international conference on natural language processing and Chinese computing (pp. 563-574). Cham: Springer International Publishing.

      Zha, D., Bhat, Z. P., Lai, K. H., Yang, F., Jiang, Z., Zhong, S., & Hu, X. (2025). Data-centric artificial intelligence: A survey. ACM Computing Surveys, 57(5), 1-42.

Vorherige Lektion Nach oben Nächste Lektion