Modul CS5625-KP04

Dauer

1 Semester

Angebotsturnus

Jedes Sommersemester

Leistungspunkte

4

Studiengang, Fachgebiet und Fachsemester:

• Master Medieninformatik 2020, Wahlpflicht, Medieninformatik, Beliebiges Fachsemester

Lehrveranstaltungen:

• CS5625-S: Psychologie der Künstlichen Intelligenz (Seminar, 2 SWS)
• CS5625-V: Psychologie der Künstlichen Intelligenz (Vorlesung, 1 SWS)

Workload:

• 45 Stunden Präsenzstudium
• 75 Stunden Selbststudium

Lehrinhalte:

• Einführung in die Psychologie der Mensch-KI Interaktion: Grundlegende Konzepte der Interkation zwischen Mensch und Künstliche Intelligenz (KI), insbesondere Stufen der Informationsverarbeitung, Grade von Automatisierung, Interdependenz und Voraussetzungen für Mensch-KI-Kooperation
• User Experience von Erklärbarer KI: Definition von Erklärbarer KI und Abgrenzung zu z.B. vertrauenswürdiger KI, Wirkungen von Erklärbarer KI auf die Wahrnehmung von Vertrauen und Nachvollziehbarkeit und Leistungsfähigkeit, Anwendungsbeispiele und Formen, insbesondere Kontrastive Erklärungen, Shapley-Values, Pertubationsmethoden, Prozess der Entwicklung psychologisch fundierter Qualitätsmetriken im Kontext der Testdiagnostik, Fragebogenskalen und andere Messmethoden zur Bewertung guter UX im Kontext der KI-Nutzung.
• Mensch-KI-Integration und andere psychologisch begründete Kopplungs-Paradigmen (z.B. Teaming, Kooperation, Partnerschaft): Modelle der Integration von Mensch und KI sowie Ansätze zur Verbesserung der Integration, insbesondere Darstellung von Input-Quellen, Korrektur von kognitiven Zielrahmen, Diagnostizität von Ergebnissen, relevante psychologische Grundtheorien zu zentralen Kopplungs-Paradigmen (z.B. aus Bereichen wie Teamarbeit, Kooperativitätswahrnehmung, Partnerschafts-Dynamiken)
• Menschliche Aufsicht über KI-Systeme: Definition menschlicher Aufsicht aus psychologischer Sicht, Abgrenzung zu Konzepten wie Kontrolle, Verantwortung und Nachvollziehbarkeit, Überprüfung von menschlicher Aufsicht, Entwicklung von experimentellen Paradigmen in der Evaluation von KI-Systemen
• KI-basierte Entscheidungsfindung: Menschliche Strategien bei der Verarbeitung von KI-Informationen, Relevanz von z.B. Reliabilitätsinformationen, Mitigationsmöglichkeiten
• Psychologische Basisbedürfnisse & KI-Nutzung: Definition menschlicher Grundbedürfnisse und Anschluss an die Self-Determination Theory im Kontext der Mensch-KI-Interaktion, Übertragung auf automatisierte Systeme, Nutzercharakteristiken wie z.B. Technikaffinität & Automationspräferenz
• Regulation im Kontext KI & Psychologie: High-Level Expert Group der EU, KI-Verordnung der EU, vergleichbare Gesetze aus den USA und Kanada und deren Zuordnung zu psychologischen Konzepten aus dem Modul, potentielle Karriereziele, Aufgabenumfang
• Nutzung von KI-Systemen für die psychologische Forschung: Der Kern des Moduls liegt in der Entwicklung eines KI-Interfaces. Hierbei sollen die Studierenden durch die Gestaltung des Systems Effekte erzeugen, die aus der Mensch-KI-Forschung bekannt sind, wie z.B. ein Übervertrauen in das System. Die Aufgabe ist dabei, ein theoretisch abgeleitetes Nutzungsverhalten (z.B. KI-Ergebnis immer ändern) durch die Gestaltung des Systems zu fördern und in einer abschließenden empirischen Evaluation die Differenz zum abgeleiteten Verhalten zu prüfen

Qualifikationsziele/Kompetenzen:

• Die Studierenden sind in der Lage, psychologische Effekte der Gestaltung von KI-Systemen zu bewerten.
• Sie können beeinflussen, wie KI-Systeme auf Nutzende wirken und welche Strategien Nutzende anwenden, wenn sie KI-Systeme nutzen.
• Sie verfügen für diese Gestaltung über ein Repertoire von Ansätzen aus dem Bereich Erklärbare KI und Mensch-KI-Kooperation sowie Kenntnisse passender Evaluationsmethoden in Form von Fragebögen und Verhaltensmaßen.
• Sie können angepasste Interaktionsformen experimentell umsetzen und wissenschaftlich evaluieren.
• Sie können den Bezug zwischen normativen, ethischen und gesetzlichen Richtlinien und KI-bezogener psychologischer Forschung herstellen.

Vergabe von Leistungspunkten und Benotung durch:

• Regelmäßige und erfolgreiche Teilnahme am Seminar (inkl. Vortrag)
• Projektarbeit

Modulverantwortliche:

• Prof. Dr. rer. nat. Thomas Franke

Lehrende:

• Institut für Multimediale und Interaktive Systeme
• Dr. rer. nat. Tim Schrills
• Prof. Dr. rer. nat. Thomas Franke

Literatur:

• Miller, Tim : Explanation in artificial intelligence: Insights from the social sciences Artificial intelligence 267 (2019): 1-38
• Hoffman, R. R., Mueller, S. T., Klein, G., & Litman, J. (2023) : Measures for explainable AI: Explanation goodness, user satisfaction, mental models, curiosity, trust, and human-AI performance Frontiers in Computer Science, 5, 1096257
• Sterz, S., Baum, K., Biewer, S., Hermanns, H., Lauber-Rönsberg, A., Meinel, P., & Langer, M. (2024) : On the quest for effectiveness in human oversight: Interdisciplinary perspectives Proceedings of the 2024 ACM Conference on Fairness, Accountability, and Transparency (pp. 2495-2507)
• Schrills, T., & Franke, T. (2023) : How do users experience traceability of AI systems? Examining subjective information processing awareness in automated insulin delivery (AID) systems ACM Transactions on Interactive Intelligent Systems, 13(4), 1-34

Sprache:

• kann in Deutsch oder Englisch durchgeführt werden (nach Absprache mit den Teilnehmern)

Bemerkungen:

Letzte Änderungen:

28.11.2025