Modul CS5625-KP04
Psychologie der Künstlichen Intelligenz (PsyKI)
Dauer
1 Semester
Angebotsturnus
Jedes Sommersemester
Leistungspunkte
4
Studiengang, Fachgebiet und Fachsemester:
- Master Entrepreneurship in digitalen Technologien 2020, Wahlpflicht, fachspezifisch, Beliebiges Fachsemester
- Master Medieninformatik 2020, Wahlpflicht, Medieninformatik, Beliebiges Fachsemester
Lehrveranstaltungen:
- CS5625-S: Psychologie der Künstlichen Intelligenz (Seminar, 2 SWS)
- CS5625-V: Psychologie der Künstlichen Intelligenz (Vorlesung, 1 SWS)
Workload:
- 45 Stunden Präsenzstudium
- 75 Stunden Selbststudium
Lehrinhalte:
- Einführung in die Psychologie der Mensch-KI Interaktion: Grundlegende Konzepte der Interkation zwischen Mensch und Künstliche Intelligenz (KI), insbesondere Stufen der Informationsverarbeitung, Grade von Automatisierung, Interdependenz und Voraussetzungen für Mensch-KI-Kooperation
- User Experience von Erklärbarer KI: Definition von Erklärbarer KI und Abgrenzung zu z.B. vertrauenswürdiger KI, Wirkungen von Erklärbarer KI auf die Wahrnehmung von Vertrauen und Nachvollziehbarkeit und Leistungsfähigkeit, Anwendungsbeispiele und Formen, insbesondere Kontrastive Erklärungen, Shapley-Values, Pertubationsmethoden, Prozess der Entwicklung psychologisch fundierter Qualitätsmetriken im Kontext der Testdiagnostik, Fragebogenskalen und andere Messmethoden zur Bewertung guter UX im Kontext der KI-Nutzung.
- Mensch-KI-Integration und andere psychologisch begründete Kopplungs-Paradigmen (z.B. Teaming, Kooperation, Partnerschaft): Modelle der Integration von Mensch und KI sowie Ansätze zur Verbesserung der Integration, insbesondere Darstellung von Input-Quellen, Korrektur von kognitiven Zielrahmen, Diagnostizität von Ergebnissen, relevante psychologische Grundtheorien zu zentralen Kopplungs-Paradigmen (z.B. aus Bereichen wie Teamarbeit, Kooperativitätswahrnehmung, Partnerschafts-Dynamiken)
- Menschliche Aufsicht über KI-Systeme: Definition menschlicher Aufsicht aus psychologischer Sicht, Abgrenzung zu Konzepten wie Kontrolle, Verantwortung und Nachvollziehbarkeit, Überprüfung von menschlicher Aufsicht, Entwicklung von experimentellen Paradigmen in der Evaluation von KI-Systemen
- KI-basierte Entscheidungsfindung: Menschliche Strategien bei der Verarbeitung von KI-Informationen, Relevanz von z.B. Reliabilitätsinformationen, Mitigationsmöglichkeiten
- Psychologische Basisbedürfnisse & KI-Nutzung: Definition menschlicher Grundbedürfnisse und Anschluss an die Self-Determination Theory im Kontext der Mensch-KI-Interaktion, Übertragung auf automatisierte Systeme, Nutzercharakteristiken wie z.B. Technikaffinität & Automationspräferenz
- Regulation im Kontext KI & Psychologie: High-Level Expert Group der EU, KI-Verordnung der EU, vergleichbare Gesetze aus den USA und Kanada und deren Zuordnung zu psychologischen Konzepten aus dem Modul, potentielle Karriereziele, Aufgabenumfang
- Nutzung von KI-Systemen für die psychologische Forschung: Der Kern des Moduls liegt in der Entwicklung eines KI-Interfaces. Hierbei sollen die Studierenden durch die Gestaltung des Systems Effekte erzeugen, die aus der Mensch-KI-Forschung bekannt sind, wie z.B. ein Übervertrauen in das System. Die Aufgabe ist dabei, ein theoretisch abgeleitetes Nutzungsverhalten (z.B. KI-Ergebnis immer ändern) durch die Gestaltung des Systems zu fördern und in einer abschließenden empirischen Evaluation die Differenz zum abgeleiteten Verhalten zu prüfen
Qualifikationsziele/Kompetenzen:
- Die Studierenden sind in der Lage, psychologische Effekte der Gestaltung von KI-Systemen zu bewerten.
- Sie können beeinflussen, wie KI-Systeme auf Nutzende wirken und welche Strategien Nutzende anwenden, wenn sie KI-Systeme nutzen.
- Sie verfügen für diese Gestaltung über ein Repertoire von Ansätzen aus dem Bereich Erklärbare KI und Mensch-KI-Kooperation sowie Kenntnisse passender Evaluationsmethoden in Form von Fragebögen und Verhaltensmaßen.
- Sie können angepasste Interaktionsformen experimentell umsetzen und wissenschaftlich evaluieren.
- Sie können den Bezug zwischen normativen, ethischen und gesetzlichen Richtlinien und KI-bezogener psychologischer Forschung herstellen.
Vergabe von Leistungspunkten und Benotung durch:
- Portfolio-Prüfung
Modulverantwortliche:
Literatur:
- Miller, Tim : Explanation in artificial intelligence: Insights from the social sciences Artificial intelligence 267 (2019): 1-38
- Hoffman, R. R., Mueller, S. T., Klein, G., & Litman, J. (2023) : Measures for explainable AI: Explanation goodness, user satisfaction, mental models, curiosity, trust, and human-AI performance Frontiers in Computer Science, 5, 1096257
- Sterz, S., Baum, K., Biewer, S., Hermanns, H., Lauber-Rönsberg, A., Meinel, P., & Langer, M. (2024) : On the quest for effectiveness in human oversight: Interdisciplinary perspectives Proceedings of the 2024 ACM Conference on Fairness, Accountability, and Transparency (pp. 2495-2507)
- Schrills, T., & Franke, T. (2023) : How do users experience traceability of AI systems? Examining subjective information processing awareness in automated insulin delivery (AID) systems ACM Transactions on Interactive Intelligent Systems, 13(4), 1-34
Sprache:
- kann in Deutsch oder Englisch durchgeführt werden (nach Absprache mit den Teilnehmern)
Bemerkungen:
Zulassungsvoraussetzungen zur Belegung des Moduls:- Kenntnisse in Programmierung und Interesse an der KI-Entwicklung.
- Kenntnisse in Front-Ends (z.B. Unity)
Zulassungsvoraussetzungen zur Teilnahme an der Modul-Prüfung(en):
- Erfolgreiche Teilnahme an den Übungen und Präsentationen während des Semesters, Regelmäßige Präsentation der Ergebnisse als Gruppe in Präsenz
- Lauffähige vollständige Abgabe des finalen Experimentes und eine Dokumentation
Modulprüfung(en):
CS5625-L1: Psychologie der Künstlichen Intelligenz, Portfolioprüfung bestehend aus: 40 Punkten in Form von Projektarbeit in Gruppen und 60 Punkten in Form einer mündlichen Prüfung.
Die Note ergibt sich wie folgt: 50 bis 54 Punkte für eine 4,0, dann 55 bis 59 Punkte für eine 3,7 und so weiter bis am Ende 95 bis 100 Punkte für eine 1,0.
- Die Lehrveranstaltung wird als ExperimentJam organisiert. Studierende geben in Kleingruppen ihre KI-Designideen für Feedback durch Kommiliton:innen und Dozierende ab.
- Dokumentation des Projektes kann in multimedialer Form z.B. eines LLM-basierten Podcasts oder als schriftliche Dokumentation abgegeben werden.
- Literatur und weiterführende Ressourcen werden in der Vorlesung bekannt gegeben.
- Es wird erwartet, dass Studierende sich selbstständig in die Experimentalsoftware einarbeiten, die genutzt werden soll.
- Im Rahmen des Moduls werden Daten mittels Prolific oder einen vergleichbaren Plattform zur Probandenakquise erhoben, Effort zur Rekrutierung von Teilnehmenden ist damit nicht notwendig.
Laut Beschluss des Prüfungsausschusses Entrepreneurship in digitalen Technologien vom 19.06.2025 kann dieses Modul von Studierenden Master EdT SGO ab 2020 im Bereich fachspezifische Wahlmodule gewählt werden.
Letzte Änderungen:
14.04.2026