Modul CS5075-KP06

Dauer

1 Semester

Angebotsturnus

Jedes Sommersemester

Leistungspunkte

6

Studiengang, Fachgebiet und Fachsemester:

• Master Informatik 2019, Wahlpflicht, Wahlpflicht, Beliebiges Fachsemester
• Master Medizinische Informatik 2019, Wahlpflicht, eHealth / Informatik, 1. oder 2. Fachsemester
• Master IT-Sicherheit 2019, Wahlpflicht, IT-Sicherheit Security und Privacy, 1., 2. oder 3. Fachsemester

Lehrveranstaltungen:

• CS5075-Ü: Trustworthy AI (Übung, 1 SWS)
• CS5075-V: Trustworthy AI (Vorlesung, 3 SWS)

Workload:

• 20 Stunden Prüfungsvorbereitung
• 100 Stunden Selbststudium
• 60 Stunden Präsenzstudium

Lehrinhalte:

• Leitgedanke von Trustworthy AI: rechtskonforme, ethische und robuste KI (lawful, ethical, robust)
• Grundbegriffe des Trustworthy Computing: Security, Privacy, Dependability, Safety, Transparency, Explainability, Traceability, Accountability
• De-anonymisierungsmethoden mit Hilfe von maschinell gelernten Modellen
• Mathematische Begriffe zum Schutz der Privatsphäre in maschinellen Lernverfahren
• Härtung von maschinellen Lernverfahren zum Schutz persönlicher Daten (Privacy-Preserving Machine Learning)
• Analyse maschinell gelernter Modellen (Robustness Check, Explainability)
• Verifikation maschinell gelernter Modellen (Statistical Testing, Model Checking)
• Black-Box Methoden zur Rekonstruktion maschinell gelernter Modelle (zur Analyse und Verifkation)
• Manipulationverfahren gegen maschinell gelernte Modelle (Adversarial Examples, Backdoors)
• Härtung von maschinellen Lernmethoden gegenüber Manipulationsverfahren
• Sichere und privatphärenschützende verteilte Lernmethoden (Privacy-Preserving Federated Learning)

Qualifikationsziele/Kompetenzen:

• Alle in dem Modul vermittelten Lehrinhalte können durch die Studierenden benannt, definiert und anhand von Anwendungen in ihrer Funktionsbeweise erläutert werden.
• Die jeweiligen formalen Grundlagen der Lehrinhalte können präzise erklärt werden
• Vor- und Nachteile von verschiedenen Ansätzen können durch die Studierenden benannt werden.
• Verständnis von Schwachstellen von maschinellen Lernmethoden bezüglich der Extraktion persönlicher Daten und bezüglich Manipulationen
• Verständnis von Härtungsmethoden gegenüber Deanonymisierungsverfahren und Manipulationsmethoden
• Studierende können komplexe Sicherheitsanforderungen analysieren

Vergabe von Leistungspunkten und Benotung durch:

• Mündliche Prüfung oder Klausur

Modulverantwortliche:

• Prof. Dr. rer. nat. Esfandiar Mohammadi

Lehrende:

• Institut für Softwaretechnik und Programmiersprachen
• Institut für IT-Sicherheit
• Prof. Dr.-Ing. Thomas Eisenbarth
• Prof. Dr. Martin Leucker
• Prof. Dr. rer. nat. Esfandiar Mohammadi

Literatur:

• C. Dwork, A. Roth : The Algorithmic Foundations of Differential Privacy Now Publishers Inc, 2014

Sprache:

• Wird nur auf Englisch angeboten

Bemerkungen:

Letzte Änderungen:

20.08.2025