Dozent

Anmeldestatus

Kosten

Kategorie

Zeiten

Ort

Mandant

Referent: Adriano Lucieri (Deutsches Forschungszentrum für Künstliche Intelligenz GmbH (DFKI))

Kurzbeschreibung:

Im Rahmen der Vorlesung „Trust Me, I’m an Algorithm! – Auf dem Weg zu vertrauenswürdiger KI im Gesundheitswesen“ betrachten wir, warum KI in Hochrisikoanwendungen wie in der Medizin zugleich enorme Chancen eröffnet, deren Einsatz aber auch besondere Sorgfalt verlangt. Ausgehend von europäischen Leitlinien und Regulierung entwickeln die Studierenden ein praxisnahes Verständnis dafür, an welchen Stellen Vertrauenswürdigkeit im Lebenszyklus eines Systems scheitern kann und welche konkreten Maßnahmen diese Risiken jeweils reduzieren - von Verantwortung und Haftung über gesellschaftliche Auswirkungen und Fairness bis hin zu Datenschutz, Robustheit und sinnvoller menschlicher Aufsicht.

Ein besonderer Schwerpunkt liegt auf Erklärbarkeit als Brücke zwischen technischer Leistung und verantwortbarer Nutzung: Im vertiefenden Methodenteil werden gängige XAI-Ansätze (z. B. Feature-Attribution, beispiel- und konzeptbasierte Erklärungen sowie mechanistische Analysen) eingeordnet, Grenzen diskutiert und aufgezeigt, wie Erklärungen in praktischen Anwendungen zum Einsatz kommen können. Ziel der Vorlesung ist, Studierenden einen Überblick über Risiken und Mitigationsstrategien für vertrauenswürdige KI zu geben, mit klarem Fokus darauf, wie erklärbare Systeme gerade im Gesundheitswesen sicherer, nachvollziehbarer und damit eher einsetzbar werden.