Künstliche Intelligenz (KI) zur Unterstützung der Prognosestellung wird an Bedeutung gewinnen, wenn deren Transparenz verbessert werden kann. Erstmals ist es nun einem Forschungsteam gelungen, bestimmte Muster zu identifizieren, die das Deep-Learning-Netzwerk seinen Prognose-Entscheidungen aufgrund von Elektro-Enzephalogramm (EEG)-Analysen zugrunde legt. Damit ist ein wichtiger Schritt zur Entschlüsselung der „Black Box“ des Deep-Learning-Prozesses und damit zur Transparenz der KI getan.
Die Mehrheit der Sterbefälle von Komapatientinnen und -patienten nach Herzstillstand in Intensivstationen erfolgt nach Abbruch der Lebenserhaltungsmaßnahmen. Als Prognoseinstrument dienen unter anderem die EEG. Mehrere Arbeiten weisen darauf hin, dass mit KI zuverlässige Prognosen zur Unterstützung der entscheidenden Ärztinnen und Ärzte gestellt werden können. Eine verbreitete Zurückhaltung gegenüber KI-Prognosen ist unter anderem darauf zurückzuführen, dass bisher die Deep-Learning-Netzwerke keinen Hinweis darauf gaben, welche Informationen ihren Entscheidungen zugrunde lagen und somit nicht klar war, welche Sachverhalte zu einer bestimmten Prognose führten.
Entscheidungsrelevante Muster in EEG
Einem multidisziplinären Forschungsteam aus dem Schlaf-Wach-Epilepsie-Zentrum (SWEZ) der Universitätsklinik für Neurologie des Inselspitals, der Computer Vision Group des Instituts für Informatik der Universität Bern sowie der Kliniken für Neurologie und Intensivmedizin des Lausanner Centre hospitalier universitaire vaudois (CHUV) ist es nun gelungen, wichtige, entscheidungsrelevante Muster in EEG von Komapatientinnen und -patienten zu identifizieren. Das Team legte seinen Studien klinische Standard-EEG-Aufzeichnungen von 267 Erwachsenen aus dem CHUV zugrunde. Ein Neurales Netzwerk (Convolutional Neural Network, CNN) analysierte die EEG in der frühen Betreuungsphase nach dem Herzstillstand. Mithilfe einer speziellen Visualisierungsmethode, dem sogenannten GradCAM-Algorithmus, wurden diejenigen Bereiche der EEG identifiziert, die das CNN für seine positiven oder negativen Prognosen verwendet hatte.
Studienleiter Dr. Dr. med. F. Zubler betont: „Für die ärztliche Tätigkeit in der Intensivstation werden KI-unterstützte Entscheide in Zukunft immer wichtiger. Wenn wir diese Unterstützung transparent und nachvollziehbar machen, können wir auch in ethischer Hinsicht solidere Entscheide fällen». Ein zentrales Resultat der Studie war: Die gewählte Visualisierungsmethode konnte einen Teil des Deep-Learning-Prozesses entschlüsseln. Bestimmte EEG-Muster konnten identifiziert werden, welche die Maschine ihren Entscheidungen zugrunde legte. Interessanterweise verwendet KI oft die gleichen Muster, die die Neurologen bei Prognose-Entscheidungen in der klinischen Tätigkeit verwenden.
Die Studie zeigt, dass KI weiter an Bedeutung gewinnen kann. Dank des neuen Ansatzes kann mehr Transparenz in die Deep-Learning-Anwendungen gebracht werden, indem die Prognosewerte neu auf einer nachvollziehbaren Erklärung beruhen. Dies ist auch für die ethische Ebene der gefällten Entscheide von größter Bedeutung.
Quelle: Universitätsspital Bern, 18.09.2019
Artikel teilen
