Welche Folgen hat KI für die Patientenautonomie?

Der Einsatz von Künstlicher Intelligenz (KI) in der Medizin bietet große Chancen – aber auch Risiken. Welche Gefahren für die Autonomie der Patienten und Patientinnen bestehen, wenn in die Diagnose und die Entscheidung über eine Behandlung KI einbezogen wird, hat unser Wissenschaftler Dr. Christian Günther in seiner Arbeit „Artificial Intelligence, Patient Autonomy and Informed Constent“ untersucht. In der neuen Folge der Podcast-Reihe „Ach Mensch!“ von detektor.fm spricht er mit Moderatorin Jessica Hughes über seine Forschungsergebnisse und die zentrale Frage: „Was macht KI mit der Patientenautonomie?“

KI kann helfen, große Datenmengen zu analysieren und Prognosen zu erstellen; teilweise kann sie Fachpersonal sogar ersetzen, erklärt Günther. Ein großes Problem für Patientinnen und Patienten sei aber, dass es sich bei KI bislang noch um eine Black Box handle. Die Intransparenz erschwere es ihnen, informierte Entscheidungen zu treffen, betont der Wissenschaftler. Anders als bei Ärztinnen und Ärzten könnten sie zudem nicht mit der KI in einen Dialog treten und Aussagen hinterfragen. Auch könne der KI nicht per se eine zugewandte, wohlwollende Einstellung gegenüber Patienten und Patientinnen zugeschrieben werden.

Das Recht müsse und könne den spezifischen Herausforderungen des Einsatzes von KI in der Medizin begegnen und die Patientenautonomie schützen. Notwendig sei beispielsweise, dass offengelegt wird, was innerhalb der KI passiert, und auf Basis welcher Faktoren KI Entscheidungen trifft, sagt Günther. Aber auch dann könne die KI in Fragen der Abwägung von Vor- und Nachteilen einer Behandlung und der damit einhergehenden Berücksichtigung von Patientenwünschen die Expertise von Ärztinnen und Ärzten nicht ersetzen.