Arztgespräch per Chatbot? Chancen, Risiken, Nebenwirkungen

Von der Diagnose bis zum Behandlungsplan: KI-Modelle schneiden im Test besser ab als Ärzte. Doch wie viel Mensch braucht Medizin? Experten warnen vor Risiken und blinden Flecken.

«Könnten Sie bitte beschreiben, wie lange Sie diesen Husten schon haben und ob begleitende Symptome wie Fieber, Atemnot oder Brustschmerzen auftreten?» Was wie eine klassische Frage eines Arztes oder einer Ärztin klingt, hat in diesem Fall eine Künstliche Intelligenz (KI) gestellt. KI kann schon länger etwa Tumore auf Röntgenbildern erkennen. Doch inzwischen reicht die Entwicklung bis zum Gespräch mit Patienten und Patientinnen.

Forschende vor allem des Universitätsklinikums Heidelberg und des Else Kröner Fresenius Zentrums für Digitale Gesundheit an der TU Dresden sowie ein Team von Google haben zwei unabhängige KI-Modelle fürs Patientenmanagement entwickelt, die von der Diagnose bis zu Behandlungsempfehlungen reichen. Beide werden aktuell im Fachjournal «Nature» vorgestellt.

Was ist das Neue daran?

Viele KI-Entwicklungen im Gesundheitsbereich sind bisher auf spezielle Aufgaben beschränkt. Die beiden Modelle MIRA (Medical Intelligence for Reasoning and Action) der Forschenden aus Deutschland und AMIE (Articulate Medical Intelligence Explorer) von Google gehen da deutlich weiter: Unter anderem erfassen sie eigenständig per Chat die Krankheitsgeschichte, ordnen diagnostische Tests wie mikrobiologische Untersuchungen an und erstellen Behandlungspläne samt der Verschreibung konkreter Medikamente.

Dabei berücksichtigen sie zum Beispiel klinische Leitlinien, Fachliteratur und Aspekte wie Wechselwirkungen bei Medikamenten. Statt vager Empfehlungen gab das System von Google den Angaben nach äußerst detaillierte, umsetzbare Anweisungen. In Tests erwiesen sich beide Modelle laut den Autorinnen und Autoren als teils besser und präziser als menschliche Ärztinnen und Ärzte.

Was soll das bringen?

Das Google-Team verweist auf Probleme wie Personalmangel und fehlende Kontinuität während einer Behandlung über mehrere Termine hinweg. Die Fachleute aus Heidelberg und Dresden schreiben von «Copiloten» für Ärzte, damit diese mehr Zeit für die Patientenversorgung haben.

Mit Blick auf das breite Spektrum an Aufgaben im klinischen Management von Patientinnen und Patienten heißt es bei «Nature»: «Wenn KI-Agenten solche Aufgaben übernehmen und effektives klinisches Entscheidungsdenken leisten könnten, wären sie in der Lage, Ärztinnen und Ärzte bei Routineaufgaben zu unterstützen und möglicherweise Ärztemangel in einigen Regionen der Welt zu lindern.»

Spreche ich dann schon bald mit Doktor KI?

Nein. Beide Gruppen schreiben, dass ihre Modelle noch nicht im echten Leben angewendet werden könnten. Getestet haben sie ihre Anwendungen mit KI-Versionen von Patienten, die aber auf realen Daten basierten. Diese Simulationen haben den Angaben nach Tücken. Etwa antwortet und reagiert ein solch virtueller Patient völlig anders als ein Mensch aus Fleisch und Blut, der mit akuten Beschwerden in eine Klinik kommt. MIRA habe im Allgemeinen eine angemessene, evidenzbasierte Behandlung vorgeschlagen, heißt es zwar. Die Empfehlungen seien aber nicht zu 100 Prozent zuverlässig gewesen.

Wie schätzen Fachleute das ein?

«Die Ergebnisse belegen, welches Potenzial KI-Agenten für die Medizin besitzen», sagt Uwe Platzbecker, Medizinischer Vorstand des Uniklinikums Dresden. Für die weitere Entwicklung gehe es um die Frage, «wie wir solche Innovationen sicher, transparent und zum Nutzen der Patientinnen und Patienten in die klinische Praxis integrieren können».

Kerstin Denecke von der Berner Fachhochschule sieht als Hürden aktuell die Datenrealität im Gesundheitswesen, Zulassungsverfahren, unklare Verantwortlichkeiten und repräsentative Studien zu Risiken solcher Systeme. «Für klinische Entscheidungen braucht es mehr als Folgsamkeit gegenüber Guidelines», erklärt die Expertin für patientenzentrierte digitale Gesundheit. Es brauche Verständnis für die individuelle Situation der Betroffenen.

In der MIRA-Studie sieht Robert Ranisch, unter anderem Professor für Medizinische Ethik an der Universität Potsdam, zwar einen «spannenden und methodisch klug gemachten Beitrag». Sie untersuche die Leistungsfähigkeit von KI-Agenten aber eben unter Laborbedingungen. Hier stelle sich wie bei vielen KI-Studien die Kardinalfrage: Funktioniert das auch im Klinikalltag? «Genau daran scheitern bislang viele vielversprechende KI-Systeme», erklärt er. Sie stießen schnell an Grenzen, sobald beispielsweise reale Patienten und Behandler, unvollständige Daten, unterschiedliche IT-Systeme ins Spiel kämen.

Dass ein KI-Agent klinische Abläufe sowie Diagnose- und Therapieentscheidungen strukturiert abbilden kann, heißt aus Sicht von Reinhard Busse, Leiter des Fachgebiets Management im Gesundheitswesen an der TU Berlin, noch nicht, dass dadurch im Alltag bessere Versorgung entsteht oder Kosten reduziert werden können.

Welche Rolle spielt KI in der Kommunikation mit Patienten?

Die Bundesärztekammer hat sich mit KI in der Medizin ausführlich befasst. In einer Publikation heißt es zu Kommunikation, das Erstellen etwa von Diagnosen, Therapien und Prognosen umfasse nicht nur technische Handlungen, sondern sei auch mit Emotionen und Wertvorstellungen verbunden. «Diese sind Basis des Vertrauensverhältnisses zwischen Ärzten und Patienten.» Beim Einsatz KI-basierter Assistenzsysteme müsse man prüfen, ob die zwischenmenschlichen und emotionalen Aspekte unangemessen in den Hintergrund gedrängt werden – etwa wenn menschliche Kommunikation durch technische Sprachassistenzsysteme wie Chatbots unterstützt oder gar ersetzt wird.

Bei all dem Zeitgewinn dank KI betont Eugen Brysch, Vorstand der Deutschen Stiftung Patientenschutz, ebenfalls: «Dem ärztlichen Gespräch kommt für den Patienten auch zukünftig eine unverzichtbare Rolle zu.» Gerade für ältere Menschen sei das von herausragender Bedeutung.

Gibt es weitere Bedenken?

Bei dem Milliardenprojekt elektronische Patientenakte fehlt laut Brysch weiterhin die Hinterlegung einer KI. «Die Filterung, Verknüpfung und Analyse der Datenmengen wäre ein Durchbruch.» Gleichzeitig warnt er vor einer zunehmenden Abhängigkeit außereuropäischer Unternehmen: «Es kann nicht sein, dass die Zukunftsfähigkeit der Analyse und Kommunikation in den Händen von Tech-Milliardären und ihren politischen Verflechtungen liegt.»