Algorithmen in der Medizin: AWMF-Arbeitskreis Ärzte und Juristen diskutiert zum Einsatz Künstlicher Intelligenz in der Medizin und daraus folgenden Haftungsregeln
Die Einsatzmöglichkeiten von Künstlicher Intelligenz (KI) in der Medizin sind vielfältig. Sie kann Ärztinnen und Ärzte darin unterstützen, die richtige Diagnose zu stellen, beispielsweise indem Algorithmen auf das Erkennen bestimmter Erkrankungen bei Computertomografie-Aufnahmen trainiert werden. Für Patientinnen und Patienten stehen bereits digitale Anwendungen in Form von Apps zur Verfügung, die auf Basis der eingegebenen Symptome und Befunde Ursachen und mögliche Lösungswege aufzeigen.
Auch für die medizinische Forschung bietet der Einsatz Künstlicher Intelligenz Chancen: „Durch die Anwendung von Algorithmen können verschiedene Forschungsdatensätze miteinander vernetzt und mit hoher Geschwindigkeit analysiert werden. Dies könnte helfen, zukünftig wesentlich rascher zu neuen wissenschaftlichen Erkenntnissen zu kommen. Heute vergeht eine viel zu lange Zeit, bis auf Basis einer Forschungshypothese Ergebnisse resultieren, die in geänderte Leitlinienempfehlungen münden“, sagt Professor Dr. rer. nat. Martin Sedlmayr, Inhaber der Professur für Medizinische Informatik der Medizinischen Fakultät Carl Gustav Carus der Technischen Universität Dresden.
„Die Anwendungsgebiete von KI in der Medizin sind vielfältig. Klar ist, dass KI die Ärztin oder den Arzt nicht ersetzen kann. Vielmehr soll sie die Behandelnden bei der Entscheidungsfindung unterstützen und dort eingesetzt werden, wo es den Kranken nützt“, so Sedlmayr. Vor diesem Hintergrund sei es aus Sicht des Experten notwendig, dass das Feld der KI auch stärker in die Ausbildung der Studierenden – sowohl der Informatik als auch der Medizin – integriert würde.
Voraussetzung für den erfolgreichen Einsatz von Algorithmen in der Medizin sind im System enthaltene Daten – ausreichend und in entsprechender Qualität. „Die Verfügbarkeit und Qualität der Daten, aus denen sich Algorithmen speisen, entscheiden über die Qualität der Ergebnisse von KI-Anwendungen“, betont Professor Dr. med. Alexander Cavallaro vom Imaging Science Institute (ISI) in der Radiologie am Universitätsklinikum Erlangen. Heute liegen Daten meist in unterschiedlicher Form vor, beispielsweise als Text-Dokumente in einer Patientenakte oder auch als Bilder wie Röntgenaufnahmen.
„Bevor ein Algorithmus angewendet werden kann, müssen die Daten zuerst extrahiert und geordnet werden. Ziel ist es, beispielsweise unterschiedliche Inhalte wie Texte in Befunden, Bilder oder Laborwerte so aufzubereiten, dass sie – miteinander vernetzt – treffende Lösungen generieren können“, erläutert der Experte. Die AWMF hat dazu wiederholt Qualitätskriterien eingefordert: Transparenz und Vertrauenswürdigkeit der Datengrundlage. Dazu muss Wissen aus hochwertigen, evidenzbasierten Leitlinien als primäre Datenbasis in regelbasierte Algorithmen und KI-Anwendungen integriert und für Nutzende kenntlich gemacht werden.
Insgesamt sind sich Ärzte und Juristen einig, dass der Einsatz von Künstlicher Intelligenz zukünftig eine wichtige Rolle in der Medizin spielen wird. „Entscheidend ist, dass der Mensch die Kontrolle über die KI behält. Es ist wichtig, dass Ärztinnen und Ärzte immer in der Lage sind, mögliche Fehler und deren Quellen zu erkennen. Das setzt wiederum voraus, dass sie nachvollziehen können und verstehen, wie Künstliche Intelligenz entsteht und wie der angewendete Algorithmus zu Ergebnissen kommt“, betont Cavallaro.
Dem AWMF-Arbeitskreis Ärzte und Juristen ging es bei ihrer Tagung daher auch um die Klärung offener Haftungsfragen. Der Rechtswissenschaftler Professor Dr. iur. Oliver Brand, führte dazu aus: „Ärztinnen und Ärzte müssen immer in der Pflicht verbleiben, Ergebnisse der Künstlichen Intelligenz zu kontrollieren. Damit tragen sie weiterhin die Verantwortung für Diagnosen oder Therapiewege, auch wenn sie mithilfe von KI ermittelt wurden.“ Allerdings bereiten bei selbstlernenden Systemen die Zurechnung von Auswirkungen der KI auf die Ärztinnen und Ärzte Probleme. „Weil die zivilrechtlichen Institute bei der Frage der Haftungszuschreibung an ihre
Grenzen geraten, braucht es eine gesetzliche Neuregelung. Die geltenden Regeln stellen bis dahin aber eine brauchbare Notlösung dar“, so Brand, Inhaber des Lehrstuhls für Bürgerliches Recht, Privatversicherungsrecht, Wirtschaftsrecht und Rechtsvergleichung der Universität Mannheim.
