„Entscheigungsunterstützung ärztlicher Tätigkeit durch Künstliche Intelligenz“ ist der Titel einer jüngst veröffentlichen Stellungnahme der ZEKO

Die Stellungnahme wurde im Deutschen Ärzteblatt veröffentlicht und befasst sich mit  IT-basierten Systemen zur Entscheidungsunterstützung (sog. CDSS =“Clinical Decision Support System“).

Der Einsatz von CDSS soll durch eine präzise Diagnostik und personalisierte Therapiewahl zu einer Verbesserung der Patientenversorgung beitragen.

Neben dem aktuellen Sachstand zu den derzeit verfügbaren Systemen, wird auch die Ethische Bewertung der CDSS beleuchtet.

Einsatzmöglichkeiten von KI

KI findet in der ärztlichen Behandlung vor allem in der Diagnostik Anwendung. Beispielsweise werden radiologische Bilder auf Veränderungen wie z.B. suspekte Areale in Mammographien gescannt, diese erkannt und die Areale markiert. Ähnliche Vorgehen werden bei der Beurtelung des Augenhintergrundes oder beim Ranking von Genvariationen verwendet.

Im therapeutischen Bereich werden Systeme für die präoperative Planung sowie die intraoperative Unterstützung verwendet.

Aus ethischer Sicht umstritten, ist der Einsatz von CDSS zur Bestimmung einer klinischen Prognose des Patienten, bspw. bei Krebserkrankungen oder terminaler Niereninsuffizienz.

Auch präventiv kann KI die Risikofaktoren und Angewohnheiten von Patienten analysieren und auf die Wahrscheinlichkeit für Krankheiten oder entsprechende Zusammenhänge frühzeitig hinweisen.

Ethische Bewertung

Im Rahmen der ethischen Bewertung stellt die ZEKO auf die Wichitgkeit einer frühzeitigen und ausgewogenen Abwägung von Chancen und Risiken der KI ab. Der Einsatz von KI müsse sich an den „Werten und Grundrechten wie Menschenwürde und Schutz der Privatsphäre“ orientieren. Die KI-Systeme sollen „mensch-zentriert“ und vertrauensvoll sein.

Arzt trägt Verantwortung

Der behandelnde Arzt trägt stets die Verantwortung für den gesamten diagnostischen und therapeutischen Entscheidungsprozess, so die ZEKO. Die Forderung nach einer „uneingeschränkten Erhaltung“ der „ärztlichen Endverantwortung“ dürfe aber bei der Verwendung von CDSS nicht dazu führen, dass die Gesamtlast bei der Einführung und Verwendung dieser Systeme bei den einzelnen Ärzten liege. Es müsse eine Zulassung als Medizinprodukt der KI erfolgen.

Auch der Einrichtungsträger habe sorgfältig zu prüfen, welche CDSS konkret zum Einsatz kommen solle.

Zudem müssten die autonomiebezogenen Risiken der CDSS geprüft werden. Hierunter fallen die Gefahr einer Überdiagnostik und -behandlung oder die ungeprüfte Übernahme von Diagnostikergebnissen.

Die ZEKO setzt eine Aufklärungspflicht des Arztes über den Einsatz von CDSS fest, in deren Verwendung der Patient einwilligen kann und muss. Ist die KI noch nciht als medizinischer Standard anzusehen, muss darüber als sog. Neulandmethode mit erhöhten Anforderungen an die Aufklärung aufgeklärt werden.

Spannungsfelder Schweigepflicht & Haftung

Bei der Beachtung der ärztlichen Schweigepflicht und des Datenschutzes beim Einsatz von KI, bestehten eine Vielzahl an Problemfeldern in Bezug auf die Konzeption der KI und den Datenschutz durch den Hersteller.

Offene Fragen 

Beim Einsatz von KI im medizinischen Sektor bleiben eine Vielzahl an ungeklärten Fragen. Insbesondere sind Haftungsfragen offen, da nicht klar ist, wann und wofür der Arzt bzw. der Hersteller der KI haften soll und welche Maßstäbe der Arzt / die Klinik an die KI selbst und deren Auswahl zu stellen hat.

Es bleibt abzuwarten, ob KI zukünftig in Leitlinien anempfohlen wird. Maßstäbe für Schweigepflicht, Datenschutz und Leitlinien für die „Entwicklung“ und Programmierung von KI sollten festgelegt werden. Entscheidend ist, dass die „letzte“ Entschiedung stets durch den Arzt und nicht durch die Technik – unabhängig von deren „Intelligenz“ – zu treffen ist.

RAin Alexa Frey, Fachanwältin für Medizin- & IT-Recht