Zu den Herausforderungen durch Künstliche Intelligenz (KI) - auch im Medizinsektor - hat der Deutsche Ethikrat Stellung genommen. Es gelte nicht nur, Vor- und Nachteile abzuwägen, sondern auch der "problematischen Verselbstständigungstendenz des Technologieeinsatzes frühzeitig entgegenzuwirken", heißt es in der Stellungnahme "Mensch und Maschine". Zum einen dürfe der Prozess, in dem die KI zu ihren Ergebnissen gelangt, nicht zu einer Black Box werden. Es müsse also rekonstruierbar bleiben, wie die Resultate entstehen. Zum anderen sei es notwendig, dass die Ergebnisse überprüft werden und auf die Plausibilität geachtet werde. Die Überprüfung KI-unterstützter Diagnosen und Therapieempfehlungen sei eine Aufgabe von Ärzt*innen, die "maschinell nicht substituierbar sei". Es müsste die Situation der Patient*innen berücksichtigt werden, wozu die KI nicht in der Lage sei. Bei fortschreitender Ersetzung einzelner ärztlicher, therapeutischer und pflegerischer Handlungssegmente durch KI-Komponenten hält es der Ethikrat für geboten, dass Patient*innen über alle entscheidungsrelevanten Umstände ihrer Behandlung vorab informiert werden.

figure 1

© picture alliance/dpa | Wolfgang Kumm

Kommunikation spielt generell eine wichtige Rolle: "Je höher der Grad der technischen Substitution menschlicher Handlungen durch KI-Komponenten ist, desto stärker wächst der Aufklärungs- und Begleitungsbedarf der Patientinnen und Patienten", heißt es in der Stellungnahme. Eine weitere Abwertung der sprechenden Medizin sei hier kontraproduktiv. Wer KI-Ergebnisse richtig einordnen wolle, brauche entsprechende Fort- und Ausbildungen. Gleichzeitig sei darauf zu achten, dass theoretisches und praktisches Erfahrungswissen sowie Fähigkeiten nicht verloren gehen bei den Ärzt*innen, weil ihnen die Arbeit von der KI abgenommen wird. Einen vollständigen Ersatz ärztlicher Tätigkeit durch KI-Systeme lehnt der Ethikrat ab. Das gefährde das Patientenwohl und sei auch nicht durch Personalmangel zu rechtfertigen.