Regulatorische Maßnahmen für künstliche Intelligenz in Europa und Deutschland: Rahmenbedingungen, Implementierung und Perspektiven

Zusammenfassung

Die Integration von künstlicher Intelligenz (KI) im deutschen Gesundheitswesen hat in den letzten Jahren bedeutende Fortschritte gemacht. Die Anwendung von KI verspricht nicht nur eine Optimierung der Patient*innenversorgung, sondern auch erhebliche Effizienzsteigerungen im Gesundheitswesen. Insbesondere in der Onkologie hat die Nutzung von KI das Potenzial, eine transformative Wirkung auf die Krebsdiagnostik und -behandlung zu haben. Auf europäischer Ebene werden regulatorische Maßnahmen ergriffen, um den ethischen und verantwortungsvollen Einsatz und die Entwicklung von KI zu fördern sowie die dafür notwendigen Datengrundlagen zu schaffen. Die europäische Verordnung über künstliche Intelligenz setzt einheitliche Regeln für die Entwicklung, die Nutzung und die Überwachung von KI-Systemen, insbesondere bei Hochrisikoanwendungen. Die Verordnung zur Schaffung des europäischen Raums für Gesundheitsdaten ermöglicht bzw. erleichtert den Zugang zu Gesundheitsdaten und unterstützt dadurch die Entwicklung und das Training von KI-Systemen. Im Einklang mit den europäischen Vorhaben strebt Deutschland durch nationale Gesetzesvorhaben wie das Gesundheitsdatennutzungsgesetz vom 26.03.2024, das geplante Gesetz zur Regelung und Stärkung medizinischer Register und das Gesetz zur Zusammenführung von Krebsregisterdaten vom 18.08.2021 eine verbesserte Verfügbarkeit und Nutzung von Gesundheitsdaten an. Diese Daten können perspektivisch auch Grundlage für die praktische Anwendung von KI im deutschen Gesundheitswesen sein. Darüber hinaus fördert die Bundesregierung eine Reihe von medizinischen Forschungsprojekten, die hierfür innovative Wege aufzeigen und somit für bevorstehende Vorhaben wie zum Beispiel Gesetzgebung, neue Therapien und neue Forschungsfragen wegweisend sein können.

Abstract

The integration of artificial intelligence (AI) into the German healthcare system has made significant progress in recent years. The application of AI promises not only to optimize patient care, but also to significantly increase efficiency in the healthcare system. In oncology in particular, the use of AI has the potential to have a transformative effect on cancer diagnosis and treatment. Regulatory measures are being taken at the European level to promote the ethical and responsible use and development of AI and to create the necessary data basis for this. The European Artificial Intelligence Act sets uniform rules for the development, use and monitoring of AI systems, especially for high-risk applications. The regulation establishing the European Health Data Space enables and facilitates access to health data, thereby supporting the development and training of AI systems. In line with the European projects, Germany is striving to improve the availability and use of health data through national legislation such as the Health Data Use Act (26.03.24), the future Regulation and Strengthening of Medical Registries Act, and the Consolidation of Cancer Registry Data Act (18 August 2021). In the future, this data could also form the basis for the practical use of AI in the German healthcare system. In addition, the Federal Government is funding a number of medical research projects that demonstrate innovative approaches in this area and can therefore provide guidance for upcoming projects such as legislation, new therapies, and new research questions.