Beschlüsse
Beschlüsse der GMK 05.07.2023 - 06.07.2023
TOP: 13.1 Künstliche Intelligenz in der Gesundheitsversorgung: Transferhürden abbauen und Potenziale nutzen
Die Ministerinnen und Minister, Senatorinnen und Senatoren für Gesundheit der Länder fassen folgenden Beschluss:
Die GMK bittet das Bundesministerium für Gesundheit, Künstliche Intelligenz (KI) noch stärker als große Chance für das Gesundheitswesen zu betrachten, hierbei den Anschluss Deutschlands an die Weltspitze in den Blick zu nehmen, dabei den erfolgreichen Transfer von KI-Anwendungen in den Versorgungsalltag zu fokussieren und hierfür folgende Maßnahmen umzusetzen:
1. KI-Strategie für Medizin und Pflege entwickeln und umsetzen
Die Fokussierung des deutschen Gesundheitswesens auf die großen Potenziale, die KI beispielsweise in der Diagnostik oder bei der Behandlungsdokumentation bietet, muss systematisch und mit klaren, auf den jeweiligen Einsatzbereich passgenauen sowie messbaren Zielen erfolgen. In einem vom Bundesgesundheitsministerium angestoßenen und moderierten partizipativen Prozess müssen gemeinsam mit den Ländern und allen relevanten Akteuren aus Medizin und Pflege innovative Rahmenbedingungen unter anderem in den Bereichen Transfer, Datennutzung und Datenschutz, Regulatorik (insbesondere auch zu Haftungsfragen), Finanzierung und Vergütung sowie Kompetenz und Akzeptanz skizziert und anschließend engagiert umgesetzt werden. Der Bund und die Länder sind aufgerufen, den Prozess mit ausreichend Haushaltsmitteln zu unterlegen.
2. Förderung von KI-Maßnahmen neu ausrichten
Die Förderung von KI-Projekten im Gesundheitswesen durch das Bundesgesundheitsministerium und die Gesundheitsministerien der Länder muss weiter ausgebaut und dabei stärker auf die Versorgungsrelevanz ausgerichtet werden. Die konkrete Verbesserung der medizinischen und pflegerischen Versorgung für Patientinnen und Patienten sowie das Gesundheitspersonal bzw. die KI-basierte Unterstützung der beteiligten Leistungserbringenden sollte stets im Vordergrund aller Maßnahmen stehen und von Beginn mitgedacht werden. Forschungsvorhaben, deren Überführung in die Regelversorgung auch in Folgeprojekten nicht darstellbar ist, sollten im Regelfall vermieden werden. Benötigt werden vielmehr Förderinstrumente, die auch für kleinere und mittelständische Projektträger finanzielle Spielräume für die erfolgreiche Zertifizierung eröffnen. Akademische Forschungsgruppen sollten gezielt unterstützt werden, ihre wissenschaftlichen Erkenntnisse nicht nur zu publizieren, sondern auch als Grundlage für Public Private Partnerships oder Ausgründungen und einen gelungenen Transfer im Sinne von Blaupausen zu nutzen.
3. KI-Akzeptanz und -Kompetenz stärken
Um auf Künstlicher Intelligenz beruhende Verfahren und Technologien in der Versorgung einsetzen zu können, braucht es Akzeptanz und Kompetenz im Umgang mit KI bei Patientinnen und Patienten sowie den Leistungserbringenden. Hierzu bedarf es einer strukturellen Initiative des Bundesgesundheitsministeriums mit speziellem Fokus auf KI. Die in einzelnen Ländern im Rahmen von Modellprojekten gewonnenen Erkenntnisse zur Verbesserung der Digital- und KI-Kompetenz sollten genutzt werden. Eine wichtige Grundlage für die Schaffung von Akzeptanz und Vertrauen ist die Etablierung ethisch-moralischer Richtlinien und deren Umsetzung bei der Entwicklung und Anwendung von KI im Gesundheitswesen.
Dabei ist von Beginn an ein besonderes Augenmerk auf das Risiko von ungewollter Diskriminierung von Gruppen mit geschützten Merkmalen (vor allem Alter, Geschlecht, Religion, ethnische Herkunft, sexuelle Orientierung und Behinderung) durch Algorithmen aufgrund von Unterrepräsentierung im Datensatz oder Biase gegenüber Trägern geschützter Merkmale zu legen.
Darüber hinaus muss ein dreistufiger Prozess aus Information, Qualifizierung und Teilhabe geschaffen und in Gang gesetzt werden. Bürgerinnen und Bürger sollen im Rahmen lokaler Settings (z.B. Volkshochschulen und Seniorenverbände) über Chancen und Risiken von KI-Anwendungen und Gesundheitsdatennutzung informiert werden und könnten dieses Wissen auch als Multiplikatorinnen und Multiplikatoren vertiefen und weitergeben. KI-Verfahren und deren statistische und mathematische Grundlagen müssen Einzug in die Curricula des Medizinstudiums und der Gesundheits- und Pflegeberufe finden sowie in deren Fort- und Weiterbildungsstrukturen.
4. EU-KI-Verordnung: Überregulierung verhindern und Reallabore nutzen
Bei den weiteren Verhandlungen zur EU-KI-Verordnung muss vom Bund darauf hingewirkt werden, dass das Inverkehrbringen von auf KI basierenden Medizinprodukten nicht durch zusätzliche bzw. mit den Regelungen der Europäischen Verordnung über Medizinprodukte (MDR) überlappende Regelungen weiter erschwert wird. Die MDR sollte das Hauptregelwerk für die Zertifizierung von KI-gestützten Medizinprodukten darstellen, auch wenn sie in der jetzigen Form überarbeitungsbedürftig ist (BR-Drs. 445/22). Es ist ein angemessener Ausgleich zwischen dem Schutz der Bevölkerung vor KI-Systemen im Sinne eines Eingriffes in die Privatsphäre und dem Interesse, die Gesundheit der Bevölkerung zu erhalten und zu verbessern, anzustreben. Die Möglichkeit, KI-Reallabore einzurichten, sollte für das Gesundheitswesen als Chance verstanden und entsprechend vorbereitet werden. Die grundlegenden Bedingungen für Leitung, Aufsicht und Haftung sind durch den Bund festzulegen, Aufbau und Betrieb müssen gefördert werden. Bei der Umsetzung sollte die universitäre und nicht-universitäre stationäre sowie die ambulante Versorgung einbezogen werden. Es sollte darüber hinaus geprüft werden, inwieweit Experimentierklauseln bis zum Inkrafttreten der EU-KI-VO bzw. auch darüber hinaus sinnvoll sein könnten.
5. Anforderungen von KI bei Gesundheitsdatengesetzen stets mitdenken
Die laufenden und geplanten Gesetzgebungsverfahren zur Gesundheitsdateninfrastruktur und -nutzung (insbesondere der Europäische Gesundheitsdatenraum und das Gesundheitsdatennutzungsgesetz des Bundes) müssen vom Bundesministerium für Gesundheit dazu genutzt werden, die Weichenstellungen für eine deutlich verbesserte Datengrundlage für das Training und die Validierung Künstlicher Intelligenz zu stellen. Die geplante Regelung, die Berechtigung für den Datenzugang nicht mehr von der Rechtspersönlichkeit des Antragstellenden abhängig zu machen, sondern sich am Verwendungszweck zu orientieren, würde für forschende Gesundheitsunternehmen das Innovationspotenzial beispielsweise deutlich erhöhen und wird daher nachdrücklich begrüßt. Gesundheitsdaten sollten entlang des kompletten sektorenübergreifenden Versorgungspfades in standardisierten Formaten für die KI-Forschung verfügbar gemacht werden. Dies gilt beispielsweise auch für Registerdaten. Der Gesundheitsdatenschutz in Deutschland sollte stärker als bisher lösungsorientiert gestaltet und dies sowohl regulativ als auch durch eine entsprechende Ausstattung der zuständigen Behörden unterlegt werden. Die Nutzung sinnvoller Konzepte, wie des im Rahmen der Medizininformatikinitiative erarbeiteten Broad-Consents, sollten auch für nicht-universitäre Versorgungsbereiche forciert werden.
6. Wege der Kostenerstattung prüfen und gegebenenfalls anpassen
Bestehende Möglichkeiten der Kostenübernahme im Rahmen der GKV und PKV müssen vom Bundesgesundheitsministerium dahingehend überprüft werden, ob sie den KI-spezifischen Potenzialen und Anforderungen genügen. Als mögliche Wege der Vergütung von KI-Anwendungen über die GKV sollte die Berücksichtigung im EBM und in der GOÄ sowie gegebenenfalls die Kostenübernahme als Hilfsmittel im ambulanten Bereich, die Berücksichtigung in der DRG-Fallpauschale bzw. eine Vergütung mittels NUB-Entgelts im stationären Bereich sowie die Aufnahme in das Verzeichnis für Digitale Gesundheits- und Pflegeanwendungen (DiGA/DiPA) in Betracht gezogen werden. Die vom Bund in der Digitalisierungsstrategie für das Gesundheitswesen und die Pflege „Gemeinsam digital“ angekündigte kurzfristige Maßnahme, das DiGA-Konzept auf nutzenstiftende Medizinprodukte der Risikoklasse 2b auszuweiten, wird unterstützt. Auch ein bei den Krankenkassen angesiedeltes Innovationsbudget, zum Beispiel zur Vorfinanzierung von Nutzennachweisen von KI-Anwendungen kleinerer und mittlerer Unternehmen, könnte sinnvoll sein. Hierfür bedarf es jedoch eines standardisierten Verfahrens zur Zusatznutzenbewertung digitaler Anwendungen im Sinne eines „digitalen AMNOG“. Gegebenenfalls müssen der Hinweis der KI-Enquete-Kommission des Deutschen Bundestages aufgegriffen und KI-spezifische Erstattungsinstrumente geschaffen werden.
7. Ethikverfahren entbürokratisieren
Auf Bundesebene sollte überprüft werden, ob Bewertungsprozesse der Ethikkommissionen vereinfacht und vereinheitlicht werden können. Dies gilt unter anderem für bundesländerübergreifende Vorhaben mit mehreren zuständigen Ethikkommissionen. Die Einführung von zentral bindenden Ethikvoten durch eine federführende Ethikkommission könnte dabei hilfreich sein und die Arbeit von Forschenden vereinfachen. Auch die Vereinheitlichung von Formvorgaben für die Einreichung von Ethikanträgen und planbare Reaktionszeiten sollten angestrebt werden.
8. Trainingsdatensätze zur Verfügung stellen
Das in der Digitalisierungsstrategie „Gemeinsam digital“ formulierte Ziel, „die Schaffung von Test- und Trainingsdatensätzen für Algorithmen zu ermöglichen, damit diese diskriminierungsfrei auf die jeweiligen Zielgruppen angewandt werden können“, ist kurzfristig durch das Bundesgesundheitsministerium umzusetzen. Sinnvoll könnten beispielsweise qualitätsgesicherte Open-Access-Trainingsdatensätze aus verschiedenen Fachgebieten sein, die durch die Entwicklung eines Qualitätssiegels zertifiziert und anschließend frei zur Verfügung gestellt werden. Projekte zum Aufbau dieser Datensätze sollten durch eine begleitende Förderungsmöglichkeit initiiert werden.
9. Voraussetzungen für die Zertifizierung dynamischer Systeme prüfen
Europa darf sich bei der Erforschung und Anwendung von KI-Systemen, beispielsweise im Hinblick auf die USA, nicht weiter mit der Rolle des Nachzüglers begnügen. Für die erfolgreiche Gewinnung von Fachkräften und die Ansiedelung von KI- und Halbleiterproduzenten muss daher wieder der Anschluss an die Weltspitze angestrebt werden. Dieser könnte im Gesundheitswesen durch die Möglichkeit zum Inverkehrbringen dynamisch lernender KI-Systeme erreicht werden. Dazu sollte vom Bundesministerium für Gesundheit ein Use Case entwickelt werden, bei dem ein regelmäßiger „KI-TÜV“ durch eine Benannte Stelle abgenommen und auf diese Weise die dynamische Weiterentwicklung des Systems innerhalb eines vorgegebenen Rahmens überwacht wird.