Wie der AI Act der Europ\u00e4ischen Union auf radiologische KI-L\u00f6sungen heruntergebrochen werden kann, ist noch sehr unklar. Die Zeit dr\u00e4ngt.<\/b><\/p>\n
Noch l\u00e4uft die \u00dcbergangsphase, doch der EU AI Act wirft in der Radiologie bereits seine Schatten voraus. Im unbestritten erfolgreichsten Teilsegment der medizinischen KI geht die Sorge um, dass ein unklarer regulatorischer Rahmen europ\u00e4ischen Anbietern einmal mehr schaden wird. Bisher gelten europ\u00e4ische Unternehmen im Bereich radiologische KI als global konkurrenzf\u00e4hig. Aber wird das so bleiben, wenn der AI Act Fahrt aufnimmt? <\/p>\n
\u00a0<\/p>\n
EU AI Act f\u00fcr Hochrisiko-Anwendungen: Ab August 2027 gilt es<\/b> <\/p>\n
Offiziell ist der AI Act seit August 2025 in Kraft, derzeit gilt er aber \u201enur\u201c f\u00fcr Basismodelle (\u201efoundation models\u201c) und KI-Systeme mit allgemeinem Verwendungszweck (\u201egeneral purpose AI\u201c). Im August 2027 endet dann die \u00dcbergangsfrist f\u00fcr Hochrisiko-KI-Systeme. Und da die Mehrheit der radiologischen KI-Systeme in die Hochrisikokategorie fallen d\u00fcrfte, wird es sp\u00e4testens dann spannend. Tats\u00e4chlich m\u00fcssen die Rahmenbedingungen deutlich fr\u00fcher klar sein, denn die Hersteller m\u00fcssen sich nat\u00fcrlich auf den Tag X vorbereiten. <\/p>\n
\u00a0<\/p>\n
In einem aktuellen Kommentar in npj digital medicine fordern Jaka Poto\u010dnik, Radiologe an der School of Medicine des University College Dublin, und Damjan Fujs von den Computer- und Informationswissenschaften der Universit\u00e4t Ljubljana, vor diesem Hintergrund standardisierte Leitlinien, die spezifizieren, was die vagen Anforderungen des EU AI Act f\u00fcr die Hersteller von radiologischen KI-Systemen in unterschiedlichen Situationen konkret bedeuten. Es drohe sonst eine Situation, in der unterschiedliche Unternehmen extrem unterschiedlich agieren, was zu regulatorischer Unsicherheit f\u00fchren und letztlich Innovation ausbremsen werde. <\/p>\n
\u00a0<\/p>\n
Herausforderung 1: Risikomanagement-Systeme<\/b> <\/p>\n
Ein wichtiges Thema in diesem Zusammenhang seien Risikomanagement-Systeme (RMS) nach Artikel 9 des EU AI Act. Sie setzten auf existierende Risikomanagement-Anforderungen der europ\u00e4ischen Medizinprodukte-Richtlinie (MDR) auf, aber wie genau die zus\u00e4tzlichen Anforderungen durch den AU Act auss\u00e4hen, sei v\u00f6llig unklar. Es bestehe die Gefahr, dass die Hersteller der radiologischen KI-Tools sehr unterschiedliche Herangehensweisen w\u00e4hlten, die von einem RMS mit ISO 14971-Zertifizierung bis hin zu einem simplen Ad-hoc-RMS reichten, das nur mit internen Checklisten arbeite. <\/p>\n
\u00a0<\/p>\n
Poto\u010dnik und Fujs weisen darauf hin, dass aus ihrer Sicht eine ad\u00e4quate Risikobewertung bei radiologischen Systemen zwingend auf Basis der Bewertung eines multidiziplin\u00e4ren Teams erfolgen m\u00fcsse, um m\u00f6glichst viele bekannte und mit einer gewissen Wahrscheinlichkeit vorhersehbare Risiken zu identifizieren. Zwar sei der AI Act bewusst breit gefasst, doch wenn es an die konkrete Umsetzung gehe, dann drohten die vagen Vorgaben beim RMS letztlich die Patientensicherheit zu gef\u00e4hrden bzw., im Fall von Datenschutzvorgaben, die Patientenrechte zu ignorieren. <\/p>\n
\u00a0<\/p>\n
Herausforderung 2: Data Governance<\/b> <\/p>\n
Konkretere Vorgaben w\u00fcnschen sich Poto\u010dnik und Fujs auch beim Thema Data Governance, f\u00fcr das insbesondere die Artikel 10 und 13 des EU AI Acts relevant seien. Hier geht es um die Trainings-, Validierungs- und Testdatens\u00e4tze, die gem\u00e4\u00df EU-Willen im Kontext des gew\u00e4hlten Einsatzzwecks repr\u00e4sentativ und vollst\u00e4ndig sein m\u00fcssen, Stichwort unter anderem Vermeidung von Diskriminierung. Hier sei die gro\u00dfe Frage, wie genau gew\u00e4hrleistet werden solle, dass ein genutzter Datensatz \u201erepr\u00e4sentativ\u201c ist, da dies stark vom Einsatzkontext abh\u00e4nge. So ben\u00f6tige eine radiologische KI, die f\u00fcr einen Einsatz im multikulturellen Berlin entwickelt werde, andere Datens\u00e4tze als eine Anwendung f\u00fcr eine l\u00e4ndliche Region mit homogener Bev\u00f6lkerung. <\/p>\n
\u00a0<\/p>\n
Diese Probleme beschr\u00e4nkten sich auch nicht auf die ethnische Zusammensetzung der Populationen, so die beiden Autoren. Auch medizinische Risikofaktoren seien in unterschiedlichen Populationen extrem ungleich verteilt, und auch das k\u00f6nne Einfluss auf die Performance von radiologischen KI-Systemen nehmen: \u201eDerzeit gibt es keine standardisierte Methode, mit der die Repr\u00e4sentativit\u00e4t und Vollst\u00e4ndigkeit eines Datensatzes f\u00fcr radiologische KI \u00fcber unterschiedliche Kontexte hinweg bewertet werden k\u00f6nnte. Dadurch entsteht ein Graubereich bei der Interpretation solcher kritischer Datensatzattribute und f\u00fcr den Umgang mit ihnen\u201c, so die beiden Experten. <\/p>\n
\u00a0<\/p>\n
Herausforderung 3: Post-Market Monitoring<\/b> <\/p>\n
Das dritte Thema, das Poto\u010dnik und Fujs in ihrem Kommentar ansprechen, ist das in Artikel 72 des AI Act geregelte Post-Market Monitoring, kurz PMM. Dabei geht es um die kontinuierliche Qualit\u00e4tssicherung bei radiologischen (oder anderen Hochrisiko-)KI-Produkten \u00fcber den gesamten Produktlebenszyklus hinweg. Wie genau eine AI Act-konformes PMM aussehen m\u00fcsste, h\u00e4nge stark vom RMS ab bzw. von den tats\u00e4chlichen und potenziellen Risiken, die im Zusammenhang mit dem RMS identifiziert wurden. Da die Anforderungen an das RMS unklar seien, sei ebenso unklar, wie ein gutes, umfassendes PMM System im Bereich radiologische KI beschaffen sein sollte. <\/p>\n
\u00a0<\/p>\n
PMM ist schon heute im Kontext der MDR ein Thema. Dass die Sache nicht so einfach ist, zeigen Praxiserfahrungen aus den Niederlanden und der Schweiz. In den Niederlanden wurden 2023 und 2024 insgesamt 13 Medizinprodukteanbieter von den Beh\u00f6rden kontrolliert. Fast die H\u00e4lfte hatte gar kein PMM-Konzepte, und die PMM-Konzepte, die es gab, waren durchweg l\u00fcckenhaft. Die Schweizer Beh\u00f6rden machten \u00e4hnliche Erfahrungen bei einer \u00dcberpr\u00fcfung von 27 Medizinprodukteherstellern. Hier konnten 70 % keine ad\u00e4quate PMM-Dokumentation nachweisen. Alles in allem, so Poto\u010dnik und Fujs, gebe es gro\u00dfe praktische Herausforderungen mit Blick auf das Scharfschalten des EU AI Act f\u00fcr radiologische KI-Systeme im Sommer 2027. Diese gelte es jetzt dringend anzugehen dahingehend, dass die entsprechenden Vorgaben von den zust\u00e4ndigen Beh\u00f6rden pr\u00e4zisiert werden m\u00fcssten. <\/p>\n
\u00a0<\/p>\n
Weitere Informationen<\/b> <\/p>\n
Jaka Poto\u010dnik\/Damjan Fujs. Navigating uncharted waters: select practical considerations in radiology AI compliance with the EU AI Act. npj digital medicine 2025; 25.10.2025; <\/p>\n