Warum medizinische KI einen Realitätscheck benötigt

Im Gesundheitswesen entstehen große Mengen an Daten: Diagnosen, Laborwerte, Verordnungen, Befunde oder Abrechnungsinformationen. Sie bilden die Versorgungspraxis mit unterschiedlichen Patientengruppen, Krankheitsverläufen und Rahmenbedingungen ab.

Für Künstliche Intelligenz sind solche Daten besonders wertvoll. Denn gute Studienergebnisse unter kontrollierten Bedingungen lassen sich nicht immer direkt auf die ambulante Versorgung übertragen. Unter realen Versorgungsbedingungen können die Ergebnisse anders ausfallen. Hier gewinnen Real-World Data (RWD) und Real-World Evidence (RWE) zunehmend an Bedeutung.

KI kann dabei unterstützen, große Mengen an RWD zu analysieren und die daraus gewonnenen Erkenntnisse für die klinische Praxis nutzbar zu machen. Leistungsfähige KI-Modelle sollten daher möglichst mit vielfältigen und repräsentativen RWD trainiert und validiert werden, um die Versorgungsrealität besser abzubilden.
 

Was sind Real-World Data und Real-World Evidence?

Real-World Data sind Gesundheitsdaten, die im medizinischen Versorgungsalltag entstehen – beispielsweise Diagnosen, Laborwerte, Verordnungen, Befunde, Abrechnungsdaten oder Informationen zu Behandlungsverläufen.

Werden diese Daten systematisch ausgewertet, entsteht Real-World Evidence (RWE): Erkenntnisse darüber, wie Erkrankungen, Behandlungen und Versorgung unter realen Bedingungen verlaufen.

Vereinfacht gesagt: Real-World Data sind die Daten aus der Versorgung. Real-World Evidence ist das Wissen, das aus ihrer Analyse entsteht.
 

Warum KI reale Versorgungsdaten braucht

Viele KI-Modelle werden zunächst auf Basis von Daten aus klinischen Studien oder einzelnen medizinischen Einrichtungen entwickelt. Der medizinische Alltag ist jedoch deutlich vielfältiger. Patientinnen und Patienten unterscheiden sich hinsichtlich ihrer Erkrankungen, Begleiterkrankungen, individuellen Behandlungssituationen und Lebensqualität. Auch die tatsächliche Einnahme einer verordneten Therapie lässt sich durch die behandelnde Ärztin oder den behandelnden Arzt nicht vollständig kontrollieren.

Real-World Data können deshalb dabei helfen zu überprüfen, ob ein Modell auch außerhalb seiner ursprünglichen Entwicklungsbedingungen zuverlässig funktioniert.

Bei CGM MARE werden KI-Modelle mit anonymisierten Daten aus dem CGM MARE Data Lake trainiert. Dadurch lernen die Modelle auf Basis der medizinischen Versorgungsrealität und können die beschriebene Vielfalt des medizinischen Alltags wesentlich besser widerspiegeln als Modelle, die ausschließlich mit Daten aus klinischen Studien oder medizinischer Literatur trainiert wurden.

Auch die Qualitätsprüfung der CGM MARE Modelle erfolgt mit solchen Daten, um die Leistungsfähigkeit möglichst nah am medizinischen Alltag zu bewerten. Denn für medizinische KI ist nicht nur entscheidend, wie gut ein Modell funktioniert. Ebenso wichtig ist, unter welchen Bedingungen seine Qualität überprüft wurde und ob es auch unter veränderten Bedingungen zuverlässig arbeitet.
 

Der CGM MARE Data Lake: Von Daten zu Erkenntnissen

Im CGM MARE Data Lake laufen Versorgungsdaten aus unterschiedlichen Praxen und Regionen unter DSGVO-konformen Prozessen zusammen. Die Daten werden streng anonymisiert, standardisiert und harmonisiert. Dadurch lassen sich auch längerfristige Krankheits- und Behandlungsverläufe abbilden.

Auf dieser Basis entwickelt CGM MARE KI-Modelle für konkrete Fragestellungen – beispielsweise für Hinweise auf seltene Erkrankungen, zur Unterstützung bei komplexen Diagnosen oder für Prognosen zum Konsultationsbedarf und Patientenaufkommen.

Um ihre Robustheit zu prüfen, werden die Modelle auch mit Daten aus unterschiedlichen Zeiträumen, Praxen und Regionen getestet.
 

Human-in-the-Loop: Der Mensch bleibt Teil der Entscheidung

KI soll medizinisches Fachpersonal unterstützen, nicht dessen Entscheidungen übernehmen. In bestehende Softwarelösungen integriert, kann sie beispielsweise auf Auffälligkeiten hinweisen, Risiken einschätzen oder zusätzliche Informationen bereitstellen. Die medizinische Bewertung bleibt bei den behandelnden Fachpersonen.

CGM MARE untersucht dabei auch, wie zuverlässig die Modelle für unterschiedliche Patientengruppen arbeiten. Dazu gehören unter anderem die Prüfung von Fairness und Kalibrierung sowie die Frage, ob die bereitgestellten Hinweise im Versorgungsalltag tatsächlich hilfreich sind.
 

KI ist up to date

Gesundheitsversorgung verändert sich: Leitlinien und Behandlungsstandards entwickeln sich weiter, ebenso Dokumentation und Kodierung. Damit verändern sich auch die Bedingungen, unter denen ein KI-Modell arbeitet.

CGM MARE überwacht deshalb die Modellleistung fortlaufend und verbessert die Modelle unter Einbeziehung aktueller Daten kontinuierlich. So fließen neue Erkenntnisse aus der Versorgung in die Weiterentwicklung der Systeme ein.
 

Ein Foundation Model für das Gesundheitswesen

Auf Basis harmonisierter, längsschnittlicher Gesundheitsdaten entwickelt CGM MARE außerdem ein Foundation Model. Es soll grundlegende Muster und Zusammenhänge in Patientenhistorien erfassen und für unterschiedliche Aufgaben angepasst werden können.

Denkbar sind medizinische Anwendungen wie diagnostische Unterstützung und Risikoschätzung ebenso wie administrative Anwendungen, etwa für die Kapazitätsplanung oder die Prüfung von Abrechnungsdaten.

Auch dieses Modell wird über unterschiedliche Standorte und Zeiträume hinweg kontinuierlich auf Robustheit, mögliche Verzerrungen und Zuverlässigkeit geprüft und weiterentwickelt.
 

Datenschutz, Transparenz und Regulierung

Vertrauenswürdige KI braucht mehr als eine gute Modellleistung. Ebenso entscheidend sind geeignete Daten, nachvollziehbare Prozesse, menschliche Kontrolle und eine kontinuierliche Überprüfung.

Datenschutz und regulatorische Anforderungen werden deshalb von Beginn an berücksichtigt. Neben der DSGVO bezieht CGM MARE – wo erforderlich – auch Vorgaben der Medical Device Regulation (MDR) und des EU AI Act ein, etwa zu Dokumentation, Risikomanagement und menschlicher Aufsicht.

Vertrauenswürdige KI im Gesundheitswesen entsteht damit aus dem Zusammenspiel von leistungsfähigen Modellen, geeigneten Daten, transparenten Prozessen, menschlicher Kontrolle und kontinuierlicher Überprüfung im realen Einsatz.
 

KI muss sich im Versorgungsalltag bewähren

Real-World Data und Real-World Evidence helfen dabei, KI eng an der medizinischen Versorgungspraxis zu entwickeln. Sie zeigen, wie Versorgung tatsächlich aussieht, und ermöglichen es, Modelle unter unterschiedlichen und sich verändernden Bedingungen zu entwickeln und zu überprüfen. Das ist entscheidend, wenn KI im Gesundheitswesen einen konkreten Nutzen entfalten soll. Sie wird dabei in bestehende Produkte integriert, die tagtäglich in der Versorgung genutzt werden – zum Beispiel in Praxisverwaltungssysteme, Klinikinformationssysteme oder spezialisierte Anwendungen. So können Erkenntnisse aus realen Versorgungsdaten dort unterstützen, wo medizinische Entscheidungen und Prozesse tatsächlich stattfinden.