CGM Global
Lösungen
Produkte
Informationen zu unseren Produkten, die Gesundheitsprofis entlang der gesamten Patient Journey unterstützen.
ARTIKEL
Über uns
Erfahren Sie alles über die Vision, Mission sowie die Menschen, die die CompuGroup Medical weltweit prägen.
Jedenfalls sollten KI-Systeme, die medizinische Entscheidungen unterstützen, nachvollziehbar sein. Denn "Black Box"-Modelle sind ethisch problematisch - Patienten und Ärzte müssen verstehen, wie ein bestimmtes Ergebnis zustande kam. Patienten müssen wissen, ob und wie KI in ihrer Diagnose verwendet wird – eine informierte Einwilligung ist hierbei entscheidend.
Wer haftet bei einem Diagnosefehler? Der Arzt, das Krankenhaus, der KI-Entwickler? Es braucht klare Regeln zur Verantwortungszuweisung!
KI-Systeme können zudem – im medizinischen Kontext - gefährliche Verzerrungen (Bias) durch unausgewogene Trainingsdaten liefern. Es darf keine Diskriminierung aufgrund von Geschlecht, Alter, Herkunft etc. geben.
Nachdem medizinische Daten besonders sensibel sind, muss natürlich sichergestellt werden, dass personenbezogene Daten sicher gespeichert, verarbeitet und anonymisiert werden.
Experten fordern, dass menschliche Kontrolle ("Human-in-the-loop") aus ethischen Gründen zwingend sein sollte – eine finale Entscheidung sollte demnach immer bei einem Menschen liegen und niemals bei der KI allein. Eine vollautomatisierte Diagnostik ohne menschliche Aufsicht werfe nämlich tiefgreifende ethische Fragen auf. Und damit sind wir am Punkt:
Medizintechnische KI zählt zur Hochrisiko-Kategorie. Anforderungen an den Einsatz lauten:
Die gute Nachricht: KI-basierte Diagnosesysteme gelten ganz generell als Medizinprodukte und müssen entsprechend zertifiziert werden. Eine Klassifizierung, Konformitätsbewertung und CE-Kennzeichnung sind unerlässlich.
Besonders relevant ist der Art. 9 der DSGVO über die Verarbeitung besonderer Kategorien personenbezogener Daten - wie eben Gesundheitsdaten. Die Anforderungen reichen von der Einwilligung über sind die Prinzipien der Datenminimierung und Zweckbindung bis hin zur Transparenz und der Wahrung der Betroffenenrechte.
Die Ethik-Leitlinien der EU-Kommission formulieren Prinzipien wie Fairness, Transparenz, Rechenschaftspflicht und Respekt vor der menschlichen Autonomie.
Außerdem veröffentlichen Medizinische Fachgesellschaften zunehmend Leitlinien für den Einsatz von KI.
In Österreich kümmert sich das BASG (Bundesamt für Sicherheit im Gesundheitswesen) um die Zulassung und Überwachung von Arzneimitteln & Medizinprodukten, inklusive Software als Medizinprodukt. Sie führt Konformitätsbewertungen, klinische Bewertungen und Marktüberwachung durch. Die ÖBIG (als Teil der GÖG - Gesundheit Österreich GmbH) ist für die Gesundheitsberichterstattung, evidenzbasierte Bewertung und Versorgungsforschung verantwortlich. Sie spielt eine Rolle bei Empfehlungen zur Integration neuer digitaler Gesundheitslösungen in das System. Die ELGA GmbH (Elektronische Gesundheitsakte) koordiniert elektronische Gesundheitsdienste in Österreich, etwa e-Befund, e-Impfpass, e-Medikation. Digitale Anwendungen müssen kompatibel mit ELGA-Standards sein, wenn sie ins Gesundheitssystem eingebunden werden sollen.
In Deutschland existieren mehrere Gesetze, Verordnungen und ethische Empfehlungen, die speziell den Einsatz von Künstlicher Intelligenz in der Medizin und Diagnostik betreffen oder darauf anwendbar sind. Sie stammen aus unterschiedlichen Rechtsbereichen - u. a. Medizinrecht, Datenschutz, Digitalisierung im Gesundheitswesen und Produktsicherheit.
Als wichtigste Institutionen agieren das BfArM (Bundesinstitut für Arzneimittel und Medizinprodukte), der G-BA (Gemeinsamer Bundesausschuss) und das DVG (Digitale-Versorgung-Gesetz) für digitale Gesundheitsanwendungen (DiGA).
In der Schweiz gibt es kein direktes Pendant zu jedem deutschen Gremium oder Gesetz wie dem BfArM, G-BA oder DVG/DiGA – aber es existieren vergleichbare Institutionen, Gesetze und Programme, die den Einsatz digitaler Gesundheitsanwendungen (auch KI-basierter Systeme) regulieren oder fördern: Das Heilmittelgesetz (HMG) regelt die Zulassung, Herstellung, und Abgabe von Heilmitteln, inklusive Software mit medizinischem Zweck - es gilt auch für digitale Gesundheitsanwendungen, wenn diese als Medizinprodukt klassifiziert sind. Die Medizinprodukteverordnung (MepV) als nationale Umsetzung der europäischen MDR (Medical Device Regulation) in der Schweiz regelt Zulassung und Klassifizierung von digitalen Gesundheitsanwendungen und KI, sofern sie als Medizinprodukt gelten. Das seit 2023 in Kraft getretene Datenschutzgesetz (revDSG) regelt die Verarbeitung von besonders schützenswerten personenbezogenen Daten, insbesondere Gesundheitsdaten. Es orientiert sich an der EU-DSGVO, aber mit einigen relevanten Unterschieden (z.B. kein explizites „Recht auf Vergessenwerden“). Das in Planung befindliche Bundesgesetz über die Förderung der digitalen Transformation im Gesundheitswesen dient der Förderung und Koordination der digitalen Gesundheit auf Bundesebene. Es fokussiert sich auf das elektronische Patientendossier (EPD), Interoperabilität, Fördermittel für digitale Anwendungen.
Vergleich: Digitale Gesundheitsregelungen in D-A-CH.