Ethische Perspek­tiven und regu­lato­rische Heraus­forde­rungen zur KI in der Medizin

Beim Einsatz von KI in der medizinischen Diagnostik ergeben sich eine Vielzahl von ethischen Herausforderungen und regulatorischen Herausforderungen. Diese betreffen nicht nur die Technologie selbst, sondern auch die Art und Weise, wie sie entwickelt, implementiert und überwacht wird.

Die ethische Perspektive

Jedenfalls sollten KI-Systeme, die medizinische Entscheidungen unterstützen, nachvollziehbar sein. Denn "Black Box"-Modelle sind ethisch problematisch - Patienten und Ärzte müssen verstehen, wie ein bestimmtes Ergebnis zustande kam. Patienten müssen wissen, ob und wie KI in ihrer Diagnose verwendet wird – eine informierte Einwilligung ist hierbei entscheidend. 

Wer haftet bei einem Diagnosefehler? Der Arzt, das Krankenhaus, der KI-Entwickler? Es braucht klare Regeln zur Verantwortungszuweisung!

KI-Systeme können zudem – im medizinischen Kontext - gefährliche Verzerrungen (Bias) durch unausgewogene Trainingsdaten liefern. Es darf keine Diskriminierung aufgrund von Geschlecht, Alter, Herkunft etc. geben.

Nachdem medizinische Daten besonders sensibel sind, muss natürlich sichergestellt werden, dass personenbezogene Daten sicher gespeichert, verarbeitet und anonymisiert werden.

Experten fordern, dass menschliche Kontrolle ("Human-in-the-loop") aus ethischen Gründen zwingend sein sollte – eine finale Entscheidung sollte demnach immer bei einem Menschen liegen und niemals bei der KI allein. Eine vollautomatisierte Diagnostik ohne menschliche Aufsicht werfe nämlich tiefgreifende ethische Fragen auf. Und damit sind wir am Punkt: 

Wenn wir aufhören, Maschinen als "Supporter" einzusetzen und beginnen, sie als Entscheider zu benutzen, gibt es für den eigentlich vernunftbegabten "homo sapiens sapiens" keine Überlebenschance - doch wer definiert die Grenzen?
 

Regulatorische Rahmenbedingungen

EU AI Act (EU-Gesetz über Künstliche Intelligenz)

Medizintechnische KI zählt zur Hochrisiko-Kategorie. Anforderungen an den Einsatz lauten: 

• Risikomanagement,
• Transparenz,
• menschliche Aufsicht,
• Datenqualität,
• Dokumentationspflichten.
   

Medizinprodukte-Verordnung (MDR, EU)

Die gute Nachricht: KI-basierte Diagnosesysteme gelten ganz generell als Medizinprodukte und müssen entsprechend zertifiziert werden. Eine Klassifizierung, Konformitätsbewertung und CE-Kennzeichnung sind unerlässlich.
 

Datenschutz-Grundverordnung (DSGVO)

Besonders relevant ist der Art. 9 der DSGVO über die Verarbeitung besonderer Kategorien personenbezogener Daten - wie eben Gesundheitsdaten. Die Anforderungen reichen von der Einwilligung über sind die Prinzipien der Datenminimierung und Zweckbindung bis hin zur Transparenz und der Wahrung der Betroffenenrechte.
 

Ethik-Leitlinien für vertrauenswürdige KI (EU-Kommission)

Die Ethik-Leitlinien der EU-Kommission formulieren Prinzipien wie Fairness, Transparenz, Rechenschaftspflicht und Respekt vor der menschlichen Autonomie.
 

Gesetze & Empfehlungen auf nationaler Ebene

• Deutschland ist mit dem "Digitale-Versorgung-Gesetz" für digitale Gesundheitsanwendungen (DiGA) und dem "DiGA-Fast-Track" führend bei der strukturierten Integration digitaler Gesundheitsanwendungen in die Regelversorgung.
• Die Schweiz hat ein gut reguliertes System für digitale Medizinprodukte, aber noch kein nationales Verfahren zur Erstattung von Apps.
• Österreich hat mit ELGA eine funktionierende e-Gesundheitsakte, aber wenig spezifische Regulierungen für digitale Gesundheitsanwendungen und KI – allerdings viele Pilotprojekte.

Außerdem veröffentlichen Medizinische Fachgesellschaften zunehmend Leitlinien für den Einsatz von KI.
 

Österreich

In Österreich kümmert sich das BASG (Bundesamt für Sicherheit im Gesundheitswesen) um die Zulassung und Überwachung von Arzneimitteln & Medizinprodukten, inklusive Software als Medizinprodukt. Sie führt Konformitätsbewertungen, klinische Bewertungen und Marktüberwachung durch. Die ÖBIG (als Teil der GÖG - Gesundheit Österreich GmbH) ist für die Gesundheitsberichterstattung, evidenzbasierte Bewertung und Versorgungsforschung verantwortlich. Sie spielt eine Rolle bei Empfehlungen zur Integration neuer digitaler Gesundheitslösungen in das System. Die ELGA GmbH (Elektronische Gesundheitsakte) koordiniert elektronische Gesundheitsdienste in Österreich, etwa e-Befund, e-Impfpass, e-Medikation. Digitale Anwendungen müssen kompatibel mit ELGA-Standards sein, wenn sie ins Gesundheitssystem eingebunden werden sollen.

Deutschland

In Deutschland existieren mehrere Gesetze, Verordnungen und ethische Empfehlungen, die speziell den Einsatz von Künstlicher Intelligenz in der Medizin und Diagnostik betreffen oder darauf anwendbar sind. Sie stammen aus unterschiedlichen Rechtsbereichen - u. a. Medizinrecht, Datenschutz, Digitalisierung im Gesundheitswesen und Produktsicherheit.

Als wichtigste Institutionen agieren das BfArM (Bundesinstitut für Arzneimittel und Medizinprodukte), der G-BA (Gemeinsamer Bundesausschuss) und das DVG (Digitale-Versorgung-Gesetz) für digitale Gesundheitsanwendungen (DiGA).
 

Schweiz

In der Schweiz gibt es kein direktes Pendant zu jedem deutschen Gremium oder Gesetz wie dem BfArM, G-BA oder DVG/DiGA – aber es existieren vergleichbare Institutionen, Gesetze und Programme, die den Einsatz digitaler Gesundheitsanwendungen (auch KI-basierter Systeme) regulieren oder fördern: Das Heilmittelgesetz (HMG) regelt die Zulassung, Herstellung, und Abgabe von Heilmitteln, inklusive Software mit medizinischem Zweck - es gilt auch für digitale Gesundheitsanwendungen, wenn diese als Medizinprodukt klassifiziert sind. Die Medizinprodukteverordnung (MepV) als nationale Umsetzung der europäischen MDR (Medical Device Regulation) in der Schweiz regelt Zulassung und Klassifizierung von digitalen Gesundheitsanwendungen und KI, sofern sie als Medizinprodukt gelten. Das seit 2023 in Kraft getretene Datenschutzgesetz (revDSG) regelt die Verarbeitung von besonders schützenswerten personenbezogenen Daten, insbesondere Gesundheitsdaten. Es orientiert sich an der EU-DSGVO, aber mit einigen relevanten Unterschieden (z.B. kein explizites „Recht auf Vergessenwerden“). Das in Planung befindliche Bundesgesetz über die Förderung der digitalen Transformation im Gesundheitswesen dient der Förderung und Koordination der digitalen Gesundheit auf Bundesebene. Es fokussiert sich auf das elektronische Patientendossier (EPD), Interoperabilität, Fördermittel für digitale Anwendungen.