CompuGroup Medical
Synchronizing Healthcare

Erfahren Sie alles über die Vision, Mission sowie die Menschen, die die CompuGroup Medical weltweit prägen. 

Investor Relations
Eine Person tippt mit dem Finger auf ein Tablet-PC mit einer Investor-Relations-Präsentation
Karriere
Eine junge Frau telefoniert mit ihrem Smartphone, während sie einen Tablet-PC hält
CGM Global
Mehrere CGM-Flaggen

WHO warnt vor Risiken durch Generative KI

21. Januar 2024 | APAMED (APA-OTS)
Computerprozessor Künstliche Intelligenz Konzept Archivfoto, 3D-Illustration.
Computerprozessor Künstliche Intelligenz Konzept Archivfoto, 3D-Illustration.

Die Weltgesundheitsorganisation (WHO) hat vor den Risiken bei der Verwendung von sogenannter Generativer Künstlicher Intelligenz im Gesundheitsbereich gewarnt. Eine am Donnerstag in Genf veröffentlichte Analyse der WHO kommt zu dem Schluss, die neue Technologie könne zwar in verschiedenen Bereichen der Medizin hilfreich sein, wenn sie aber nicht mit ausreichend Daten entwickelt werde, könne sie irreführende und potenziell gefährliche Ergebnisse liefern.

Die sogenannte Generative Künstliche Intelligenz wird dafür verwendet, beispielsweise in Programmen wie ChatGPT, Texte, Bilder oder Videos zu erzeugen. Die Programme können dabei mit unterschiedlichen Datenarten gespeist werden, diese umwandeln, verarbeiten und daraus neue Daten generieren.

Die WHO rechnet damit, dass Generative Künstliche Intelligenz in der Zukunft breite Anwendung in der Medizin finden wird. So könnte die Technologie bei der Diagnose, in der Forschung und Entwicklung sowie in der Bildung von Ärzten und Pflegekräften genutzt werden. Weiteres Potenzial von Generativer Künstlicher Intelligenz sieht die WHO in der Verwaltung von Gesundheitsdaten sowie in der Unterstützung von Patienten, die sich über ihre Symptome informieren wollen.

Das Risiko in der Verwendung von Generativer Künstlicher Intelligenz liegt der Analyse zufolge in der Qualität der Daten, mit denen die Modelle trainiert werden. 

So verzerre eine nicht repräsentative Datenlage auch die Ergebnisse der Programme, was falsche, ungenaue, voreingenommene oder unvollständige Diagnosen zur Folge haben könne.

Die Konsequenzen seien im Gesundheitsbereich entsprechend schwerwiegend, warnte die WHO. Mit der zunehmenden Verwendung der neuen Technologie im Gesundheitsbereich seien "Fehler, Missbrauch und schlussendlich gesundheitliche Schäden einzelner Menschen unvermeidbar", heißt es in der Analyse.

Die Weltgesundheitsorganisation mahnt, dass es nur möglich sei, von den Vorteilen von Generativer Künstlicher Intelligenz zu profitieren, wenn alle Beteiligten transparent und verantwortungsbewusst mit der Technologie umgingen. Dazu müssten Regeln aufgestellt und medizinisches Personal sowie Patienten an der Entwicklung der KI-Programme für den Gesundheitsbereich beteiligt werden.

"Generative Künstliche Intelligenz hat die Chance, die Gesundheitsversorgung zu verbessern", erklärte der wissenschaftliche Leiter der WHO, Jeremy Farrar. "Das gelingt jedoch nur, wenn die Entwickler, Entscheider und Nutzer die Risiken kennen und sich verantwortlich für sie fühlen."

Die WHO sieht unter anderem große Technologieunternehmen, die Programme für den Gesundheitsbereich entwickeln, in der Pflicht. Außerdem müsse das Risiko für Cyberangriffe bei der Arbeit mit sensiblen Gesundheitsdaten bedacht werden.

Die WHO schloss ihre Einschätzung der Chancen und Risiken von Generativer Künstlicher Intelligenz für die Gesundheitsversorgung mit der Aufforderung an Regierungen, die Verwendung der neuen Technologie zu regulieren und sie regelmäßig zu überprüfen.

Verwandte Artikel
Symbolbild Künstliche Intelligenz
Symbolbild Künstliche Intelligenz
Künstliche Intelligenz: In der Medizin eigentlich längst Realität

Der Hype um Künstliche Intelligenz (KI) ist für den Bereich der ...

Dr. Günther Klambauer, KI-Forscher und Assoziierter Professor am Institut für Machine Learning der JKU Linz.
Dr. Günther Klambauer, KI-Forscher und Assoziierter Professor am Institut für Machine Learning der JKU Linz.
Die KI-gesteuerte medizi­nische Revo­lution – eine Utopie

In einem fiktiven Szenario hat Österreich ein fortschrittliches ...