Achtung: Risiken beim Einsatz von KI-Drittanbietern

Stellen Sie sich vor, in Ihrer Praxis werden unbemerkt Einträge in Ihrer Patientendatei vorgenommen, ohne dass Sie es erlaubt haben. Sie wissen nicht, welche Änderungen vorgenommen worden sind. Klingt wie ein Albtraum? Genau das ist kürzlich in einer österreichischen Arztpraxis passiert.

So ist es passiert

Eine Praxis wollte ihren Telefondienst mit Hilfe von Künstlicher Intelligenz verbessern – ein durchaus sinnvoller Gedanke. Dazu wurde ein Anbieter für KI-Telefonie getestet. Um dem Anbieter die Arbeit zu ermöglichen, wurde ein Zugang zur Arztsoftware eingerichtet. Dabei wurden Daten wie der Benutzername, Passwort und der zweite Sicherheitscode weitergegeben.

Die Praxis hatte vermutlich die Annahme, dass dieser Zugang nur für einen sehr eingeschränkten Zweck genutzt wird, insbesondere für Terminabfragen bzw. Terminbuchungen.

Leider stellte sich heraus, dass es doch nicht so verwendet wurde, wie gedacht. Der KI-Anbieter hat diesen Zugang nämlich nicht so verwendet, wie ein Mensch die Software bedienen würde. Stattdessen hat ein automatisiertes Programm, ein sogenanntes Script selbstständig auf die Arztsoftware zugegriffen. Und dabei ist etwas passiert, das in dieser Form technisch gar nicht vorgesehen war: Die KI hat eigenständig Einträge in die Patientendatenbank geschrieben. Die Einträge führten zu einem Ausfall der Software in der Praxis.

Warum ist Vorsicht geboten?

Patientendaten sind das Sensibelste, was eine Arztpraxis besitzt. Wenn ein externes Programm unkontrolliert in diese Daten schreiben kann, verlieren Sie die Kontrolle über Ihre eigene Kartei. Sie können die Änderung nicht nachvollziehen und Sie sind auch vor fehlerhaften, externen Daten nicht sicher. Sie können Ihren Patientinnen und Patienten nicht mehr garantieren, dass deren Daten sicher sind. Das ist nicht nur ein technisches Problem, sondern auch eine rechtliche und ethische Frage und im schlimmsten Fall eine, die Ihren guten Ruf gefährdet. Ein schlecht abgesichertes System kann genauso viel Schaden anrichten wie ein böswilliger Angriff.

Was können Sie jetzt konkret tun?

Wir möchten Sie mit drei einfachen Regeln, unterstützen, die Sie und Ihre Patientendaten schützen:

1. Geben Sie niemals Zugangsdaten, wie Benutzername, Passwort oder SMS-Code weiter. Kein seriöser Anbieter braucht diese Daten, um mit Ihrer Software zu arbeiten.
2. Fragen Sie immer zuerst Ihren Softwareanbieter. Bevor Sie auf eine externe Lösung vertrauen, fragen Sie bei uns nach. Wir können prüfen, ob eine Integration sicher ist, und gemeinsam mit Ihnen den richtigen Weg finden.
3. Setzen Sie auf KI, die für Ihre Arztsoftware gemacht ist. KI kann im Gesundheitswesen echten Mehrwert für Ihre Praxis bringen. Wichtig ist aber, dass sie sicher integriert ist und mit Ihrer Software reibungslos zusammenarbeitet. Mit CGM one bieten wir Ihnen KI-Lösungen, die speziell für unsere Arztsysteme entwickelt und ausgiebig getestet wurden. Keine Experimente, keine unbekannten Risiken. Vertrauen Sie dem Marktführer und nicht dem nächsten Versprechen aus dem Internet.

Bei Fragen zu unseren KI Produkten können Sie sich gerne bei unserer KI-Expertin Frau Ruken Effenberger unter der E-Mail-Adresse ruken.effenberger@cgm.com melden oder gleich einen Termin mit Frau Effenberger vereinbaren.