Große Sprachmodelle im klinischen Einsatz
Folgendes Interview zum Thema “Sprachmodelle im klinischen Einsatz” wurde geführt mit Dr. med. Michael von Wagner, Facharzt für Innere Medizin, Chief Medical Informatics Officer, Ärztlicher Leiter Stabsstelle Medizinische Informationsdienste und Digitalisierung, Stabsstelle des Ärztlichen Direktors und Vorstandsvorsitzenden, Geschäftsführender Direktor des University Center for Digital Healthcare (UCDHC), Oberarzt Medizinische Klinik 1 Universitätsklinikum Frankfurt.
Interviewer war Dr. Michael Rammensee, Geschäftsführer des AI Quality & Testing Hubs.

Dr. Michael Rammensee: Herr Wagner, könnten Sie uns zunächst einen Überblick darüber geben, wie die KI bzw. große Sprachmodelle im klinischen Alltag funktioniert und welchen Nutzen sie bietet?
Dr. med. Michael von Wagner: Verbreitet ist der Einsatz von leistungsstarken Suchmaschinen, die speziell für medizinische Fachkräfte entwickelt wurden. Sie bieten Zugang zu einer breiten Palette von medizinischen Informationen und Ressourcen, die für die klinische Praxis und Forschung von entscheidender Bedeutung sind. Das Universitätsklinikum Frankfurt hat das Projekt SATURN auf den Weg gebracht, das niedergelassene Ärztinnen und Ärzte bei der Diagnose von unklaren und seltenen Erkrankungen unterstützen soll: Ein smartes Arztportal und die Verwendung von Künstlicher Intelligenz soll Patientinnen und Patienten unter anderem im ländlichen Raum bessere und schnelle Diagnosemöglichkeiten eröffnen.
Dr. Michael Rammensee: Können Sie uns etwas über die Anwendung von solchen Informationssystemen und ähnlichen Systemen wie ChatGPT in der medizinischen Versorgung erzählen?
Dr. med. Michael von Wagner: Die Systeme funktionieren ähnlich wie ChatGPT, indem es auf allgemeine Fragen präzise Antworten liefert und dabei als virtueller Gesprächspartner agiert. Obwohl einige Kliniken aufgrund von Datenschutzbedenken LLMs nicht nutzen, sehe ich keinen Grund, sie generell zur Diagnoseunterstützung zu verbieten. Wir sollten auf solche Systeme nicht verzichten.
Dr. Michael Rammensee: Wie sehen Sie die Integration solcher Systeme in Krankenhausinformationssysteme (KIS)?
Dr. med. Michael von Wagner: Die Integration von Systemen wie ChatGPT in KIS ist ein wichtiger Schritt. In 9 von 10 Fällen unterstützt solch ein Co-Pilot bei Fragen, an die ich möglicherweise nicht denke. Zum Beispiel könnte es auf eine angeborene Disposition hinweisen und vorschlagen, die Familie zu untersuchen. Leider sind die Kosten für eine Schnittstelle oft sehr hoch, was die Implementierung oft nur bei großem Nutzen rechtfertigt.
Dr. Michael Rammensee: Welche Herausforderungen sehen Sie bei der Integration dieser sprachgestützten Technologien in den klinischen Alltag?

Dr. med. Michael von Wagner: Eine große Herausforderung ist es, sicherzustellen, dass die Therapieempfehlungen den Leitlinien entsprechen und nicht nur auf der Erfahrung des Arztes basieren. Der Arzt sollte nicht entmündigt werden, sondern informierte Entscheidungen zusammen mit dem Patienten treffen können. Mittlerweile wird die Digitalisierung von Ärztinnen und Ärzten zunehmend akzeptiert, und die Debatte darüber nimmt ab.
Dr. Michael Rammensee: Was muss Ihrer Meinung nach noch passieren, um diese Technologien optimal zu nutzen?
Dr. med. Michael von Wagner: Es muss mehr in die Aufbereitung von Entscheidungsvorlagen investiert werden. Ärzte sollten informierte Entscheidungen treffen können, die auf einer Vielzahl von Informationen basieren. Ein Paradigmenwechsel hin zu „Der Patient hat Anrecht auf seine Akte“ ist notwendig. Die Idee der E-PA („Talk to your Patientenakte“) könnte Lösungen bieten. Es gibt jedoch ein Dilemma, wenn Daten ohne Erläuterung an den Patienten automatisiert übermittelt werden, z. B. Tumormarker.
Dr. Michael Rammensee: Wie könnten diese Technologien die Patientenversorgung konkret verbessern?
Dr. med. Michael von Wagner: In der Patientenversorgung könnten virtuelle medizinische Fachangestellte zum Beispiel zur Protokollierung von Patientengesprächen, zur Erstellung von Familienanamnesen und zur strukturierten Ablage von Informationen mit Metadaten eingesetzt werden. Eine Ersetzung durch Chat-Bots ist mit Sicherheit nicht sinnvoll, aber kleinere Aufgaben zu automatisieren, wie die Protokollierung von Gesprächen wäre ein großer Schritt nach vorne.
Dr. Michael Rammensee: Abschließend, wie sehen Sie die Zukunft der AI Governance im Gesundheitswesen?
Dr. med. Michael von Wagner: AI Governance ist ein spannendes Thema und sollte von Anfang an mitgedacht werden. Es geht darum, Redundanzen zu eliminieren und Informationen in eine Chronologie zu bringen. Dies wird nicht nur die Effizienz verbessern, sondern auch die Qualität der Patientenversorgung erheblich steigern.
Dr. Michael Rammensee: Können Sie die Bedeutung von Interoperabilität in diesem Kontext erklären?

Dr. med. Michael von Wagner: Interoperabilität ist entscheidend. Hier gibt es bei anderen Digitalbereichen bereits zertifizierte Dienste, wie z.B. einen Messengerdienst. Auch bei KI Anwendungen wird Interoperabilität ein wichtiges Merkmal werden. Diese Entwicklungen sind nicht speziell von der Uniklinik Frankfurt, sondern generische Bestrebungen.
Herzlichen Dank an Herr Dr. med. Michael von Wagner für die spannenden Einblicke in das Thema “Sprachmodelle im klinischen Einsatz”.