Als ChatGPT seine Fähigkeit unter Beweis stellte, auf Fragen in einfachem Englisch zu antworten, markierte dies einen wichtigen Meilenstein in der KI-Entwicklung. Trotz dieser Leistung und mehr als 700 von der FDA zugelassenen KI-Anwendungen bleibt die Akzeptanz im Gesundheitswesen jedoch begrenzt.
Dr. Ronald Razmi glaubt, dass generative KI das Potenzial hat, das Gesundheitswesen zu revolutionieren, rät jedoch zur Vorsicht und weist auf die Notwendigkeit einer Leistungsvalidierung in der Praxis hin. Razmi ist Autor von AI Doctor: Der Aufstieg der künstlichen Intelligenz im Gesundheitswesen und Mitbegründer und Geschäftsführer von Zoi Capital.
Wir haben den Arzt interviewt, um wertvolle Einblicke zu allen möglichen Themen zu erhalten, angefangen von der Art und Weise, wie generative KI die medizinische Forschung beschleunigen kann, bis hin dazu, wie eine andere Form der KI, die Verarbeitung natürlicher Sprache, dabei helfen kann, narrative Daten zu extrapolieren, um Arztberichte besser zu analysieren.
F. Das Gesundheitswesen hat sich bei der Einführung von KI etwas langsam verhalten, selbst während der explosionsartigen Verbreitung von KI in der Branche mit der Einführung generativer KI, wie sie in ChatGPT verwendet wird. Wie sieht die Einführung aller Arten von KI im Gesundheitswesen jetzt aus?
A. Eine genauere Betrachtung der kurzen Geschichte der KI im Gesundheitswesen zeigt tatsächlich, dass viele der bisher eingeführten Systeme keinen nennenswerten Durchbruch erzielt haben. Dazu gehören Systeme in der Radiologie, Pathologie, in Verwaltungsabläufen, in der Patientennavigation und mehr.
Die Gründe hierfür sind vielfältig und komplex, aber die Lehren aus dem ersten Jahrzehnt der digitalen Gesundheit lehren uns, dass es geschäftliche, klinische und technische Barrieren gibt, die die Einführung dieser Technologien verlangsamen oder verhindern können.
Damit ein KI-System erfolgreich Fuß fassen kann, muss es einen unternehmenskritischen Anwendungsfall lösen, vollständige und zeitnahe Daten aus der realen Welt erhalten und in bestehende Arbeitsabläufe passen. Viele der bisher eingeführten Systeme hatten Schwierigkeiten, alle diese Kriterien zu erfüllen.
Seit der Einführung großer Sprachmodelle und generativer KI haben sich die Fähigkeiten der Verarbeitung natürlicher Sprache (NLP), einem Zweig der KI, erheblich verbessert. Dies eröffnet Möglichkeiten für die KI, eine ganze Reihe neuer Anwendungsfälle zu bewältigen, wie etwa Dokumentation, Workflows für vorherige Genehmigungen, Entscheidungsunterstützung in verschiedenen Formen und mehr.
Einige dieser Anwendungsfälle sind seit Jahren in Arbeit, aber dank eines enormen Leistungssprungs in der NLP sind sie jetzt möglicher. Obwohl es unzählige Anwendungsfälle gibt und die potenziellen Vorteile letztlich real und wirkungsvoll sein werden, ist es wichtig, die Leistung dieser Systeme in der Praxis sorgfältig zu überwachen und erst dann als erfolgreich zu erklären, wenn sie zur Zufriedenheit der Benutzer zuverlässige und konsistente Ergebnisse gezeigt haben.
Wie es bei digitalen Gesundheitssystemen in der Vergangenheit der Fall war, werden viele Anwendungsfälle kurzfristig keine Akzeptanz finden, weil es Probleme mit der Kostenerstattung gibt oder die Käufer ihre begrenzten Technologiebudgets für Probleme mit höherer Priorität ausgeben.
Heute erleben wir Pilotprojekte und die Einführung einer Reihe generativer KI-Technologien im Gesundheitswesen, die sich mit administrativen und operativen Anwendungsfällen befassen, wie etwa Kopiloten für Dokumentation, klinische Kodierung, vorherige Genehmigung, Ressourcenmanagement und mehr. Diese Anwendungsfälle sind weniger risikobehaftet als klinische Anwendungsfälle und versprechen kurzfristige Vorteile und einen klaren ROI für die Benutzer bzw. Käufer.
Ob diese Anwendungen die Erwartungen erfüllen, bleibt abzuwarten, aber die ersten Ergebnisse sind sehr vielversprechend. Die klinischen Anwendungen in der Radiologie und anderen Fachgebieten werden länger brauchen, bis sie flächendeckend eingesetzt werden, da noch groß angelegte klinische Studien zur Ermittlung der Vorteile und Sicherheit für die Patienten durchgeführt werden müssen. Außerdem werden die Kostenträger diese Studien nutzen, um zu entscheiden, welche klinischen KI-Anwendungen sie erstatten werden.
F. Sie raten zur Vorsicht, wenn es um den Bereich der generativen KI geht, und weisen auf die grundlegende Notwendigkeit einer Leistungsüberprüfung in der Praxis hin. Bitte erläutern Sie das.
A. Bei allen in der Medizin eingesetzten Technologien muss die Wirksamkeit und Sicherheit nachgewiesen werden. KI-Technologien bilden hier keine Ausnahme. Generative KI befindet sich noch in der Anfangsphase und wir wissen, dass „Halluzinationen“ ein echtes Problem darstellen und die Qualität der Ergebnisse von Lösungen, die generative KI verwenden, beeinträchtigen können.
Das Problem dabei ist, dass die „falschen“ Antworten identisch mit den richtigen Antworten aussehen können, wenn man sich auf ChatGPT verlässt. Das bedeutet, dass der Benutzer möglicherweise nicht weiß, was echt und was falsch ist. Dies stellt eine ernsthafte Herausforderung für den Einsatz generativer KI in ihrer aktuellen Form für klinische Anwendungen dar.
Es ist möglich, dass dieses Problem im Laufe der Zeit durch umfangreiche Sprachmodelle gelöst wird, die nur auf hochwertigen medizinischen Informationen basieren. Bis dahin ist bei solchen Anwendungen Vorsicht geboten.
Während operative und administrative Anwendungsfälle weniger risikobehaftet sind und nicht unbedingt in großen klinischen Studien validiert werden müssen, bedeutet das nicht, dass ihre Ergebnisse vor der Verwendung nicht auf ein akzeptables Leistungsniveau validiert werden müssen.
Eine der begehrtesten Anwendungen von KI im Gesundheitswesen ist beispielsweise die klinische Dokumentation. Als ich praktizierender Arzt war, verbrachte ich einen Großteil meiner Zeit mit klinischer Dokumentation und Verwaltungsaufgaben. Das waren einige der am wenigsten angenehmen Aspekte meiner Arbeit. Wenn KI dem Klinikpersonal einige oder viele dieser Aufgaben abnehmen könnte, würde dies einen erheblichen Mehrwert schaffen und ihre Arbeitszufriedenheit steigern.
Seit Jahren gibt es einen starken Vorstoß, KI zu diesem Zweck einzusetzen. Die Ergebnisse waren zwar vielversprechend, reichten jedoch nicht aus, um eine breite Akzeptanz zu erreichen. Mit generativer KI widmen sich Unternehmen wie Suki und Abridge nun diesem Anwendungsfall. Die ersten Ergebnisse deuten darauf hin, dass die Systeme möglicherweise ein Leistungsniveau erreicht haben, das zu einer alltäglichen Nutzung führen könnte.
Das Risiko, eine Technologie, einschließlich generativer KI, zum Sieger zu erklären, bevor sie über einen angemessenen Zeitraum in ausreichenden Umgebungen getestet wurde, besteht darin, dass die Benutzer desillusioniert werden und sich weigern können, zukünftige Versionen auszuprobieren, wenn diese Produkte am Ende enttäuschen. Wir haben dies bei KI bereits gesehen.
Während der drei Jahre, in denen ich mein neuestes Buch „AI Doctor: Der Aufstieg der künstlichen Intelligenz im Gesundheitswesen“ schrieb, sprach ich mit Klinikern und Forschern, die die erste Welle von KI-Systemen in der Radiologie und klinischen Forschung ausprobiert hatten.
Viele der Radiologiesysteme zeigten in der Praxis zu niedrige Leistungen und es gab zu viele Fehlalarme, und die Patientenidentifizierungssysteme für klinische Studien identifizierten zu viele nicht verwandte Patienten. Angesichts dieser Erkenntnisse sollten wir uns nach Kräften dafür einsetzen, die Nutzung generativer KI zu maximieren, um die nächste Welle von KI-Systemen im Gesundheitswesen zu schaffen, aber die Leistung jedes Systems gründlich validieren, bevor wir es für den breiten Einsatz verfügbar machen.
F. Sie interessieren sich für die Verarbeitung natürlicher Sprache, eine andere Form der KI. Wie kann NLP beispielsweise dabei helfen, narrative Daten zu extrapolieren, um Arztberichte besser analysieren zu können?
A. Moderne KI basiert auf maschinellem Lernen. Deep Learning ist eine Teilmenge des maschinellen Lernens, die über bedeutende Fähigkeiten zur Analyse großer Datenmengen verfügt, um Muster zu finden und Vorhersagen zu treffen. Deep Learning ist die Grundlage für große Sprachmodelle und generative KI. Mehr als alles andere haben LLMs die Verarbeitung natürlicher Sprache verbessert.
Dies ist wichtig, da frühere Versionen von NLP im Gesundheitswesen deutlich unterdurchschnittlich waren. Dies hat verschiedene Gründe, aber einige der Hauptprobleme sind, dass es keinen anerkannten Standard für klinische Notizen gibt und sie voller Akronyme und fachspezifischer Fachsprache sind.
Da mehr als 80 % der Gesundheitsdaten unstrukturiert und in narrativem Format vorliegen, wäre der Erfolg von KI im Gesundheitswesen begrenzt, wenn sie diese Daten nicht anzapfen und für ihre Ergebnisse nutzen könnte. Die erneute Begeisterung für NLP ist auf die unglaublichen Fähigkeiten der LLMs zurückzuführen und auf die Begeisterung, dass wir endlich beginnen können, narrative Daten aus klinischen Notizen oder der medizinischen Literatur ernsthaft zu analysieren und wichtige Erkenntnisse daraus zu ziehen.
Obwohl wir uns noch in der Anfangsphase der LLMs befinden, eröffnen ihre überraschenden Fähigkeiten eine Welt voller Möglichkeiten, die bisher unvorstellbar waren. Einige Experten sind beispielsweise der Meinung, dass in der bestehenden medizinischen Literatur Berge von Erkenntnissen verborgen sind, die mithilfe der LLMs entdeckt werden können.
Einige der mit größter Spannung erwarteten Anwendungen der KI sind nur mit zuverlässiger NLP möglich, etwa Chatbots, die Patienten bei der Bewältigung ihrer Gesundheit helfen, Sprachunterstützung zu Hause mithilfe intelligenter Lautsprecher oder das Erstellen klinischer Notizen durch Mithören der Arzt-Patienten-Begegnung.
Durch Investitionen in die Entwicklung dieser Anwendungen mit NLP auf Basis von LLMs können die Träume einer möglichst umfassenden und proaktiven Versorgung der meisten Menschen Wirklichkeit werden. Derzeit ist dies nicht möglich, da wir nicht über genügend Personal verfügen, um diese Art der Versorgung im großen Maßstab bereitzustellen. Nur mit Hilfe von Technologie, einschließlich NLP, können wir eine bessere Versorgung ermöglichen und die nächste Generation der Diagnostik und Therapie entdecken.
F. Sie sind der Autor des Buches „AI Doctor“. Der Titel ist wirklich überzeugend. Bitte sprechen Sie ein wenig über die These Ihres Buches.
A. Ich habe „AI Doctor“ geschrieben, um einen 360-Grad-Überblick darüber zu geben, was nötig ist, um die Einführung dieser transformativen Technologie im Gesundheitswesen zu beschleunigen. In den ersten Jahren der KI im Gesundheitswesen wurden erhebliche Versuche und Investitionen unternommen, um die erste Welle von KI-Gesundheitssystemen aufzubauen und zu kommerzialisieren.
Fast ein Jahrzehnt und Milliarden Dollar später ist diese Technologie leider noch immer nicht in großem Maßstab eingesetzt worden. Tatsächlich ergab eine aktuelle Umfrage, dass 76 % der Beschäftigten im Gesundheitswesen, darunter auch Ärzte und Krankenschwestern, angaben, bei ihrer Arbeit noch nie KI eingesetzt zu haben. Wo liegt die Diskrepanz? Damit eine digitale Technologie im Gesundheitswesen Fuß fassen kann, muss sie eine Reihe von Anforderungen erfüllen.
Dazu gehören eine Reihe geschäftlicher, technischer und klinischer Faktoren, die sorgfältig berücksichtigt werden müssen. Institutionen, die diese Technologien kaufen, suchen beispielsweise nach Systemen, die einen sofortigen ROI für ihre Gewinne erzielen. Außerdem verfügen sie jedes Jahr über begrenzte Budgets für neue Technologien.
Wenn Ihre Technologie also nicht zu einer Verbesserung ihrer kurzfristigen finanziellen Leistungsfähigkeit führt, wird sie für sie keine oberste Priorität haben, selbst wenn Sie KI in Ihrem Namen haben. Ein weiteres Problem ist die Verfügbarkeit von Daten in zuverlässiger und konsistenter Weise in der realen Welt. Gesundheitsdaten sind fragmentiert und enthalten oft Fehler.
Ohne einen zuverlässigen Fluss qualitativ hochwertiger Daten sind KI-Systeme nutzlos. Darüber hinaus sind klinische oder Forschungsabläufe über lange Zeiträume etabliert und lassen sich nicht so leicht ändern, um neuen Technologien gerecht zu werden. Daher haben nur gut konzipierte Systeme, die in diese Arbeitsabläufe passen, eine gute Chance auf Akzeptanz. Wenn eines dieser Elemente in einem KI-System im Gesundheitswesen fehlt, ist es höchst unwahrscheinlich, dass es eine nennenswerte Akzeptanz finden wird.
In diesem Buch lege ich eine Reihe von Rahmenbedingungen fest, die Benutzer, Käufer, Unternehmer und Investoren berücksichtigen sollten, wenn sie sich auf die Reise in die Welt der Gesundheits-KI begeben. Diese Rahmenbedingungen ermöglichen eine sorgfältige Analyse der genannten Faktoren für ein KI-Produkt: um zu beurteilen, ob es einen Mehrwert bieten und die Hindernisse überwinden kann, die viele andere KI-Produkte vom Erfolg abgehalten haben.
Einer der Gründe, warum beeindruckend klingende KI-Produkte keinen größeren Erfolg haben, ist der Mangel an funktionsübergreifender Expertise, die für die Entwicklung erfolgreicher Produkte erforderlich ist. Datenwissenschaftler wissen, wie man Algorithmen erstellt, verstehen aber möglicherweise nicht die Geschäftsmodelle oder Arbeitsabläufe im Gesundheitswesen. Kliniker verstehen Arbeitsabläufe, kennen sich aber im Allgemeinen nicht mit Datenwissenschaft aus oder wissen nicht, wie man Unternehmen aufbaut.
Als Kliniker mit einer Ausbildung in Computer- und Datenwissenschaften sowie der Entwicklung und Vermarktung digitaler Technologien verfüge ich über eine einzigartige Perspektive. Ich kenne alle Seiten und weiß, wie viel Analyse und Voraussicht erforderlich ist, um ein KI-Produkt zu entwickeln, das etwas bewirkt.
KI eignet sich sehr gut für viele Probleme im Gesundheitswesen, wie etwa Ressourcenknappheit, langsames Forschungstempo, Ineffizienz und mehr. Daher habe ich versucht, meine Erfahrung zu nutzen, um einen Beitrag für alle zu leisten, die hart daran arbeiten, KI zur Lösung dieser Probleme einzusetzen. Wenn die Menschen über die richtigen Rahmenbedingungen verfügen und KI-Produkte entwickeln, die eine bessere Chance auf Akzeptanz haben, werden wir das enorme Potenzial dieser Technologie im Gesundheitswesen früher ausschöpfen und wir alle werden davon profitieren.
Folgen Sie Bills HIT-Berichterstattung auf LinkedIn: Bill Siwicki
Senden Sie ihm eine E-Mail: bsiwicki@himss.org
Healthcare IT News ist eine Veröffentlichung von HIMSS Media.
