BOSTON – Auf die Frage nach der Entwicklung der künstlichen Intelligenz und wann empfindungsfähige KI ein integraler Bestandteil des Gesundheitswesens werden würde, sagte Dr. Patrick Thomas, Direktor für digitale Innovation in der Kinderchirurgie am University of Nebraska Medical Center College of Medicine, dass die klinische Ausbildung überarbeitet werden müsse.
„Wir müssen Klinikstudenten auf die reale Welt vorbereiten, in die sie eintreten“, sagte er am Donnerstag auf dem HIMSS AI in Healthcare Forum.
Als Moderator einer Diskussionsrunde zum Thema, wie das Gesundheitspersonal dabei unterstützt werden kann, KI zu vertrauen und sie zu übernehmen – wobei die Bedeutung von Governance, der Einbindung von Menschen und der gemeinsamen Verantwortung mit den Entwicklern für die Aufrechterhaltung der Qualität klinischer KI hervorgehoben wurde – fragte Thomas seine Mitdiskutanten, wie sie mit der Skepsis und den Zweifeln der Kliniker umgehen.
An der Diskussion nahmen neben Thomas auch Dr. Sonya Makhni, ärztliche Direktorin der Mayo Clinic Platform, Dr. Peter Bonis, leitender Arzt von Wolters Kluwer Health, und Dr. Antoine Keller vom Ochsner Lafayette General Hospital teil.
Erweiterung der klinischen Ressourcen
Die Verwendung großer Sprachmodelle zur Reduzierung der enormen kognitiven Belastungen, denen Klinikärzte ausgesetzt sind, ist immer noch mit Komplikationen behaftet, die von Voreingenommenheit und Datenhalluzinationen bis hin zu den Kosten reichen.
Bonis wies darauf hin, dass die Anwendungsentwickler letztlich wahrscheinlich die Kosten für die Entwicklung der Systeme zusätzlich zu den Kosten für die Innovation der zugrunde liegenden Basismodelle tragen werden.
Keller fügte hinzu, dass das Gesundheitswesen über mehr Informationen zu verfügen habe, die es verarbeiten müsse, als das klinische Personal.
„Wir haben nicht genug Personal, um rechtzeitig präzise klinische Entscheidungen zu treffen“, sagte er. Während sich die Kliniker auf Risikoinnovation konzentrieren – Sicherheitsvorkehrungen treffen, um Bedenken hinsichtlich der KI-Nutzung auszuräumen – ist es wichtig, den Klinikern die nötige Sicherheit für die Umsetzung zu geben.
Keller, ein Herzchirurg, beschrieb, wie das in Louisiana ansässige Unternehmen Oschner Health seinen Partnern im kommunalen Gesundheitswesen ein KI-gestütztes Tool namens Heart Sense zur Verfügung stellt, um Interventionen voranzutreiben.
Indem das KI-Tool mithilfe kostengünstiger Technologie Diagnosen in unterversorgten Gemeinden stelle, „erweitere es die Belegschaft geometrisch“, sagte er.
Verbesserung des Zugangs in unterversorgten Gemeinden
Hebelwirkung das Herz-Screening-Tool verbessert nicht nur die Nutzung von Oschner, sondern lenkt die Aufmerksamkeit auch auf die Patienten, die es am meisten brauchen.
Thomas fragte, was es bedeutet, die Pflege durch KI zu beeinflussen, wenn eine Gesundheitsorganisation keine Datenwissenschaftler im Personal hat, und wie Oschners Partner im Gesundheitswesen ein Verständnis für das KI-Tool entwickeln und wie dieses Tool eingesetzt wird.
Es gebe viel Zögern, wenn es darum gehe, den Gemeinden, denen sie dienen, durch Hilfeleistungen zu helfen, sagte Keller.
„Sie müssen präsent sein und sich der Hindernisse oder Probleme bewusst sein, die die Leute bei der Nutzung der Technologie haben“, erklärte er.
Diejenigen, die in Gebieten mit einem Mangel an medizinischem Personal auf diese Technologie zurückgreifen können, seien jedoch dankbar dafür, sagte er.
Eines der wichtigsten Diagnosekriterien – dass Patienten ein Herzgeräusch haben – ist Voraussetzung für den Ersatz einer Aortenklappe. Mithilfe des KI-gestützten Screening-Tools stellte das Gesundheitssystem fest, dass 25 % der über 60-Jährigen in seinen Gemeinden ein pathogenes Herzgeräusch haben – das durch einen chirurgischen Eingriff geheilt werden kann.
„Die Prävalenzdaten zeigen, dass ein großer Teil der Bevölkerung nicht diagnostiziert ist“, sagte Keller.
Der Einsatz von KI zum Erkennen von Risikopatienten, die geheilt werden können, bietet einen erheblichen Vorteil bei der Behandlung von Patienten, bevor diese irreversible Funktionsstörungen entwickeln.
Die Akzeptanz hänge aber von einer gut ausgebildeten Belegschaft ab, sagte er.
„Visuell – mit etwas Konkretem“ und auch mit geringer Bildung leicht verständlich, sagte er.
Einsätze und gemeinsame Verantwortung
„Für die klinische Versorgung steht so viel auf dem Spiel“, räumte Bonis ein und wies darauf hin, dass die ständige Einbeziehung des Menschen in klinische Entscheidungen ein Leitprinzip bei der Entwicklung vertrauenswürdiger KI unter vielfältigen Gesichtspunkten sei.
Während sich Kliniker im Außendienst nicht immer für die „Wurstherstellung“ namens KI interessieren, „ist aus Anbietersicht Vorsicht geboten“, sagte er.
Für Makhni lautet die Frage, wie man Fachwissen über den gesamten Lebenszyklus hinweg vernetzt, sagte sie.
Die Mayo Clinic Platform arbeitet direkt mit KI-Entwicklern und der Mayo Clinic zusammen, um zu untersuchen, wie klinische KI auf eine Weise eingesetzt werden kann, die auch benutzerzentriert ist – „und diese Informationen dann transparent zu kommunizieren, um dem Endbenutzer mehr Handlungsfreiheit zu lassen.“
Mithilfe einer solchen interdisziplinären Überprüfung lässt sich beispielsweise feststellen, ob ein KI-Entwickler versucht hat, auf Voreingenommenheit zu prüfen. Außerdem können diese Informationen in einer für das Klinikpersonal verständlichen Weise weitergegeben werden.
„Wir treffen (Entwickler) dort, wo sie sich auf ihrer Reise befinden“, aber das Ziel sei, die Grundsätze von Sicherheit, Fairness und Genauigkeit zu vertreten, sagte sie.
Für die Bereitstellung sicherer KI-Systeme ist es von entscheidender Bedeutung, die digitale Kluft zu berücksichtigen und das klinische Personal nach seinen Sorgen zu fragen. Diese Belastung kann jedoch nicht allein auf die Benutzer abgewälzt werden.
„Manchmal sollte es auch auf den Lösungsentwickler fallen“, sagte sie. „Wir müssen eine gemeinsame Verantwortung haben.“
Zwar werde das Gesundheitswesen nicht alle Herausforderungen der KI schnell lösen können, aber „wir können es stufenweise angehen“, fügte sie hinzu.
Andrea Fox ist leitende Redakteurin von Healthcare IT News.
E-Mail: afox@himss.org
Healthcare IT News ist eine Veröffentlichung von HIMSS Media.
