Das renommierte Dana-Farber Cancer Institute hat eine sichere und private Erkundungsumgebung aufgebaut, um große Sprachmodelle für nicht-klinische Anwendungen wie klinische und Grundlagenforschung sowie Operationen zu bewerten, zu testen und einzusetzen.
Die Anbieterorganisation überwand Governance-, Ethik-, Regulierungs- und technische Herausforderungen und setzte eine sichere API ein, die es ihren Entwicklern ermöglichte, KI in ihre Softwareanwendungen einzubetten. Und die Organisation schulte ihre Belegschaft in Die Studierenden wurden in die ordnungsgemäße und sichere Nutzung des LLM einbezogen, haben sich bei Bedarf weitergebildet und ihre Fähigkeiten verbessert und an einer stärkeren Akzeptanz gearbeitet.
Renato Umeton ist Direktor für KI-Operationen und Datenwissenschaftsdienste am Dana-Farber Cancer Institute. Er hat einen Doktortitel in Mathematik und Informatik. Neuigkeiten aus der Gesundheits-IT sprach mit Umeton über seine KI-Arbeit und bekam einen Vorgeschmack auf seine Fallstudiensitzung zu diesem Thema beim HIMSS AI in Healthcare Forum, das am 5. und 6. September in Boston stattfinden soll. Die Sitzung konzentriert sich auf die Risikominderung von LLMs im Gesundheitswesen.
F: Was sind heute die größten Chancen – und Herausforderungen – für große Sprachmodelle im Gesundheitswesen?
A. Der Schwerpunkt der Sitzung liegt auf der privaten, sicheren und HIPAA-konformen Implementierung großer Sprachmodelle im Gesundheitswesen, insbesondere für die Mitarbeiter des Dana-Farber Cancer Institute. Der Hauptpunkt der Sitzung besteht darin, die Herausforderungen und gewonnenen Erkenntnisse bei der Integration dieser fortschrittlichen KI-Tools in Forschungs- und Betriebsaufgaben zu diskutieren, wobei die direkte klinische Versorgung (z. B. Behandlung, Diagnose, Steuerung des klinischen Managements oder Information darüber) ausdrücklich ausgeschlossen wird.
Dies ist im modernen Gesundheitswesen von großer Bedeutung, da KI in immer mehr Softwareprodukte im Gesundheitswesen Einzug hält und jeder – vom Klinikpersonal bis hin zu Patienten und Mitarbeitern – davon profitieren kann, wenn er versteht, wie sich dieses Potenzial sicher und wirksam ausschöpfen lässt.
Kurzfristig streben wir Anwendungsfälle an, die die Effizienz steigern. Langfristig hoffen wir, dass bessere Daten und KI zu verbesserten Behandlungsmethoden und Behandlungsergebnissen für die Patienten führen.
Unser Weg zur Operationalisierung von GPT-4 war mit erheblichen ethischen, rechtlichen, regulatorischen und technischen Herausforderungen verbunden.
Indem wir unsere Erfahrungen und den Rahmen, den wir für die Implementierung von KI entwickelt haben, weitergeben, möchten wir Erkenntnisse für andere Gesundheitsorganisationen bereitstellen, die ähnliche Implementierungen in Erwägung ziehen. Dies ist besonders relevant, da die Branche mit den doppelten Anforderungen von Innovation und Patientensicherheit zu kämpfen hat. Daher ist es von entscheidender Bedeutung, robuste Governance und Richtlinien für den Einsatz von KI zu etablieren.
F. Können Sie uns ein Beispiel für die praktische Arbeit in Ihrer Organisation nennen?
A. Die wichtigste Technologie, die in unserer Sitzung besprochen wird, ist GPT4DFCIein privates, sicheres, HIPAA-konformes generatives KI-Tool basierend auf GPT-4-Modellen. Sie können sich GPT-4o als die zentrale Schicht dieser Anwendung vorstellen. Die nächsten Schichten unterstützen KI-Modelle, die alle ein- und ausgehenden Daten analysieren, um gefährliche Inhalte wie schädliche Sprache oder urheberrechtlich geschützten Softwarecode herauszufiltern.
Darüber hinaus gibt es eine Schicht, die alles protokolliert, was unsere Benutzer mit dieser Technologie tun, und die eine Überprüfung ermöglicht. Die äußerste Schicht ist schließlich eine Einfache Benutzeroberfläche im ChatGPT-Stil mit Links zu Schulungsmaterialien und einem Ticketsystem für den Benutzersupport sowie einer speziellen Wiki-Seite, auf der Benutzer mehr lesen können.
Diese Technologie wird zur Unterstützung verschiedener nicht-klinischer Aufgaben eingesetzt, beispielsweise zum Extrahieren und Suchen von Informationen in Notizen, Berichten und anderen Dokumenten sowie zur Automatisierung sich wiederholender Aufgaben und zur Rationalisierung der Verwaltungsdokumentation.
F: Welche Erkenntnisse sollen die Sitzungsteilnehmer Ihrer Meinung nach mitnehmen und bei ihren Anbieterorganisationen anwenden können?
A. Zunächst hoffen wir, dass die Teilnehmer verstehen, wie wichtig es ist, einen umfassenden KI-Governance-Rahmen für den sorgfältigen Einsatz von KI-Technologien im Gesundheitswesen zu schaffen. Dazu gehört die Bildung eines multidisziplinären Governance-Komitees wie unseres KI-Governance-Komitees, das die Implementierung überwacht, ethische Bedenken ausräumt und die Einhaltung sich entwickelnder Vorschriften sicherstellt.
Durch die Einbeziehung unterschiedlicher Interessengruppen, darunter Experten aus den Bereichen Recht, Klinik, Forschung, Technik und Bioethik sowie Patienten, können Organisationen Richtlinien erstellen, die Innovation mit Patientensicherheit und Datenschutz in Einklang bringen.
Zweitens möchten wir den Teilnehmern den Wert einer schrittweisen und kontrollierten Einführung von KI-Technologien vermitteln. Unsere Erfahrung mit GPT4DFCI unterstreicht die potenziellen Vorteile einer Beschränkung des klinischen KI-Einsatzes auf vom IRB genehmigte klinische Studien und vom Institut genehmigte Pilotprojekte.
Dieser Ansatz ermöglicht iterative Verbesserungen auf der Grundlage von Erkenntnissen aus kontrollierten Studien und hilft, potenzielle Probleme frühzeitig zu erkennen und anzugehen. Was nicht-klinische Anwendungsfälle betrifft, ist es von großem Wert, umfassende Schulungen und Unterstützung anzubieten, damit die Benutzer voneinander lernen können, die Technologie effektiv und verantwortungsbewusst zu nutzen.
Wir sind davon überzeugt, dass andere Unternehmen durch die Einführung einer vorsichtigen und stufenweisen KI-Strategie die Vorteile der KI maximieren und gleichzeitig die damit verbundenen Risiken minimieren können.
Nehmen Sie an dieser Sitzung im HIMSS AI in Healthcare Forum teil, das am 5. und 6. September in Boston stattfindet. Mehr erfahren und registrieren.
Folgen Sie Bills HIT-Berichterstattung auf LinkedIn: Bill Siwicki
Senden Sie ihm eine E-Mail: bsiwicki@himss.org
Healthcare IT News ist eine Veröffentlichung von HIMSS Media.
