Am Donnerstag kündigte das US-Gesundheitsministerium neue Finanzmittel an, um die Nutzung und Wartung künstlicher Intelligenz-gestützter medizinischer Geräte zu verbessern.
Untersuchungen haben gezeigt, dass sich in klinischen Umgebungen verwendete Modelle des maschinellen Lernens mit der Zeit verschlechtern können. Das neue HHS-Geld ist für die Advanced Research Projects Agency for Health (ARPA-H) vorgesehen, die es zur Innovation ihrer Bemühungen nutzen wird, KI-Tools für Ärzte zuverlässiger und für Patienten nützlicher zu machen.
Diese Initiative ist als „Performance and Reliability Evaluation for Continuous Modifications and Useability of Artificial Intelligence“ oder PRECISE-AI bekannt.
WARUM ES WICHTIG IST
Mehr als 950 Medizingeräte mit integrierten KI-Funktionen wurden von der US-amerikanischen Food and Drug Administration zugelassen – laut ARPA-H eine Verzehnfachung seit 2018.
Während diese neuen KI-gestützten Tools die Behandlungsfähigkeiten der Ärzte grundlegend verändern können, kann sich die Leistung von ML mit der Zeit aufgrund von Änderungen bei den Eingabedaten aus klinischen Abläufen, der Datenerfassung, der Patientenpopulation oder der IT-Infrastruktur verschlechtern.
„Das Potenzial von KI-gestützten Tools für das Gesundheitswesen ist nur so groß wie die relevanten Echtzeitdaten, auf denen sie basieren“, sagte Berkman Sahiner, Programmmanager von PRECISE-AI, in einer Erklärung.
Aktuelle Techniken fordern Benutzer heraus, die Leistung KI-gesteuerter Geräte in realen klinischen Umgebungen zu überwachen und aufrechtzuerhalten.
„Die Unfähigkeit, die Leistung eines KI-fähigen medizinischen Geräts basierend auf realen Vorgängen automatisch zu überwachen und aufrechtzuerhalten, birgt Risiken für Ärzte und Patienten“, fügte Sahiner hinzu.
Mit PRECISE-AI möchte das HHS nach eigenen Angaben ein Open-Source-Repository mit Tools aufbauen, die eine KI-gestützte klinische Entscheidungsunterstützung gewährleisten, indem sie Leistungseinbußen automatisch erkennen und korrigieren – ohne dass eine menschliche Aufsicht erforderlich ist.
Die Tools zur Ursachenanalyse müssen außerdem klare und umsetzbare Informationen über die Ursachen der Verschlechterung vermitteln, damit die Anwender im Gesundheitswesen die Modellunsicherheit besser interpretieren können.
Indem sie „den optimalen Ansatz empfehlen, um die zugrunde liegende Leistungsverschlechterung des KI-Modells zu erkennen und zu mildern“, könnten Ärzte eine bessere Patientenversorgung gewährleisten, sagte Sahiner.
Die bevorstehende endgültige Ausschreibung des Programms wird sich auf fünf technische Bereiche konzentrieren. Die Teams werden mit der Entwicklung von Werkzeugen beginnen, um auf Grundlage der verfügbaren Beweise bzw. der „Grundwahrheit“ eine möglichst genaue Einschätzung der Diagnose eines Patienten zu erstellen, so die Agentur.
Anschließend entwickeln die Teams autonome Methoden, um die Leistung eines KI-Tools anhand dieser grundlegenden Fakten zu überwachen, die Ursachen für etwaige Verschlechterungen zu ermitteln und die erforderlichen Korrekturen vorzunehmen.
Sie werden außerdem Mechanismen und die zugrunde liegende Dateninfrastruktur schaffen, um Klinikärzte, Entwickler von KI-Tools, Krankenhausverwalter und Aufsichtsbehörden zu benachrichtigen, wenn es zu Leistungseinbußen kommt.
Das Antwortdatum für die Aufforderung ist derzeit der 15. Januar 2025.
DER GRÖSSERE TREND
Als unabhängige Einrichtung der National Institutes of Health versucht ARPA-H, in den Aufbau stärkerer, gesünderer und widerstandsfähigerer Gesundheitssysteme zu investieren.
Der Schwerpunkt liegt auf der Schaffung skalierbarer Plattformen und Strategien, von modernen mobilen Krankenhäusern, die in ländlichen Gebieten Akutversorgung leisten, bis hin zur Sicherung von Open-Source-Software, die in kritischer Infrastruktur verwendet wird.
Im Rahmen seiner Digital Health Security Initiative, DIGIHEALS, hat ARPA-H bei der Artificial Intelligence Cyber Challenge mit der Defense Advanced Research Projects Agency zusammengearbeitet. Im Mai kündigte das HHS im Rahmen von ARPA-H 50 Millionen US-Dollar an, um Anbietern dabei zu helfen, Ransomware-Schwachstellen in Netzwerken und medizinischen Geräten zu beheben.
ORIENTIERTE DATEN
„PRECISE-AI schließt eine wachsende Lücke bei der Sicherstellung, dass KI-Tools, die bei klinischen Entscheidungen eingesetzt werden, in realen Umgebungen genau, sicher und robust sind“, sagte ARPA-H-Direktorin Renee Wegrzyn in der Ausschreibung. „Dadurch schafft ARPA-H eine Vertrauensbasis zwischen Klinikern und diesen KI-Tools, die das Potenzial der KI zur Verbesserung der Gesundheitsergebnisse für alle Amerikaner weiter ausbauen wird.“
Andrea Fox ist leitende Redakteurin von Healthcare IT News.
E-Mail: afox@himss.org
Healthcare IT News ist eine Veröffentlichung von HIMSS Media.
Das HIMSS AI in Healthcare Forum findet vom 5. bis 6. September in Boston statt. Mehr erfahren und registrieren.
