Einer aktuellen Gartner-Umfrage zufolge sind die meisten Kunden „KI-scheu“: 64 % sagen, sie würden es vorziehen, wenn Unternehmen keine KI einsetzen würden in das Kundenerlebnis. Kunden waren auch besorgt über KI und falsche Informationen (42 %), Datensicherheit (34 %) und Voreingenommenheit/Ungleichheit (25 %).
Ethische KI kann Unternehmen dabei helfen, innovative, vertrauenswürdige Benutzererlebnisse zu schaffen – Marken zu schützen, ihnen einen Wettbewerbsvorteil zu verschaffen und bessere Kundenbeziehungen aufzubauen. Und ethische KI ist Teil der Geschichte bei WellPower.
DAS PROBLEM
Im Bereich der psychischen Gesundheit gibt es nicht genügend Therapeuten, um allen mit Problemen zu helfen. Kommunale Zentren für psychische Gesundheit wie WellPower in Colorado betreuen einige der am stärksten gefährdeten Bevölkerungsgruppen, die Hilfe benötigen.
Aufgrund der komplexen Bedürfnisse der Patienten unterliegen WellPower-Kliniker komplexeren Dokumentationsregeln als Therapeuten in Privatpraxen. Diese zusätzlichen Regeln verursachen einen Verwaltungsaufwand, der Zeit in Anspruch nimmt, die sonst für die klinische Versorgung aufgewendet werden könnte.
WellPower hatte untersucht, wie Technologie als Arbeitskräftemultiplikator für die psychische Gesundheit dienen könnte.
Die Anbieterorganisation wandte sich an das mit KI arbeitende Iliff Innovation Lab, um herauszufinden, wie Gesundheits-IT es Menschen ermöglichen könnte, einfacher auf ihre Pflege zuzugreifen, etwa durch Telemedizin. Wie Menschen durch die Förderung hochpräziser, evidenzbasierter Praktiken und einer Fernüberwachung der Behandlung schneller eine Behandlung durchlaufen könnten. Und wie WellPower den Verwaltungsaufwand verringern könnte, indem es Therapeuten die Erstellung hochwertiger, genauer Dokumentationen erleichtert und ihnen so ermöglicht, sich stärker auf die Bereitstellung von Pflegeleistungen zu konzentrieren.
„Bei richtiger Anwendung ist die klinische Dokumentation ein besonders vielversprechender Bereich für die Implementierung von KI, insbesondere im Bereich der psychischen Gesundheit“, sagte Wes Williams, CIO und Vizepräsident von WellPower. „Große Sprachmodelle haben sich als besonders geeignet erwiesen, um viele Informationen zusammenzufassen.“
„In einer typischen 45-minütigen Psychotherapiesitzung müssen viele Informationen zusammengefasst werden, um die Leistung zu dokumentieren“, fuhr er fort. „Das Personal braucht häufig 10 oder mehr Minuten, um die Dokumentation für jede Leistung zu vervollständigen, was Stunden kostet, die sonst für die klinische Versorgung aufgewendet werden könnten.“
VORSCHLAG
Das Engagement von WellPower für gesundheitliche Gerechtigkeit bestimmt die Herangehensweise des Unternehmens an die Implementierung von Technologien und macht die Zusammenarbeit mit Iliff für die Fortsetzung der Mission notwendig, sagte Williams.
„KI-Tools sind oft Black Boxes, die ihre Entscheidungsfindung verschleiern und Vorurteile aufrechterhalten können, die zu den Ungleichheiten in der Gesundheitsversorgung der Menschen geführt haben, mit denen wir zusammenarbeiten“, erklärte er. „Das bringt uns in eine Zwickmühle, denn wenn wir diese neuen Tools nicht nutzen, würden wir ihre Effizienz den Menschen vorenthalten, die sie am meisten brauchen. Wenn wir sie jedoch ohne Vorurteilsprüfung einführen, könnte dies die Ungleichheit vergrößern, wenn ein KI-System historische Vorurteile in der Gesundheitsversorgung in sich trägt.“
„Wir haben ein System gefunden, das KI als passives Zuhörinstrument nutzt, das an Therapiesitzungen (sowohl Telemedizin als auch persönlich) teilnehmen und als eine Art digitaler Schreiber fungieren kann, der Notizenentwürfe erstellt, die unsere Kliniker überprüfen und genehmigen können“, fügte er hinzu. „Wir mussten jedoch sicherstellen, dass der digitale Schreiber vertrauenswürdig ist und Zusammenfassungen der Therapiesitzungen erstellt, die genau, nützlich und unvoreingenommen sind.“
Verhaltensbezogene Gesundheitsdaten gehören aus Sicht der Privatsphäre und Sicherheit zu den sensibelsten Daten. Diese Schutzmaßnahmen sind notwendig, um sicherzustellen, dass die Menschen sich wohl fühlen, wenn sie die Hilfe suchen, die sie brauchen, fuhr er fort. Aus diesem Grund sei es von entscheidender Bedeutung, dass WellPower jedes neue System, insbesondere ein KI-basiertes, gründlich prüft, sagte er.
ERGEBNISSE
Um den digitalen KI-Schreiber zu implementieren, musste WellPower sicherstellen, dass die Privatsphäre und Sicherheit der von ihm versorgten Menschen dadurch nicht gefährdet werden.
„Viele Therapeuten zögerten zunächst, das neue System auszuprobieren, und führten diese berechtigten Bedenken an“, sagte Alires Almon, Innovationsdirektor bei WellPower. „Wir haben mit dem Iliff-Team zusammengearbeitet, um sicherzustellen, dass der digitale Schreiber ethisch einwandfrei und mit einem Datenschutz-Prinzip entwickelt wurde.“
„Ein Beispiel: Das System zeichnet die Therapiesitzung nicht auf, sondern kodiert das Gespräch im laufenden Betrieb“, fuhr sie fort. „Das bedeutet, dass am Ende der Sitzung nur die Metadaten darüber gespeichert werden, welche Themen während der Sitzung behandelt wurden. Mit den Erkenntnissen des Teams von Iliff konnten wir die Privatsphäre unserer Patienten schützen und gleichzeitig mehr Zeit für die Pflege gewinnen.“
Der Einsatz einer KI-Assistenzplattform zur Unterstützung der Transkription und zur Entwicklung von Entwürfen für Verlaufsnotizen habe die therapeutische Erfahrung sowohl für das Personal als auch für die von WellPower betreuten Menschen erheblich verbessert, fügte sie hinzu.
„Seit der Einführung des Eleos-Systems konnte WellPower eine deutliche Verbesserung bei der Fähigkeit des Personals feststellen, seine Verlaufsberichte zu vervollständigen“, berichtete Almon. „Drei von vier ambulanten Therapeuten verwenden das System.“
„Für diese Gruppe hat sich die durchschnittliche Zeit für die Fertigstellung der Dokumentation um 75 % verbessert und die Gesamtdokumentationszeit ist um 60 % gesunken (die Zeit für das Schreiben von Notizen wurde von 10 auf 4 Minuten reduziert)“, sagte sie. „Unsere Therapeuten waren von der Zusammenarbeit mit Eleos so begeistert, dass einige erklärt haben, sie würden es sich aufgrund ihrer Erfahrungen mit Eleos zweimal überlegen, WellPower zu verlassen.“
RATSCHLÄGE FÜR ANDERE
Künstliche Intelligenz sei ein neues und spannendes Unterfangen für die Gesundheitsinformatik, bringe aber auch eine ganz eigene Belastung mit sich, die durch Science-Fiction, Medienrummel und die Realität ihrer Möglichkeiten geprägt sei, bemerkte Almon.
„Es ist wichtig, dass Ihr Unternehmen Ihre Mitarbeiter über KI aufklärt und ihnen diese erklärt“, riet sie. „Erklären Sie, wie sie eingesetzt wird und welche Prozesse und Richtlinien zum Schutz der Mitarbeiter und ihrer Kunden eingeführt werden. KI ist nicht perfekt und wird sich weiterentwickeln.“
„Wenn möglich, sollten Sie, bevor Sie mit der Bereitstellung von KI-gestützten Tools beginnen, den Kenntnisstand über KI und die Einstellung der Mitarbeiter zu KI beurteilen“, fuhr sie fort. „Die Partnerschaft mit einem Programm wie Iliffs Trust AI-Framework hilft nicht nur bei der Auswahl ethischer Technologien, sondern zeigt auch, dass Ihr Unternehmen die Schäden überprüft hat, die durch KI-gestützte Plattformen entstehen können.“
Das sei wichtiger als die Ergebnisse selbst, fügte sie hinzu.
„Versichern Sie Ihren Mitarbeitern abschließend, dass sie nicht durch künstliche Intelligenz ersetzt werden können“, schloss sie. „Menschliche Beziehungen sind die wichtigsten Beziehungen bei der Heilung von Menschen. Künstliche Intelligenz ist dazu da, den Menschen in seinen Rollen zu unterstützen, es ist eine unterstützende Technologie. KI kann unterstützen und helfen, aber sie ersetzt niemals eine therapeutische Verbindung.“
Folgen Sie Bills HIT-Berichterstattung auf LinkedIn: Bill Siwicki
Senden Sie ihm eine E-Mail: bsiwicki@himss.org
Healthcare IT News ist eine Veröffentlichung von HIMSS Media.
