Verantwortungsvolle künstliche Intelligenz ist grundsätzlich der einzige Weg, wenn man KI-Technologie in seinem Krankenhaus oder Gesundheitssystem implementiert. Es ist von entscheidender Bedeutung, dass KI, so komplex und wichtig sie auch ist, vertrauenswürdig ist.
Anand Rao ist Serviceprofessor am Heinz College der Carnegie Mellon University. Er ist Experte für verantwortungsvolle KI, Ökonomie der KI und generative KI. Im Laufe seiner 35-jährigen Beratungs- und akademischen Karriere hat er sich auf Innovation, geschäftliche und gesellschaftliche Nutzung von Daten, Analysen und künstlicher Intelligenz konzentriert.
Zuvor war Rao weltweit führend im Bereich künstliche Intelligenz beim Beratungsgiganten PwC, Partner in dessen Daten-, Analyse- und KI-Praxis sowie Innovationsleiter für KI im Produkt- und Technologiesegment von PwC.
Wir haben Rao interviewt, um über verantwortungsvolle KI zu sprechen, wie verantwortungsvolle KI im Gesundheitswesen eingesetzt werden sollte, wie verantwortungsvolle KI speziell mit generativer KI kombiniert werden kann und was die Gesellschaft über die Einführung verantwortungsvoller KI verstehen muss.
F: Bitte definieren Sie, was aus Ihrer Sicht verantwortungsvolle KI ist.
A. Unter verantwortungsvoller KI versteht man die Forschung, das Design, die Entwicklung und den Einsatz von KI, die sicher, geschützt, die Privatsphäre schützend oder verbessernd, transparent, rechenschaftspflichtig, interpretierbar, erklärbar, vorurteilsbewusst und fair ist. Dies kann man sich wirklich als drei aufeinanderfolgende Ebenen der KI vorstellen:
- Sichere KI. Dies ist die Mindestgrenze, bei der „KI keinen Schaden anrichtet“. Dazu gehört, keinen physischen oder emotionalen Schaden zu verursachen, bei Bedarf sachlich vorzugehen und vor gegnerischen Angriffen zu schützen.
- Vertrauenswürdige KI. Dies ist die nächste Ebene, auf der „KI Gutes tut“. Dazu gehört KI, die rechenschaftspflichtig, interpretierbar und erklärbar ist. Es umfasst sowohl den Aufbau von KI-Systemen als auch die Steuerung von KI-Systemen.
- Nützliche KI. Dies ist die nächste Ebene, auf der „KI allen Gutes tut.“ Es umfasst KI, die sich voreingenommener Voreingenommenheit bewusst ist und auf eine Weise aufgebaut ist, die zumindest in einer oder mehreren Dimensionen der Fairness fair ist.
F. Wie sollte verantwortungsvolle KI im Gesundheitswesen eingesetzt werden? Das Gesundheitswesen ist eine ganz andere Branche als andere. Leben stehen ständig auf dem Spiel.
A. Angesichts der hohen Risiken im Gesundheitswesen muss verantwortungsvolle KI im Gesundheitswesen in erster Linie eingesetzt werden, um die menschliche Entscheidungsfindung zu verbessern, und nicht, um menschliche Aufgaben oder Entscheidungsprozesse zu ersetzen. „Human-in-the-Loop“ muss ein wesentliches Merkmal für die meisten, wenn nicht alle KI-Einsätze im Gesundheitswesen sein.
Darüber hinaus müssen KI-Gesundheitssysteme den bestehenden Datenschutzgesetzen entsprechen und mit den neuesten Techniken gründlich getestet, bewertet, verifiziert und validiert werden, bevor sie in großem Maßstab eingesetzt werden.
F. Generative KI ist eine Ihrer Spezialitäten. Wie verbindet man verantwortungsvolle KI konkret mit generativer KI?
A. Wenn es um generative KI geht, bringt sie leistungsfähigere und komplexere Technologien mit sich, die potenziell mehr Schaden anrichten können als herkömmliche KI. Generative KI könnte bei selbstbewusstem Ton möglicherweise zu falschen Ergebnissen führen.
Es könnte zu schädlicher und toxischer Sprache führen und es ist komplexer zu erklären oder zu begründen. Daher muss eine verantwortungsvolle KI für generative KI eine umfassendere Governance und Aufsicht sowie strenge Tests in verschiedenen Kontexten in Betracht ziehen.
F. Einer Ihrer Schwerpunkte ist die gesellschaftliche Einführung künstlicher Intelligenz. Was muss die Gesellschaft über die Einführung verantwortungsvoller KI verstehen, insbesondere wenn Menschen einen Arzt aufsuchen?
A. Mit der weit verbreiteten Nutzung generativer KI nutzt die Öffentlichkeit zunehmend generative KI, um medizinischen Rat einzuholen. Da es schwierig ist festzustellen, wann die generative KI richtig oder falsch ist, könnte dies katastrophale Folgen für Patienten oder Pflegekräfte haben, die sich nicht an ihre Ärzte wenden.
Die Aufklärung der Öffentlichkeit und der Betreuer über die negativen Folgen generativer KI ist unerlässlich, um einen verantwortungsvollen Einsatz generativer KI sicherzustellen.
Verfolgen Sie Bills HIT-Berichterstattung auf LinkedIn: Bill Siwicki
Schicken Sie ihm eine E-Mail an: bsiwicki@himss.org
Healthcare IT News ist eine Publikation von HIMSS Media.
