Wenn ein Chatbot die „Diagnose“ stellt

Manuel Hofmann, DAH-Fachreferent für Digitalisierung, hat auf unserer HIV-Konferenz „Positive Begegnungen“ zu verschiedenen Themen rund um „Künstliche Intelligenz“ im Gesundheitswesen referiert. Wie weit die Entwicklungen bereits fortgeschritten sind und wo wir jetzt genau hinschauen sollten, erläutert er im Interview.

Welche Rolle spielt die KI im Gesundheitswesen bereits und in welchen Bereichen wird sie vielleicht bald noch wichtiger werden?

Durch den demografischen Wandel steht das Gesundheitswesen vor großen Problemen: Viele Menschen in Gesundheitsberufen gehen in den nächsten Jahren in Rente. Gleichzeitig werden viele Patient*innen deutlich älter und dementsprechend behandlungsbedürftiger, und man sucht nach Möglichkeiten, wie man das ausgleichen kann.

Der KI wird hier zunehmend eine wichtige Schlüsselfunktion zugewiesen. Es gibt Krankenhaus-Chefs, die behaupten, innerhalb der nächsten zehn Jahre könnte man ein Drittel der Stellen durch KI ersetzen. Nachdem im HIV-Kontext international Fördermittel weggebrochen sind, wollen verschiedene Akteur*innen KI einsetzen, um diese Lücken auszugleichen. Bill Gates zum Beispiel hat gemeinsam mit OpenAI ein großes Projekt gestartet, um den sogenannten afrikanischen Gesundheitssektor effizienter zu gestalten und damit Menschen mit HIV besser versorgen zu können.

Klingt ja erst einmal nach einer klugen und guten Idee.

Gerade an diesem Beispiel sieht man aber eindeutig, wo die Grenzen der KI liegen: Wenn Menschen ihre HIV-Medikamente nicht erhalten, weil es diese schlicht nicht gibt, nutzt es ihnen wenig, sich mit einem Chatbot darüber unterhalten zu können, dass ihnen die lebenserhaltenden Medikamente fehlen. Das ist jetzt zynisch formuliert und bedeutet nicht, dass man nicht dennoch überlegen kann, wo man die KI künftigals Handwerkszeug einsetzen kann, um tatsächlich die Versorgung zu verbessern. Im Feld der internationalen HIV-Versorgung allerdings braucht es vor allem Geld, Medikamente und Zugang zur Therapie – und keine KI-Sprachmodelle.

Wo wird denn KI bereits jetzt in unseren Arztpraxen eingesetzt?

Das reicht von der radiologischen Bildgebung und roboterassistierten Chirurgie bis zu Verwaltung und Dokumentation, beispielsweise in Form der KI-Transkription. Ärzt*innen zeichnen das gesamte Gespräch mit ihren Patient*innen auf und lassen es sich von der KI automatisiert für die Patient*innenakte zusammenfassen. Das kann prinzipiell auch eine sinnvolle Sache sein, weil Ärzt*innen sich besser auf die Patient*innen konzentrieren können und nicht mitschreiben müssen. Die Frage ist aber, ob Patient*innen dadurch vielleicht gehemmt sind, innerhalb dieser Sprechstunde auch sehr sensible Themen anzusprechen, wie etwa psychische Probleme, STI-Symptome oder andere, möglicherweise schambehaftete Dinge.

Dabei arbeiten gerade Aidshilfen seit vielen Jahren daran, Ärzt*innen darin fortzubilden, einen offenen Gesprächsrahmen gerade für solche Themen zu schaffen.

Als Aidshilfe müssen wir nun sehr genau schauen, wie wir innerhalb dieser neuen technischen Realität trotzdem einen Rahmen schaffen, der die Türen öffnet, um genau so etwas trotzdem besprechen zu können. Zum Beispiel, indem die Ärzt*innen nach Ende der Aufzeichnung fragen, ob es vielleicht noch zu anderen Dingen Redebedarf gibt. Uns allen muss bewusst sein, dass diese KI-gestützte Dokumentation nicht nur eine technische Erleichterung für die Ärzt*innen darstellt, sondern auch soziale Auswirkungen auf ihr Verhältnis zu den Patient*innen hat.

Immer mehr Menschen nutzen KI-Chatbots, um sich vor einem Arztbesuch mit Symptomen, Krankheiten und Diagnosen auseinanderzusetzen. Wie verändert dies die Beziehung zwischen Patient*innen und dem Gesundheitswesen?

Es kann durchaus förderlich sein, wenn Patient*innen Gesundheitskompetenz mitbringen. Doch damit die KI gute Ergebnisse ausgibt, muss sie auch gut gefüttert werden. Wer bereits gut informiert ist, profitiert von dieser Technologie mehr als diejenigen, die sie am meisten brauchen würden. Diese wissen oft gar nicht, mit welchen Worten sie ihre Symptomatik beschreiben sollen, und dementsprechend wird ihnen die KI auch schlechtere Ergebnisse liefern. Soziale Ungleichheiten werden hier durch die KI verschärft. Wir sollten daher auch überlegen, wie Angebote zum Ausbau digitaler Kompetenzen aussehen können, um Menschen innerhalb des technischen Rahmens möglichst dazu zu befähigen, einen guten Umgang mit diesen Technologien zu finden, um sie für sich möglichst gut nutzen zu können.

Wir müssen generell genau hinschauen, wer von diesen Technologien wirklich profitiert und wo Sprachmodelle vielleicht tatsächlich psychosoziale Entlastung schaffen können. Wir kennen diese Debatte ja bereits von den sozialen Medien, dass diese Angebote so angelegt sind, dass die Menschen möglichst viel Zeit mit ihnen verbringen. Das kann gerade bei psychosozialer Beratung durch KI zu einem Abhängigkeitsverhältnis führen. Und natürlich muss auch der Frage nachgegangen werden, wie solche Systeme reguliert und die Unternehmen dafür haftbar gemacht werden können, wenn ihre Chatbots falsche Gesundheitsinformationen liefern und Menschen dadurch Schaden nehmen.

***

Mit dem Projekt „AI_dshilfe labs“, geleitet von Simon Herchenbach und Manuel Hofmann, leistet die Deutsche Aidshilfe einen Beitrag zur Debatte um KI im Gesundheitswesen. So führte das Projekt auf den Positiven Begegnungen mehrere Fokusgruppen durch und fragte: Welche Chancen und Risiken sehen Patient*innen für KI im Behandlungszimmer? Und wie wirken sich die Technologien auf das Verhältnis zwischen Ärzt*innen und Patient*innen aus.

Über die Ergebnisse wird nach Abschluss des Projekts auf magazin.hiv zu lesen sein.