Groß sind die Versprechungen, die mit „Künstlicher Intelligenz“ („KI“) und Digitalisierung einhergehen. Das ist auch im „Update der Digitalisierungsstrategie für das Gesundheitswesen und die Pflege“ nicht anders, das am 11. Februar von Bundesgesundheitsministerin Nina Warken vorgestellt wurde: Ein „gesünderes und längeres Leben für alle“ soll Digitalisierung ermöglichen durch eine medizinische Versorgung und Pflege, die „besser und effizienter“ werden, heißt es darin zum Beispiel.

Die Strategie war ursprünglich 2023 vom damaligen Minister Karl Lauterbach vorgelegt worden. Der Aufbau des Europäischen Gesundheitsdatenraums (EHDS), neue Erwartungen im Bereich der „Künstlichen Intelligenz“ sowie der Plan eines neuen Systems für die Erstversorgung machten das nun vorgelegte Update notwendig.

Die wichtigsten Elemente: Die ePA soll zur zentralen Anwendung für Gesundheitsthemen ausgebaut werden, Digitalisierung der Schlüssel zu einem erfolgreichen Primärärzt*innensystem sein und „KI“ soll „sicher, flächendeckend und wirksam“ eingesetzt werden.

Digitalisierung und „KI“ werden das Gesundheitswesen fraglos verändern. Doch es ist wichtig, jetzt die richtigen Fragen zu stellen:

Während Digitalisierung und „KI“ durchaus das Potenzial haben, Prozesse im Gesundheitswesen zu vereinfachen und die Versorgung zu verbessern, kommt es auf eine gewissenhafte Abwägung bei der Umsetzung an.

Dabei dürfen wir vor allem nicht vernachlässigen, wie weitreichend die Auswirkungen auf Menschen in Gesundheitsberufen, auf Patient*innen und auf das Verhältnis zwischen ihnen sein können. Dazu braucht es mehr strategische Auseinandersetzung und Debatten.

Den großen Hoffnungen, mit denen der Einsatz von „KI“ derzeit verbunden ist, müssen wir realistisch begegnen: Weder wird „KI“ alle strukturellen Probleme im Gesundheitswesen wie Personalmangel oder Kostenexplosion lösen können, noch sind die großen Versprechungen medizinischer Spitzenleistungen und Effizienzgewinne bisher eingetreten – oder auch nur auf absehbare Zeit erwartbar.

Die technische Architektur der „KI“-Systeme gründet auf massenhaften Daten plus Stochastik, also der mathematischen „Kunst des Vermutens“. Das begrenzt diese Systeme dauerhaft: Es gibt keine Garantie dafür, dass Aussagen der „KI“ wahr und richtig sind. Anders als bei einem Algorithmus, der nach festen Regeln funktioniert und bei gleichen Bedingungen wiederholbare Ergebnisse liefert, ist diese Wiederholbarkeit bei „KI“ gerade nicht gewährleistet. Auch ist nicht nachvollziehbar, was genau den jeweiligen Antworten zugrunde liegt.

„KI“-gestützte Dokumentation soll in wenigen Jahren bei mehr als 70 Prozent der Einrichtungen zum Standard geworden sein, heißt es in der Strategie.

Sicherlich: Dokumentation ist oft lästig, aber sie kann auch dabei helfen, ein gemeinsames Verständnis zwischen Patient*in und Ärzt*in herzustellen oder zu überprüfen oder eine wichtige abschließende Reflexion über einen Fall darstellen.

Selbst wenn eine Entlastung durch Automatisierung in diesem Fall naheliegt:

Schafft sie wirklich mehr qualitativ hochwertige Zeit für die Behandlung von Patient*innen oder wird sie am Ende Ausdruck einer noch stärker verdichteten Arbeitsrealität von Menschen in Gesundheitsberufen sein?

Das ist gerade angesichts des demografischen Wandels erwartbar, der in den nächsten Jahren viele ältere Patient*innen mit größeren Behandlungsbedarfen bringen wird, während zugleich viele Menschen in Gesundheitsberufen in Rente gehen. Weniger Ärzt*innen müssen also künftig mehr Patient*innen behandeln, wenn nicht gegengesteuert wird.

Dabei entscheidet eine gute Beziehung zwischen Ärzt*innen und Patient*innen über den Heilungsverlauf mit – auch bei körperlichen Erkrankungen. Doch dafür braucht es Zeit.

Bei der Automatisierung der Dokumentation strebt die Ministerin ein hohes Tempo an. Mit Blick auf die bisher auf dem Markt dominierenden Anbieter könnte das dazu führen, dass bald regelhaft OpenAI, Google Gemini und Co. mit im Sprechzimmer sitzen. Die Abhängigkeit von den USA wächst bei verstärktem Einsatz der Dienste weiter.

Große Anbieter von Praxisverwaltungsystemen werben bereits mit „KI“-Tools zur Dokumentation und Automatisierung. Schaut man genauer in die Datenschutzbestimmungen, bestätigt sich die Vermutung:

Doctolib setzt Anthropic und Google setzt Gemini als „KI“ ein und hostet bei Amazon Web Services. Konkurrent Jameda begrüßt die neue Strategie als „wichtiges Signal für die Branche“ und verweist auf das eigene Dokumentationstool Noa Notes, das ebenfalls auf Amazon Web Services sowie Microsoft Azure setzt und auch OpenAI in der Datenschutzerklärung stehen hat.

VIA Health verspricht als „erster virtueller Assistent speziell für die Psychotherapie“ besten Datenschutz und weist gleichzeitig in der Datenschutzerklärung darauf hin, zur „Transkribierung der Audiospur sowie (…) Erstellung der Sitzungsprotokolle“ verschiedene Drittanbieter von „Large Language Models (LLMs)“ einzusetzen.

Das alles spiegelt die gegenwärtige Realität weiter Teile unserer digitalen Infrastruktur wider. Und gleichzeitig passt es nicht zusammen mit politischen Forderungen nach mehr digitaler Souveränität, die auch von der Bundesregierung selbst regelmäßig vorgetragen werden (z.B. in der Erklärung zum „Gipfel zur europäischen digitalen Souveränität“ vom 18. November 2025).

Auch zu „KI“-gestützten Systemen der medizinischen Ersteinschätzung müssen wir uns Gedanken machen. Künftig soll es auch so laufen: Symptome werden in ein Computersystem eingegeben, darauf folgt eine technische Einschätzung. Dieses Verfahren soll Teil des Erstversorgungssystems werden und so den Zugang ins Gesundheitswesen (mit) regeln. Noch ist nicht klar, ob regelbasierte Algorithmen oder „KI“ die technische Grundlage dafür bilden werden.

Kurz vorm Besuch in der Praxis die Symptome online eingeben und sich gegebenenfalls aufgrund besserer Steuerung Wartezeit sparen, kann eine gute Idee sein.

Eines genaueren Blicks bedürfen allerdings Themen, die sensibler und oft schambesetzt sind: Einfühlsam und ohne Vorurteile über Sexualität zu reden, ist oft schwierig. So sprechen viele Patient*innen das Symptom einer Geschlechtskrankheit erst ganz am Ende der Sprechstunde an oder eine psychische Belastungssituation wird erst im Gespräch selbst deutlich.

Öffnen wir mit digitalen Angeboten neue Wege für Patient*innen? Oder verlieren wir etwas, wenn wir uns mit standardisierten digitalen Ersteinschätzungen begrenzen?

Und wie entstehen geschützte Räume für sensible Themen wie Sexualität, Geschlechtskrankheiten, Substanzkonsum oder psychische Störungen, wenn ein Tool im Raum steht, das alles Gesagte mitschneidet?

„KI“ soll zur ständigen Begleiterin für Patient*innen werden und perspektivisch „individualisierte Gesundheitsempfehlungen“ geben, heißt es in der Strategie weiter. Man möchte damit die Eigenverantwortung stärken.

Dabei hat gerade erst wieder eine in der wissenschaftlichen Zeitschrift „Nature“ veröffentlichte Studie gezeigt, dass „KI“-Systeme faktisch daran scheitern, richtige Ergebnisse hervorzubringen, sobald man sich von theoretischem Lehrbuchwissen verabschiedet und reale Patient*innen auf sie loslässt (ein Bericht zur Studie findet sich bei heise.de).

Hinzu kommt: Bei Sprachmodellen (der Grundlage von „KI“), werden die Eingaben nicht über Standardfragen geleitet, sondern das Verfahren hängt stark von den Eingaben der User*innen ab. Davon hängen dann auch die Ergebnisse ab.

Wie gut ChatGPT und Co. reagieren, lässt sich damit auch nicht verlässlich für alle Anwendungsfälle überprüfen, weil die Anzahl möglicher Nutzer*inneneingaben unbegrenzt ist. Die Erwartung an Verlässlichkeit von Software-Programmen, die sich aus Zeiten regelbasierter Programmierung speist, ist bei auf Stochastik gründenden Ansätzen nicht haltbar – denn da sind immer Wahrscheinlichkeiten und sogar Zufall mit im Spiel.

Zwar gibt es mittlerweile Beispiele, in denen Menschen sagen: „KI“ hat mir geholfen, dass es mir gesundheitlich wieder besser geht. Gerade bei seltenen Erkrankungen, denen Ärzt*innen in ihrem Berufsalltag fast nie begegnen, wird den Sprachmodellen ein Potenzial zugesprochen.

Aber gleichzeitig gibt es besonders groteske Beispiele, in denen ChatGPT bei der Bewertung von Daten eines Gesundheitstrackers die Note „ungenügend“, also kurz vor Herzinfarkt, „geraten“ hat, während zwei Ärzte keine Anhaltspunkte für eine Erkrankung finden konnten (ein Bericht dazu findet sich hier).

Menschen handeln als Menschen und sind damit auch in der Interaktion mit Maschinen und bei der Interpretation „maschineller“ Antworten oft unberechenbar.

Das wiederum kann weitreichende Auswirkungen für Interaktionen zwischen Mensch und Mensch im Behandlungszimmer haben:

Fragen Ärzt*innen in der Sprechstunde künftig mit ab, ob Patient*innen bereits vorab mit „KI“ recherchiert haben? Was ist, wenn sich Empfehlungen von „KI“-Systemen und realen Mediziner*innen unterscheiden, wenn von der „KI“ vorgeschlagene Behandlungen nicht von den Kassen gedeckt werden oder Kapazitäten fehlen?

Wenn sie gut gemacht sind, bieten Technologien die Chance, Medizin besser zu machen. Dafür müssen wir aber anfangen, uns die richtigen Fragen zu stellen – jenseits von Heilsversprechen und Technikgläubigkeit und im Wissen um den hochkomplexen Faktor Mensch, der im Übrigen auch kein „nerviges Beiwerk“ ist: Am Ende sollen es ja doch wir Menschen sein, die von den neuen Technologien profitieren – und nicht nur die Tech-Milliardäre, die sie mit den größten Versprechungen bewerben.

Offenlegung: Der Autor hat im letzten Jahr auf Einladung der Gematik am Fachforum „Technologien und Anwendungen“ für die Weiterentwicklung der Digitalisierungsstrategie „Gemeinsam Digital“ teilgenommen.

Dieser Artikel erschien zuerst im Magazin des Vereins Demokratischer Ärzt*innen (vdää*), „Gesundheit braucht Politik“, Ausgabe 4/2025.

Wenn über „Künstliche Intelligenz“ in der Medizin gesprochen wird, tauchen derzeit die immer gleichen Argumente auf: „KI“-Technologien ermöglichen mittels Mustererkennung frühe und genauere Diagnosen, bringen Effizienzgewinne durch Automatisierung administrativer Aufgaben, ermöglichen eine individualisierte Medizin. Ärzt*innen sollen mehr Zeit für ihre Patient*innen haben, indem sie von lästigen Alltagsaufgaben entlastet werden. So formuliert es ein Beitrag in den „Tagesthemen“^[1].

Kontrastiert werden die Heilsversprechen der „KI“ darin mit offensichtlichen strukturellen Problemen innerhalb des derzeitigen und sich abzeichnenden Gesundheitswesens. Der steigende Kostendruck. Wenig Zeit für die Betreuung von Patient*innen. Hohe Arbeitsbelastungen innerhalb des Gesundheitswesens. Und: Der demografische Wandel bringt viele ältere Patient*innen mit erhöhten Pflege- und Behandlungsbedarfen, während gleichzeitig für sehr viele Mitarbeiter*innen in Gesundheitsberufen die Rente bevorsteht.

Kann „KI“ also zukünftig das Gesundheitswesen verbessern und vielleicht sogar Krankheiten heilen? Es kommt darauf an. Denn unter dem Sammelbegriff „Künstlicher Intelligenz“ verbirgt sich eine Vielzahl unterschiedlicher Technologien, die von relativ trivialer Prozessdigitalisierung über regelbasierte Entscheidungssysteme bis zu jenen großen, auf Wahrscheinlichkeiten basierenden Sprachmodellen reichen, die durch ChatGPT, Perplexity und Co. inzwischen im Alltag so vieler Menschen angekommen sind. Entgegen dem allgegenwärtigen Hype von „KI“ müssen daher verschiedene Technologien und ihre jeweiligen Möglichkeiten und Begrenzungen differenziert betrachtet werden. Technologie und Gesellschaft prägen sich wechselseitig – sie bringen einander hervor. Neue Technologien müssen daher immer kritisch dahingehend befragt werden, was sie entstehen und populär werden lässt und welche sozialen und politischen Auswirkungen sie haben.

Als Handwerkszeug haben Technologien, mit oder ohne „KI“, bisweilen tatsächlich das Potenzial, medizinische Versorgung zu verbessern und Prozesse zu vereinfachen. Sie alleine werden aber keine alleinige Lösung für ein krankendes Gesundheitssystem darstellen. Sie heben soziale Ungleichheiten von Gesundheit nicht auf, können sie gegebenenfalls sogar verschärfen. Es braucht daher einen kritischen Blick auf gegenwärtige Tech-Narrative und Heilsversprechen, die mit etwas Abstand betrachtet zu gut klingen, um wirklich eintreten zu können. Sie müssen reflektiert und kritisch hinterfragt werden, damit das, was davon überbleibt, wirkliche Substanz hat. Drei solcher typischen Erzählungen werden folgend herausgegriffen, nämlich Effizienzversprechen durch „KI“ im Gesundheitswesen, die Idee von „KI“ als persönlicher Gesundheitsassistenz und den „Longevity“-Ansatz, also die Vorstellung einer „KI“-gestützten Langlebigkeit.

Das Argument, dass „KI“ zukünftig von Alltagsaufgaben entlastet und mehr Freiraum für Patient*innen schafft, muss gleich in doppelter Hinsicht überprüft werden:

Erstens: Während in der Vergangenheit immer wieder Versprechen zu Produktivitätsgewinnen durch neue Technologien gemacht wurden, sind diese oft nicht ohne Weiteres und vor allem nicht direkt nach deren Einführung eingetreten. Bisweilen brachten sie schädliche Folgen für Beschäftigte oder Umwelt mit sich. Soziale und politische Systeme müssen sich erst mit einiger Anstrengung an neue technische Realitäten anpassen, um wirklich von ihnen zu profitieren.

Zugleich werden teilweise vollkommen unrealistisch große Effizienzgewinne durch technische Lösungen angekündigt: Bis 2035 sollen 11.000 Hausärzt*innen in Deutschland fehlen. Das ist eine Menge. Beratungsunternehmen wie „EY“ sehen dennoch als Lösungsstrategie primär Prozessdigitalisierung, Telemedizin und die flächendeckende Nutzung der elektronischen Patient*innenakte^[3].

Es ist kein Einzelfall: Manche Menschen im Arbeitsfeld E-Health behaupten sogar, Hausärzt*innen könnten künftig mittels Technologie das Zehnfache an Patient*innen behandeln^[4], was angesichts voller Wartezimmer in Praxen und des Bedürfnisses vieler Patient*innen nach menschlichem Kontakt und Empathie schwer vorstellbar ist.

Der Einführungsprozess der elektronischen Patient*innenakte zieht sich, von ersten Ideen bis zur Umsetzung, seit über 20 Jahren – und ist dennoch auch nach bundesweitem Roll-out im April 2025 längst nicht flächendeckend etabliert und vollumfassend so in der Versorgung angekommen, dass alle davon profitieren und eine messbare Arbeitserleichterung eingetreten ist. Wenn die letzten Jahre eines zeigen, dann, dass Digitalisierung mühsam ist, Zeit braucht und nicht alles von Anfang an so klappt, wie man sich das während des Entwicklungsprozesses ausgedacht hat.

Zweitens: Wenn der Vorstandsvorsitzende der Charité, Heyo Klaus Kroemer, angibt, innerhalb einer Dekade die in Rente gehenden Mitarbeiter*innen durch „KI“ ersetzen zu wollen – konkret ein Drittel der Belegschaft –, setzt er dabei nicht nur auf unrealistische Versprechungen von Effizienzgewinnen durch „KI“-Automatisierung in einem wahnsinnig kurzen Zeitraum, sondern verkennt auch, dass Patient*innen in Krankenhäusern in der Regel mit sehr realen und pflegebedürftigen Körpern da liegen, deren Bedürfnisse keine Algorithmen stillen, sondern hart arbeitende Pfleger*innen.

Selbst wenn „KI“ viele Aufgaben erleichtert: In einer um ein Drittel zusammengestrichenen Belegschaft haben Ärzt*innen gerade nicht die oftmals versprochene zusätzliche Zeit für die Patient*innen, sondern eine noch weiter verdichtete Arbeitsrealität. Hinter der vermeintlichen „KI“-Revolution verbirgt sich nicht zuletzt knallharte Austeritätspolitik.^[5]

Der Einsatz von Technologien, auch von „KI“, muss sich nicht nur an Effizienz messen lassen, sondern auch daran, ob er menschenwürdige und wünschenswerte Zukünfte hervorbringt.

Eine zweite Antwort auf drohendes Systemversagen ist maximale Individualisierung von Gesundheit. Dieser Trend taucht in unterschiedlichen Gewändern auf, meint aber fast das immer Gleiche: Du musst dich mal mehr um dich selbst kümmern.

„Deutsche gehen zu oft zum Arzt“, sagt Bundeskanzler Friedrich Merz.^[6] Andere Vertreter*innen im Gesundheitswesen verweisen auf die Vorteile von mehr Selbstmedikation bei leichten Erkrankungen, eine wachsende Gesundheitskompetenz und mehr Prävention. Meint alles: Sie sollen ein strapaziertes System nicht unnötig belasten und Gesundheitsbeschwerden erst mal für sich selbst regeln. Auch mittels finanzieller Anreize (im Sinne niedrigerer Kassenbeiträge bei Verzicht auf Besuche von Ärzt*innen) könne die Eigenverantwortung gestärkt werden.^[7]

„KI“ soll hierbei eine zentrale Rolle spielen. BITKOM^[8] und Bertelsmann Stiftung^[9] veröffentlichen jeweils Befragungen, die demonstrieren sollen, wie verbreitet der Einsatz von Sprachmodellen bei Gesundheitsthemen jetzt schon ist: 45 % der Deutschen befragen die „KI“ bereits zu Symptomen und Gesundheitsthemen, sagt die BITKOM. Der Verband, der IT-Unternehmen vertritt, betont die Chancen einer digitalen Zukunft im Gesundheitswesen. Auch die Bertelsmann Stiftung will eine wachsende Verbreitung erkennen, sieht aber derzeit weiterhin Dr. Google auf dem ersten Platz.

Ähnlich sieht es im Bereich der mentalen Gesundheit aus. Verschiedene Auswertungen zeigen, dass viele Menschen längst mit „KI“-Chatbots über mentale Probleme sprechen. „Therapy and companionship“ sei inzwischen der häufigste Anwendungsfall für die Nutzung von Chatbots, steht im Harvard Business Review.^[10] Artikel diskutieren rauf und runter, ob „KI“ zukünftig die Psychotherapie ersetzen oder zumindest ergänzen könne.^[11]

Auch hier stellen sich ähnliche Fragen: Funktioniert das wirklich? Und ist die Verbreitung Ausdruck einer funktionierenden oder krankenden Gesellschaft? Sind „KI“-Chatbots als mentale Alltagsbegleitung oder Therapieersatz Teil einer wünschenswerten Zukunft?

Kein anderer Gesundheitstrend verbindet diese Linien aus Individualisierung, Prävention und Technologie deutlicher als „Longevity“, ein Ansatz, der über eine Kombination gesundheitsförderlicher Maßnahmen die Lebensspanne und zugleich die Anzahl (möglichst) gesunder Lebensjahre verlängern soll.

Die Spanne der Maßnahmen reicht von gut erforschten Basics, die tatsächlich wissenschaftlich erwiesen die gesunde Lebensdauer verlängern können – wie Sport, ausreichend Schlaf, gute Ernährung, starke soziale Netze –, bis hin zu in hohem Maßen experimentellen Tech-gestützten Anwendungen, Selbsttracking und der Einnahme zahlreicher Ergänzungsmittel.

Fountain Life, eines der ersten Unternehmen, die ihre reichen Klient*innen auf ihrem Weg zur „Longevity“ unterstützen, verspricht ein „KI“-unterstütztes „Leben ohne Limits“[13].

Es ist keine Überraschung, dass „Longevity“ gerade von Tech-Milliardären vorangetrieben wird. Was diese mit ihrer Gesundheit anstellen, könnte einem egal sein, wenn es nicht längst in gesundheitspolitische Debatten ausstrahlen würde, inzwischen auch in Deutschland. Sie prägen die Zukunftserzählungen rund um Tech und Gesundheit entscheidend mit. Der Wunsch nach Unsterblichkeit oder zumindest einem sehr viel längeren Leben ist jedenfalls weit verbreitet und wird mit Milliardeninvestments gefüttert: Ein unerschütterlicher Glaube an Technologie und insbesondere „Künstliche Intelligenz“ als mittelfristige Lösung für alle Menschheitsprobleme sowie die Hyperindividualisierung bei gleichzeitiger Abgrenzung von einer als Bedrohung erlebten Gesellschaft sind tief verankerte ideologische Wurzeln des Ansatzes. Ein Menschenbild, das allen gleichen Wert zuspricht, gehört dagegen nicht dazu.^[14]

Es gibt bisher keine Studien darüber, ob die Lebenserwartung steigt, wenn man dem Longevity-Guru Bryan Johnson auf Instagram folgt. Sehr klar erwiesen ist dagegen, was statistisch am meisten Lebensjahre kostet: Armut. Studien des Robert-Koch-Instituts zeigen einen deutlichen Gap in der Lebenserwartung zwischen strukturstarken und -schwachen Regionen in Deutschland.^[15] Aus globaler Perspektive ist dieser Sprung noch krasser: Während beispielsweise HIV in wohlhabenden Ländern längst zu einer gut behandelbaren chronischen Erkrankung geworden ist, die sich kaum auf die Lebenserwartung auswirkt, sterben in Ländern des globalen Südens weiterhin Menschen an Aids, weil Medikamente fehlen. Das Problem könnte sich angesichts international wegbrechender Finanzierung sogar wieder verschärfen.^[16]

Die Flutung der Sozialen Medien mit individuellen Gesundheitstipps droht strukturelle Ungerechtigkeiten zu verschleiern, denen ganz anders begegnet werden müsste. Stattdessen wird Menschen sogar noch das Stigma eines schlechten Umgangs mit der eigenen Gesundheit auferlegt, wenn ihnen nach zehn Stunden Pakete-Austragen die Energie oder das Budget für umfangreiche Wellnessrituale fehlen.

Dass ein größerer Fokus innerhalb des Gesundheitswesens auf Prävention gelegt werden soll, ist unbedingt zu begrüßen. Allerdings darf man sich dabei nicht alleine auf individuelles Verhalten stürzen und mit erhobenem Zeigefinger dazu mahnen, sich eifrig durch tägliche Empowermentbotschaften des „KI“-Chatbots zu klicken. Es braucht einen Blick auf gesellschaftliche Verhältnisse, die dazu befähigen, sich um die eigene Gesundheit zu kümmern, oder die der Gesundheit bestimmter Gruppen im Wege stehen. Man darf nicht laut individuelle „Resilienz“ fordern, an Eigenverantwortung appellieren, und damit gleichzeitig all jene vulnerablen Patient*innen vor den Karren werfen, die aus unterschiedlichen Gründen auf eine gute Versorgung angewiesen sind.

Trotz aller demografischen Herausforderungen, trotz fraglos vorhandenen Reformbedürfnissen: Es darf nicht passieren, dass Menschen vergessen werden, die angewiesen sind auf ein funktionierendes Gesundheitssystem und nicht auf Eigenverantwortung setzen können. Es gibt Patient*innen, die Betreuung brauchen von realen Menschen, die ganzheitlich auf die Bedürfnisse von Menschen blicken.

Eine Zukunft des Gesundheitswesens darf sich auch nicht daran orientieren, ob es ermöglicht, einzelnen Menschen über die magische Schwelle von 120 Jahren und mehr zu verhelfen, sondern ob es allen Menschen unabhängig von ihren Voraussetzungen in Menschlichkeit und Würde begegnet. Technologie kann dabei zum wichtigen Handwerkszeug werden. Sie ist aber weder Selbstzweck noch Allheilmittel. Plumpen technologischen Fortschrittserzählungen müssen daher kluge Lösungsstrategien für real existierende Probleme und Narrative einer gerechteren Zukunft in Gesundheitswesen und Gesellschaft entgegengestellt werden.

^[1] https://www.tagesschau.de/tagesthemen/video-1511588.html,

^[2] https://www.tagesschau.de/tagesthemen/video-1511588.html,

^[3] https://www.ey.com/content/dam/ey-unified-site/ey-com/de-de/noindex/ey-healthcare-magazin-gesundheitswesen-2030.pdf

^[4] https://www.welt.de/themenspecial/siemens-healthineers/article255071516/Neue-Technologien-Mit-KI-zu-einer-Zeitenwende-im-Gesundheitswesen.html

^[5] vgl. https://tante.cc/2024/09/24/a-choice/

^[6] https://www.aerzteblatt.de/news/merz-deutsche-gehen-zu-oft-zum-arzt-1bcb705d-16bb-4c15-a31e-73e751e5c4cb

^[7] https://www.pharmazeutische-zeitung.de/mehr-praevention-mehr-selbstmedikation-mehr-apotheke-160803/seite/3/?cHash=1907da602cad3c4d3d0ac81a1da82ff9

^[8] https://www.bitkom.org/Presse/Presseinformation/Dr-KI-Chatbot-medizinischer-Ratgeber

^[9] https://www.aerztezeitung.de/Politik/Immer-mehr-Bundesbuerger-nutzen-KI-Chatbots-fuer-Gesundheitsrecherche-460585.html

^[10] https://hbr.org/2025/04/how-people-are-really-using-gen-ai-in-2025

^[11] https://www.deutschlandfunkkultur.de/ki-psychotherapie-chatgpt-100.html

^[12] https://www.fountainlife.com/about

[13] https://www.fountainlife.com/about

^[14] https://firstmonday.org/ojs/index.php/fm/article/view/13636

^[15] https://www.rki.de/DE/Aktuelles/Publikationen/Journal-of-Health-Monitoring/GBEDownloadsJ/Focus/JHealthMonit_2025_01_Lebenserwartungsluecke.html

^[16] https://www.aidshilfe.de/de/weckruf

Die Popularität von Chatbots großer „KI“-Modelle verändert, wie Menschen online suchen: Die vermeintlich wichtigsten Infos gibt es im direkten Dialog mit der „KI“ oder den automatisierten Zusammenfassungen in Suchmaschinen. Menschen bleiben so auf der Plattform. Die eigentlichen Expert*innen für ein Thema verkommen zur Fußnote oder bleiben ganz unsichtbar. Zivilgesellschaftliche Vielfalt ist von dieser Entwicklung bedroht.

Wann haben Sie das letzte Mal etwas gesucht, ohne auf der Seite der Suchergebnisse auf einen der Treffer zu klicken und eine der gelisteten Webseiten zu besuchen? Ihre Antwort ist „heute“? Sie sind damit in guter Gesellschaft: Mehr als jede zweite Suche endet laut einer Studie inzwischen ohne Klick. Das Phänomen „Zero-Click Suche“ wächst rasant.

Oder sind Sie viel seltener auf Google, weil die Beantwortung Ihrer Fragen über einen Chatbot wie ChatGPT oder Co-Pilot viel komfortabler ist oder irgendwie mehr Spaß macht? Auch damit sind Sie nicht allein: Google ist weiterhin weltweiter Marktführer, aber erstmalig seit vielen Jahren unter den Anteil von 90 Prozent gerutscht.

Auch in diesem Kontext muss man die Einführung von „KI“-Zusammenfassungen verstehen: Google listet zentrale „KI“-generierte Antworten direkt oben auf der Ergebnisseite und versucht damit zu demonstrieren, dass der Konzern ebenfalls „KI“ kann.

Fachleute der Suchmaschinenoptimierung (SEO) und Verlage, die finanziell auf Webseitenaufrufe angewiesen sind, beobachten den Trend mit Sorge. Sie optimieren Texte, um wenigstens noch in der Seitenleiste der „KI“-Zusammenfassungen als Quelle genannt zu werden, oder beginnen mit sogenannter Generative Engine Optimization (GEO). Damit will man zum Beispiel erreichen, dass Sprachmodelle ihre Quellen, die sie ohnehin aus dem Internet gezogen haben, wenigstens mit angeben.

Das ändert aber nichts daran, dass sich die Zahl der Klicks auf Webseiten nach Suchanfragen drastisch reduziert hat.

Suchmaschinen tragen schon länger zu diesem Trend bei, indem sie viel ausführlichere Informationen direkt auf der Ergebnisseite platzieren. Info-Boxen am Anfang gehören inzwischen zum Standard. Auch sie verringern die Anzahl der Klicks, weil die zentrale Frage, nach der ein Mensch gesucht hat, bereits auf Google selbst beantwortet worden ist. Nutzende sparen sich so Zeit.

Seit Jahren wird über die Macht großer Plattformen und ihre Regulierung diskutiert, meist mit Blick auf soziale Netzwerke wie Facebook, Instagram oder TikTok, X und LinkedIn. Doch auch Google folgt derselben Logik: Menschen sollen zunehmend auf der Plattform bleiben. Darum werden Klicks auf externe Seiten nicht gefördert, sondern durch Info-Boxen oder jetzt durch KI-Zusammenfassungen ersetzt.

Ein anderer Aspekt ist in der öffentlichen Wahrnehmung dagegen kaum angekommen: Nämlich, dass auch Google insofern ein soziales Netzwerk ist, als Signale der Nutzenden mitentscheidend darüber sind, welche Suchanfragen weit oben gelistet sind. Kehren die meisten nach wenigen Sekunden zurück zu Google, nachdem sie eine Seite besucht haben, wird das technisch oft als schlechtes Zeichen gewertet und die Seite verliert an Sichtbarkeit.

Google ist damit längst mehr als eine Suchmaschine. Es funktioniert wie ein soziales Netzwerk: Das Verhalten der Nutzenden entscheidet darüber, welche Inhalte oben angezeigt werden, welche verdrängt werden und welche ganz verschwinden. Nur Inhalte, die in das Ökosystem passen und die Verweildauer erhöhen, haben eine Chance auf Sichtbarkeit.

Damit übt auch Google eine redaktionelle Funktion aus – ohne Transparenz und ohne demokratische Kontrolle. Was in der „KI“-Zusammenfassung als relevant erscheint, besitzt keinen neutralen Wahrheitswert, sondern ist ein durch Algorithmen gefilterter und auch von Geschäftsinteressen geprägter Ausschnitt.

Was wiederum in der „KI“-Zusammenfassung als das Wichtigste gilt, entscheidet allein Google. Ebenfalls wird diskutiert, ob man sich gesellschaftlich damit abfinden muss, dass Beiträge nach den Spielregeln der jeweiligen Plattform bewertet und ausgespielt werden. Allein an deren Ermessen entscheidet sich, ob zum Beispiel sexuelle Bildungsarbeit anstößig ist oder wo die Grenze liegt zwischen Meinungsfreiheit und Menschenfeindlichkeit.

Man kann sich dieser Frage inhaltlich nähern. Googelt man nach „Safer Sex“, listet die KI-Zusammenfassung „Kondome“, „Dental Dams“, die „Vermeidung von Körperflüssigkeiten“ und „saubere Sexspielzeuge“ als Strategien.

Zwei andere Methoden fehlen dagegen, obwohl sie beide zuverlässig vor HIV schützen: die PrEP, also die präventive Einnahme von HIV-Medikamenten, oder die Schutzwirkung einer HIV-Therapie. Die Deutsche Aidshilfe sieht in ihnen einen Schlüssel im Umgang mit der HIV-Pandemie.

Bei sexueller Bildung ist oft Tonalität entscheidend: Wie stark fokussiert man bei Aufklärung mögliche Krankheiten? Und wie kann man zugleich vermitteln, wie wichtig es ist, dass sich alle Beteiligten beim Sex wohlfühlen?

Im Fall illegalisierter Substanzen wie Heroin, Kokain oder Cannabis verzichtet Google dagegen weitgehend auf „KI“-Zusammenfassungen, statt aktiv auf mögliche Maßnahmen der Schadensminimierung und Safer Use hinzuweisen.

Was angezeigt wird und wie Texte formuliert sind, ist kein Zufall, sondern ein Ergebnis von Wahrscheinlichkeiten und Algorithmen, die weitgehend ohne öffentliche Kontrolle weiterentwickelt werden. Hier nehmen Google, ChatGPT und Co. mit jeder einzelnen Suchanfrage, mit jedem einzelnen Chatverlauf inhaltlichen und oft auch politischen Einfluss.

Zivilgesellschaftliche Organisationen schauen mit einem weiteren Blickwinkel auf die Thematik. NGOs sind von der Förderung öffentlicher oder privater Unterstützung abhängig. Ihre Arbeit wird dabei mit Erfolgsindikatoren bewertet, wozu auch die Reichweite von Webseiten zählt. Warum sollte man etwas fördern, wenn vermeintlich niemand die Inhalte liest? Oder niemand ihre Angebote nutzt: Oft ist ein Besuch der Webseite nur der erste Schritt von Ratsuchenden, um eine Organisation kennenzulernen und Hilfe in Anspruch zu nehmen.

Beratungsangebote werden nach inhaltlichen Suchanfragen wahrgenommen und gehen dann oft weiter in die Tiefe, als es Chatbots oder „KI“-Zusammenfassungen jemals abbilden könnten. Das eigentliche Anliegen kommt manchmal erst heraus, wenn man eine Weile telefoniert oder geschrieben hat. Mit Empathie, Geduld und feinfühligem Nachfragen. Dafür müssen Menschen aber erst einmal bei den Angeboten landen.

Manche Organisationen sind darüber hinaus auf Spenden angewiesen, gerade angesichts knapperer Kassen bei öffentlichen Geldgebenden: Spendenwillige gelangen zunächst auf die Webseite der Organisation. Eine Anmeldung beim Newsletter erfolgt nicht über Google oder ChatGPT, sondern über den jeweiligen Online-Auftritt. Die Spendenkampagne zum Jahresende braucht Sichtbarkeit, um Wirkung zu entfalten.

Sicherlich haben gerade größere zivilgesellschaftliche Organisationen gute Chancen, den Herausforderungen zu begegnen: Ihre Kommunikationsteams buhlen um die verbleibende Aufmerksamkeit. Mit Werbebudgets umgarnen sie Spendenwillige. Ihren Domains wird eine größere Autorität zugeschrieben, was immer noch bessere Chancen auf Reichweite bringt, als sie neue oder kleine NGOs je haben werden.

Die noch stärkere Konzentration von Macht bei wenigen Plattformen durch „KI“ bedroht zivilgesellschaftliche Vielfalt. Plattformen müssen verpflichtet werden, in „KI“-Zusammenfassungen ihre Quellen sichtbar und klickbar auszuweisen – und dabei auch kleinere Organisationen einzubeziehen. Für sensible Themen sollten eigene Zusammenfassungen entfallen oder zumindest mit relevanten zivilgesellschaftlichen und wissenschaftlichen Akteur*innen abgestimmt werden. Zudem braucht es Transparenz über die Auswahlkriterien und eine unabhängige Aufsicht, um demokratische Vielfalt zu sichern.