Wenn die KI klinisch überzeugt – und im Alltag trotzdem Reibung erzeugt

Eine KI, die in klinischen Vignetten besser abschneidet als Behandelnde, wäre noch vor wenigen Jahren vor allem eine Schlagzeile gewesen. Heute ist sie vor allem eines: eine Gestaltungsaufgabe. Denn die entscheidende Frage lautet nicht mehr, ob generative KI medizinische oder pflegerische Informationen verarbeiten kann, sondern wie sie in reale Versorgungsprozesse eingreift – und was das für professionelle Urteilsbildung, Dokumentation, Eskalation und Verantwortung bedeutet.

Genau an diesem Punkt werden drei aktuelle Arbeiten besonders interessant. Sie betrachten dasselbe Thema aus drei Richtungen: Leistung, Nutzung und professionelle Praxis. Zusammen zeichnen sie ein Bild, das für Pflegeinformatik hochrelevant ist. Denn es zeigt: Gute Modellleistung ist noch keine gute Implementierung.

Drei Studien, ein gemeinsames Signal

Die erste Arbeit benchmarkt mehrere Large Language Models, also generative KI-Modelle, anhand lokal entwickelter Primärversorgungsvignetten in Kenia. Laut Studie wurden die Modelle in mehreren Domänen – darunter Genauigkeit, Sicherheit und Strukturierung – teils höher bewertet als klinisch Tätige. Das ist bemerkenswert, sollte aber präzise eingeordnet werden: Es geht um kontrollierte Vignetten, nicht um den unübersichtlichen Alltag mit Zeitdruck, Unterbrechungen, unvollständigen Daten und sozialen Faktoren, die klinische Entscheidungen prägen.

Die zweite Studie untersucht über acht Monate die Nutzung eines in die elektronische Patientenakte integrierten generativen KI-Entscheidungsunterstützungssystems in privaten Primärversorgungseinrichtungen, ebenfalls in Kenia. Der Befund: Die Nutzung nahm im Zeitverlauf zu, qualitative Rückmeldungen beschreiben wahrgenommenen Nutzen, wachsendes Vertrauen, aber auch Verbesserungsbedarf. Besonders wichtig ist hier der Hinweis auf lokale Anpassung und Workflow-Integration. Genau dort entscheidet sich, ob aus einem KI-Werkzeug ein relevanter Bestandteil klinischer Arbeit wird oder nur eine zusätzliche Schicht digitaler Komplexität.

Die dritte Studie richtet den Blick auf einen Bereich, in dem pflegerische Urteilsbildung, Überwachung und Eskalation besonders sensibel sind: KI-unterstütztes Fetalmonitoring. Die qualitative Untersuchung beschreibt, dass geburtshilfliche Pflegefachpersonen algorithmische Hinweise häufig nicht einfach übernehmen, sondern eher zur Legitimation bereits entwickelter Einschätzungen nutzen. Wenn algorithmische Bewertung und professionelle Einschätzung voneinander abweichen, entstehen epistemische Spannungen – also Konflikte darüber, welche Form von Wissen zählt – und zugleich asymmetrische Verantwortungsverhältnisse.

Gerade diese Kombination macht die Lage so aufschlussreich: Einerseits erleben wir Leistungsversprechen und wachsende Adoption, andererseits zeigt sich, dass algorithmische Autorität den Versorgungsalltag nicht neutral ergänzt, sondern professionelle Praktiken verändert.

Was daran wirklich neu ist

KI in der Versorgung ist nicht neu. Neu ist vielmehr, dass generative Systeme zunehmend direkt in klinische Informationssysteme eingebettet werden und damit nicht mehr nur experimentelle Zusatztools sind. Sie erscheinen im selben digitalen Raum wie Dokumentation, Medikationsdaten, Verlaufsinformationen, Befunde und Arbeitslisten. Dadurch verschiebt sich ihre Rolle: Aus einem externen Assistenten wird potenziell ein aktiver Taktgeber im Workflow.

Für die Pflege ist das besonders relevant, weil pflegerische Entscheidungen selten isoliert getroffen werden. Sie entstehen in einem Geflecht aus Beobachtung, Situationsdeutung, Priorisierung, Kommunikation und Koordination. Wenn eine KI in diesem Gefüge Empfehlungen, Zusammenfassungen, Risikohinweise oder Vorschläge zur nächsten Maßnahme liefert, verändert sie nicht nur Information, sondern Prozesslogik. Sie beeinflusst, was sichtbar wird, was als dringlich gilt und worüber im Team gesprochen wird.

Das ist pflegeinformatisch der Kern des Themas: Nicht das Modell allein ist entscheidend, sondern das Zusammenspiel von Pflegefachlichkeit, Prozessdesign, Datenqualität, Benutzeroberfläche, Eskalationslogik und organisatorischer Verantwortung.

Zwischen Entlastung und neuem Digitalaufwand

Viele Einrichtungen hoffen, dass generative KI dokumentationsbezogene und kognitive Last reduziert. Diese Hoffnung ist nicht unbegründet. Wenn Systeme Informationen strukturieren, Vorschläge für Differenzialdiagnosen oder nächste Schritte liefern, Redundanzen verringern oder relevante Leitlinieninformationen kontextbezogen einspielen, kann das tatsächlich entlasten.

Nur: Entlastung entsteht nicht automatisch. Sie muss im Prozess nachweisbar werden. Wenn Pflegefachpersonen KI-Ausgaben gegenprüfen, umformulieren, nachdokumentieren oder gegenüber anderen Berufsgruppen begründen müssen, verschiebt sich der Aufwand lediglich. Dann wird aus versprochener Effizienz eine neue Form von Digital Burden, also digital bedingter Zusatzbelastung.

Gerade die qualitative Arbeit aus dem geburtshilflichen Kontext zeigt, dass algorithmische Unterstützung zusätzliche Arbeit erzeugen kann – nicht unbedingt als mehr Klicks, sondern als mehr Rechtfertigungsdruck. Wenn die Fachperson eine andere Einschätzung hat als das System, muss sie nicht nur klinisch argumentieren, sondern oft auch institutionell. Wer darf von der Maschine abweichen? Wie wird das dokumentiert? Wer trägt das Risiko im Konfliktfall? Und wird Abweichung als fachliche Stärke oder als erklärungsbedürftige Ausnahme gelesen?

Aus Sicht der Pflegeinformatik ist das eine Schlüsselfrage. Denn ein System, das formell unterstützt, faktisch aber die Schwelle für Widerspruch erhöht, verändert Machtverhältnisse im klinischen Alltag.

Strukturierte Daten werden zum Flaschenhals

Generative KI wirkt oft beeindruckend, weil sie sprachlich flexibel ist. Im Versorgungssystem zählt aber nicht primär, wie flüssig ein Text klingt, sondern ob Empfehlungen auf belastbaren, strukturierten und anschlussfähigen Daten beruhen. Ohne Interoperabilität bleibt auch die beste KI ein Inselwerkzeug.

Für pflegerische und primärversorgende Workflows heißt das konkret: Relevante Beobachtungen, Scores, Vitaldaten, Assessments, Medikationsinformationen, Pflegeprobleme, Maßnahmen und Outcomes müssen so vorliegen, dass sie maschinell interpretierbar und systemübergreifend nutzbar sind. Freitext allein genügt dafür meist nicht. Gleichzeitig darf Strukturierung nicht in Dokumentationsbürokratie umschlagen.

Hier zeigt sich ein klassisches Spannungsfeld der Pflegeinformatik. Einerseits braucht KI standardisierte Eingaben und saubere Datenmodelle. Andererseits ist pflegerische Praxis kontextreich, situativ und nicht vollständig in starre Felder zu pressen. Gute Systeme müssen deshalb beides können: strukturierte Signale verarbeiten und narrative Professionalität respektieren.

Interoperabilität ist in diesem Zusammenhang mehr als Technik. Sie entscheidet darüber, ob KI-Empfehlungen auf aktuelle Informationen aus verschiedenen Quellen zugreifen, in bestehende Dokumentations- und Eskalationswege zurückgeschrieben werden und für Audit, Qualitätssicherung und Evaluation überhaupt nachvollziehbar bleiben.

Warum Adoption nicht mit Vertrauen verwechselt werden darf

Dass die Nutzung eines EHR-integrierten KI-CDSS in der kenianischen Studie zunahm, ist ein wichtiges Signal. Es zeigt, dass Integration in den Arbeitskontext offenbar relevanter ist als bloße Modellfähigkeit. Doch steigende Nutzung bedeutet nicht automatisch angemessen kalibriertes Vertrauen.

In der Praxis gibt es zwei bekannte Fehlentwicklungen: übermäßiges Vertrauen in Systemvorschläge und reflexhafte Ablehnung. Beides ist problematisch. Wer KI unkritisch folgt, riskiert Automationsbias – also die Tendenz, algorithmische Empfehlungen zu bevorzugen, selbst wenn sie fehlerhaft oder unpassend sind. Wer sie grundsätzlich ignoriert, verschenkt potenziellen Nutzen und beschädigt Akzeptanz.

Deshalb braucht jede Einführung generativer Entscheidungsunterstützung mehr als Schulung im Bedienen der Oberfläche. Nötig ist eine Vertrauenskultur mit professioneller Kalibrierung: Wann ist die Empfehlung plausibel? Welche Datenbasis liegt zugrunde? Was fehlt dem System? Wie werden Unsicherheiten kenntlich gemacht? Und wie sieht ein sauberer Override-Prozess aus, wenn die Fachperson begründet anders entscheidet?

Pflegefachpersonen dürfen in diesem Setting nicht als letzte Kontrollinstanz ohne echte Gestaltungsmacht eingesetzt werden. Sie müssen an der Entwicklung von Regeln, Eskalationswegen, Dokumentationsanforderungen und Bewertungsmetriken beteiligt sein. Sonst entsteht genau jene Asymmetrie, die die qualitative Studie beschreibt: Verantwortung bleibt beim Menschen, Autorität wandert schleichend zum System.

Was das für Pflegemanagement und Pflegeinformatik bedeutet

Für Pflegemanagement und Digitalisierungsverantwortliche lautet die unangenehme, aber notwendige Botschaft: Der Erfolg von KI entscheidet sich nicht im Beschaffungsprozess und auch nicht in einer Demo mit beeindruckenden Antworten. Er entscheidet sich im Detail des Workflows.

Vor jeder breiteren Einführung sollten daher einige Fragen zwingend geklärt werden:

• Welches konkrete Problem soll die KI lösen: Suchaufwand, Dokumentationslast, klinische Unsicherheit, Leitlinienadhärenz oder Kommunikationsbrüche?
• An welcher Stelle im Prozess greift die Unterstützung ein: vor, während oder nach der pflegerischen bzw. klinischen Entscheidung?
• Welche Daten nutzt das System, wie aktuell und wie vollständig sind sie, und wie werden Unsicherheiten dargestellt?
• Wie wird Abweichung von der KI dokumentiert, legitimiert und ausgewertet?
• Welche Effekte werden gemessen: Zeitgewinn, Prozessqualität, Ergebnisqualität, Nutzererleben, Alarmmüdigkeit, Fehlerraten oder Zusatzaufwand?

Genau hier wird auch ein Bezug zu Digital Nursing Outcome Assessment (DNOA) sinnvoll. Wenn Einrichtungen den Nutzen digitaler Werkzeuge ernsthaft beurteilen wollen, reicht es nicht, Login-Zahlen oder subjektive Zufriedenheit zu erheben. Es braucht belastbare Indikatoren dafür, ob sich Pflegezeit, Unterbrechungen, Dokumentationsaufwand, Prozessqualität oder Versorgungsqualität tatsächlich verändern. Gerade bei generativer KI ist diese Perspektive zentral, weil der gefühlte Nutzen hoch sein kann, während die reale Prozesswirkung unklar bleibt.

Algorithmische Autorität ist keine technische Nebensache

Die vielleicht wichtigste Lehre aus den drei Arbeiten ist, dass wir es nicht nur mit Softwareeinführung zu tun haben, sondern mit einer Neuverhandlung von Wissensordnungen in der Versorgung. Wenn ein System Empfehlungen gibt, priorisiert oder Risiken markiert, dann stellt sich immer auch die Frage: Wessen Wissen zählt – und wann?

Für die Pflege ist das heikel, weil pflegerische Expertise häufig relationale, beobachtungsnahe und situationsgebundene Anteile enthält, die in vielen Datensätzen schlechter repräsentiert sind als standardisierte medizinische Parameter. Wenn KI-Systeme vor allem auf dem aufsetzen, was digital leicht verfügbar ist, können wichtige pflegerische Wissensformen an Sichtbarkeit verlieren. Dann droht nicht nur fachliche Verzerrung, sondern auch organisatorische Verschiebung: Entscheidungen orientieren sich stärker an dem, was das System abbildet, und schwächer an dem, was professionell wahrgenommen, aber digital nicht adäquat erfasst wird.

Deshalb ist pflegeinformatische Mitgestaltung keine optionale Ergänzung, sondern Voraussetzung. Pflegefachpersonen und Pflegeinformatiker:innen müssen mitentscheiden, welche Daten als relevant gelten, wie Empfehlungen dargestellt werden, wann Warnungen erscheinen, wie Begründungen dokumentiert werden und wie Systeme auf reale Pflegeprozesse abgestimmt sind.

Die eigentliche Bewährungsprobe kommt erst noch

Die neuen Studien liefern keine einfache Botschaft, aber eine sehr klare. Generative KI kann in kontrollierten Settings stark performen. Sie kann in integrierten Umgebungen angenommen und genutzt werden. Und sie kann zugleich Spannungen erzeugen, die man in klassischen Leistungsmetriken kaum sieht.

Gerade deshalb wäre es ein Fehler, die Diskussion auf die Frage zu verengen, ob KI „besser“ ist als Menschen. Für die Pflegeinformatik ist die relevantere Frage, ob KI Versorgung besser organisiert, Informationen sinnvoller fließen lässt und professionelle Urteilsbildung stärkt statt untergräbt. Wenn das nicht gelingt, wird aus technischer Leistungsfähigkeit kein Versorgungsfortschritt.

Die nächste Reifeprüfung digitaler Versorgung liegt also nicht im nächsten Modellupdate, sondern in der Fähigkeit von Organisationen, KI so zu gestalten, dass Pflegefachlichkeit sichtbar, anschlussfähig und handlungswirksam bleibt. Denn eine KI, die klinisch beeindruckt, aber pflegerische Praxis epistemisch entwertet, ist nicht innovativ – sie ist nur unvollständig implementiert.

Diskussionsfrage an die Community: Wie sollten KI-gestützte Entscheidungsunterstützungssysteme gestaltet sein, damit pflegerisches Urteil nicht nur „übersteuerbar“ bleibt, sondern im Workflow ausdrücklich gestärkt wird?

Originalquelle 1: Whose Knowledge Counts in Labour? Obstetric Nurses Negotiating Clinical Judgement, Algorithmic Authority and Woman-Centred Care in Artificial Intelligence-Enhanced Foetal Monitoring

Originalquelle 2: Mixed-methods evaluation of clinician experiences and adoption patterns of an EHR-integrated generative AI-based clinical decision support uptake by clinicians in Kenya

Originalquelle 3: Benchmarking large language models and clinicians using locally generated primary healthcare vignettes in Kenya

Dieser Text wurde mit Unterstützung von KI erstellt.