Blog-Post Öffentlich teilbar
Allgemein · Heiko Mania · Admin · 3 Follower · 13.11.2026 · 48 Aufrufe

Robotik in der Klinik? Das eigentliche Risiko beginnt nicht am Bett, sondern bei der Governance

Wer in Kliniken oder Pflegeeinrichtungen über Robotik spricht, landet schnell bei Bildern von autonomen Transportwagen, intelligenten Assistenzsystemen oder robotischen Anwendungen in Diagnostik und Therapie. Das greift zu kurz. Die entscheidende Frage lautet inzwischen nicht mehr nur, was Robotik technisch kann, sondern unter welchen regulatorischen, organisatorischen und haftungsrechtlichen Bedingungen sie überhaupt verantwortbar eingesetzt werden kann.

Gerade für Pflegeinformatik, Pflegemanagement und Digitalisierungsverantwortliche ist das hochrelevant. Denn sobald Robotik in patientennahe Prozesse eingreift oder Entscheidungen mit KI-Komponenten vorbereitet, verdichten sich mehrere Regelwerke zu einem komplexen Governance-Rahmen: EU AI Act, Medizinprodukterecht, Datenschutz, Cybersicherheit, Dokumentationspflichten und Haftungsfragen. Wer das als Randthema für Jurist:innen oder Hersteller missversteht, riskiert, dass Projekte zwar technologisch interessant sind, aber organisatorisch nicht tragfähig werden.

Warum Robotik jetzt vor allem eine Governance-Frage ist

Die aktuellen Fachbeiträge aus AI & Society und BMJ Digital Health & AI machen deutlich: KI-gestützte Robotik im Gesundheitswesen ist regulatorisch nicht mit klassischer Medizintechnik gleichzusetzen. Der Grund liegt in der Kombination aus physischer Wirkung, softwarebasierter Entscheidungslogik und zum Teil lernenden Systemanteilen. Damit entstehen neue Anforderungen an Transparenz, Nachvollziehbarkeit, menschliche Aufsicht, Datenqualität, Logging und Sicherheitsarchitekturen.

Neu ist dabei weniger, dass Regulierung existiert. Neu ist, dass mehrere Regime gleichzeitig relevant werden und sich ihre Anforderungen praktisch im Klinikalltag überlagern. Ein robotisches System kann zugleich Medizinprodukt sein, KI-Funktionen enthalten, sensible Gesundheitsdaten verarbeiten, in kritische IT-Infrastrukturen eingebunden sein und Auswirkungen auf Haftungsfragen im Behandlungsprozess haben. Für Einrichtungen bedeutet das: Die Einführung solcher Systeme lässt sich nicht mehr als isoliertes Innovationsprojekt der IT, Medizintechnik oder einer einzelnen Fachabteilung organisieren.

AI Act und MDR: Zwei Logiken, ein Einführungsproblem

Der EU AI Act und die Medical Device Regulation, kurz MDR, verfolgen unterschiedliche Schwerpunkte. Die MDR fokussiert auf Sicherheit, Leistungsfähigkeit und Konformitätsbewertung von Medizinprodukten. Der AI Act adressiert darüber hinaus Risiken algorithmischer Systeme, etwa Anforderungen an Risikomanagement, menschliche Aufsicht, Transparenz, Daten-Governance und Protokollierung.

In der Praxis entsteht daraus kein sauber getrenntes Nebeneinander, sondern ein Umsetzungsproblem für Gesundheitseinrichtungen. Denn ein KI-gestützter Roboter wird nicht dadurch beherrschbar, dass man sein CE-Kennzeichen prüft und den Rest dem Hersteller überlässt. Krankenhäuser und andere Einrichtungen übernehmen als Betreiber oder – in der Sprache des AI Act – teilweise als Deployers eigene Verantwortung. Sie müssen also nicht nur beschaffen, sondern Einsatzbedingungen schaffen, Risiken überwachen und sicherstellen, dass das System im realen Versorgungskontext sachgerecht verwendet wird.

Gerade das ist für Pflegemanagement und Pflegeinformatik entscheidend. Denn der reale Versorgungskontext besteht nicht aus abstrakten Use Cases, sondern aus Schichtwechseln, Zeitdruck, unvollständigen Informationen, Priorisierung unter Unsicherheit und interprofessioneller Abstimmung. Ob ein robotisches System sicher und sinnvoll funktioniert, entscheidet sich deshalb nicht allein in der Produktdokumentation, sondern im Zusammenspiel mit den pflegerischen Prozessen.

Die unbequeme Wahrheit: Pflege ist nicht nur betroffen, sondern mitverantwortlich

Pflegefachkräfte werden in Technologieprojekten noch immer zu oft als spätere Anwender:innen adressiert. Bei Robotik ist diese Sicht nicht nur fachlich falsch, sondern riskant. Denn viele Governance-Fragen lassen sich ohne pflegefachliche Perspektive gar nicht sinnvoll beantworten: Wann ist menschliche Aufsicht tatsächlich möglich? Welche Warnhinweise sind im Arbeitsprozess überhaupt wahrnehmbar? Welche Informationen müssen dokumentiert werden, ohne zusätzlichen Digital Ballast zu erzeugen? Und an welcher Stelle kippt Assistenz in Störung?

Wenn ein System etwa Transport-, Mobilisations-, Überwachungs- oder Interaktionsfunktionen übernimmt oder vorbereitet, verändert das die Arbeitsteilung im Team. Es entstehen neue Prozessschritte, neue Verantwortungsübergänge und neue Informationsbedarfe. Pflegeinformatik muss genau dort ansetzen: nicht bei der Technologie als Objekt, sondern bei den veränderten Informations- und Arbeitsflüssen.

Was aus pflegeinformatischer Sicht wirklich geklärt werden muss

Robotik erzeugt nicht nur Wirkung, sondern auch Daten. Oft sind es deutlich mehr Daten, als in der Projektplanung sichtbar wird: Nutzungsprotokolle, Ereignis-Logs, Sensordaten, Interaktionsdaten, Alarme, Override-Entscheidungen, Fehlersituationen und Wartungsinformationen. Aus Governance-Sicht sind diese Daten notwendig, etwa für Nachvollziehbarkeit, Sicherheit, Qualitätssicherung oder Haftung. Aus Sicht der Versorgung können sie aber schnell zur Belastung werden, wenn unklar ist, wer was wann sehen, bewerten oder dokumentieren muss.

Genau hier wird Interoperabilität zum Schlüsselthema. Wenn robotische Systeme als zusätzliche Insellösungen eingeführt werden, entstehen Medienbrüche: relevante Ereignisse landen nicht in der Pflegedokumentation, Alarme laufen über separate Oberflächen, Vorfälle müssen doppelt dokumentiert werden und Auswertungen bleiben technisch möglich, aber organisatorisch folgenlos. Das ist der Moment, in dem Digitalisierung nicht entlastet, sondern zusätzliche Reibung erzeugt.

Pflegeinformatik sollte deshalb bei Robotikprojekten mindestens fünf Fragen früh stellen:

  • Welche pflegerischen Prozesse verändert das System konkret?
  • Welche neuen Daten entstehen und welchen klinischen oder pflegerischen Zweck erfüllen sie?
  • Wie werden diese Daten interoperabel in bestehende Informationssysteme integriert?
  • Welche menschliche Aufsicht ist realistisch und wie wird sie organisatorisch abgesichert?
  • Wie messen wir Nutzen, Risiken und zusätzlichen Dokumentationsaufwand im laufenden Betrieb?

Das sind keine Detailfragen für die Implementierungsphase, sondern Voraussetzungen für verantwortbare Einführung.

Haftung endet nicht beim Hersteller

Die Analyse in AI & Society weist darauf hin, dass KI-gestützte Robotik neue Haftungspfade eröffnet. Das ist deshalb brisant, weil Schäden oder Fehlfunktionen selten monokausal sind. In der Praxis treffen technische Eigenschaften, lokale Konfigurationen, Nutzungsentscheidungen, Schulungsstand, Aufsichtsversagen oder unklare Schnittstellen zwischen Mensch und System aufeinander.

Für Einrichtungen heißt das: Selbst wenn Herstellerpflichten klar geregelt sind, bleibt die Frage, ob das Krankenhaus oder die Einrichtung das System angemessen ausgewählt, eingeführt, überwacht und in die Versorgung integriert hat. Genau dort entstehen Governance-Pflichten. Wer hat Freigaben erteilt? Welche Qualifikation war erforderlich? Wie wurden Risiken bewertet? Wurden Einsatzgrenzen definiert? Existieren Verfahren für Störungen, Eskalation und Abschaltung? Wurden Entscheidungen und Abweichungen protokolliert?

Für das Pflegemanagement ist das nicht nur eine Rechtsfrage, sondern eine Führungsfrage. Denn unklare Verantwortlichkeiten werden im Alltag fast immer in die Versorgungslinie durchgereicht – und damit an die Teams, die mit den Folgen umgehen müssen.

Datenschutz und Cybersicherheit: nicht Beiwerk, sondern Betriebsbedingung

Robotik im Gesundheitswesen verarbeitet häufig hochsensible Daten und ist zugleich oft netzwerkfähig, mobil und updateabhängig. Damit verschränken sich Datenschutz und Cybersicherheit unmittelbar mit der Versorgungssicherheit. Ein System, das funktional überzeugt, aber datenschutzrechtlich oder sicherheitstechnisch instabil ist, bleibt kein Innovationsgewinn, sondern wird zum Betriebsrisiko.

Besonders kritisch ist das bei Systemen, die Audio-, Bild-, Bewegungs- oder Verhaltensdaten erfassen. Solche Daten wirken in Projektskizzen oft harmlos, weil sie technisch leicht verfügbar sind. In der Versorgung sind sie hochsensibel, kontextabhängig und erklärungsbedürftig. Pflegekräfte erleben dann nicht nur die Technologie, sondern auch die Fragen von Patient:innen, Angehörigen und Kolleg:innen: Was wird aufgezeichnet? Wer hat Zugriff? Wie lange werden Daten gespeichert? Wozu dient das alles konkret?

Wenn diese Fragen erst nach dem Pilotstart beantwortet werden, ist das Projekt meistens zu spät organisiert worden.

Wenn Häuser eigene KI-Anteile bauen, wird Governance noch anspruchsvoller

Der Beitrag in BMJ Digital Health & AI verweist auf ein Thema, das für große Einrichtungen besonders relevant wird: Krankenhäuser entwickeln oder konfigurieren KI-Komponenten zunehmend selbst. Damit verschiebt sich die Verantwortung. Wer nicht nur einkauft, sondern Modelle trainiert, anpasst oder lokal betreibt, verlässt die komfortable Rolle des reinen Anwenders.

Für Robotik kann das bedeuten, dass nicht nur das Gesamtsystem, sondern auch lokal entwickelte oder feinjustierte KI-Funktionen governancefähig gemacht werden müssen. Dann reichen klassische Beschaffungsprozesse nicht mehr aus. Benötigt werden belastbare Verfahren für Datenqualität, Modellpflege, Versionskontrolle, Validierung, Monitoring und Change Management. Pflegeinformatik wird in diesem Szenario zur Übersetzungsinstanz zwischen Versorgungspraxis, Datenarbeit, IT-Betrieb und regulatorischer Verantwortung.

Entlastung oder neuer Digital Burden?

Robotik wird fast reflexhaft mit Entlastung verbunden. Das ist verständlich, aber zu simpel. Entlastung entsteht nicht durch das Vorhandensein eines Systems, sondern dann, wenn Prozessschritte tatsächlich wegfallen, Unterbrechungen abnehmen, Informationsflüsse klarer werden oder pflegerische Zeit sinnvoller eingesetzt werden kann.

Genauso möglich ist das Gegenteil: zusätzliche Kontrollschritte, mehr Schulungsaufwand, parallele Dokumentation, neue Alarmkanäle, erhöhter Abstimmungsbedarf und Unsicherheit bei Ausnahmen. Genau deshalb lohnt hier ein Bezug zur Perspektive von Digital Nursing Outcome Assessment (DNOA). Die entscheidende Frage lautet nicht, ob Robotik eingeführt wurde, sondern welche nachweisbare Wirkung sie auf Pflegezeit, Prozessqualität, digitale Belastung und Versorgungsqualität hat.

Wer Robotik seriös bewerten will, sollte nicht nur technische Kennzahlen erfassen, sondern auch pflegerisch relevante Effekte, etwa:

  • Veränderungen von Laufwegen, Unterbrechungen und Suchzeiten
  • zusätzliche oder eingesparte Dokumentationsschritte
  • Häufigkeit von Overrides und Störungen
  • Auswirkungen auf Reaktionszeiten und Übergaben
  • subjektiv erlebte kognitive Belastung im Team

Ohne solche Outcome-Perspektive bleibt Governance formal korrekt, aber fachlich blind.

Was Häuser jetzt organisatorisch anders machen müssen

Die wahrscheinlich wichtigste Konsequenz lautet: Robotikprojekte brauchen frühzeitig interdisziplinäre Governance-Strukturen. Nicht als bürokratisches Add-on, sondern als Voraussetzung für Einführbarkeit. Dazu gehören mindestens Recht, Datenschutz, IT-Sicherheit, Medizintechnik, klinische Fachbereiche, Pflegepraxis, Pflegeinformatik und Management.

Entscheidend ist jedoch, dass diese Gremien nicht erst Risiken abhaken, wenn die Beschaffung faktisch schon entschieden ist. Gute Governance beginnt bei der Frage, welches Versorgungsproblem überhaupt gelöst werden soll. Erst danach folgen Technologieauswahl, Datenarchitektur, Rollenklärung und Evaluation.

Für Pflegeinformatik ergibt sich daraus eine klare Aufgabe: Sie muss Robotik nicht nur technisch begleiten, sondern fachlich rahmen. Das heißt, pflegerische Anforderungen in strukturierte Informationsmodelle zu übersetzen, Prozessfolgen sichtbar zu machen, Interoperabilität einzufordern und belastbare Evaluationskriterien zu definieren. Genau an dieser Stelle entscheidet sich, ob Robotik in die Versorgung integriert wird oder nur in PowerPoint funktioniert.

Die eigentliche Innovation ist nicht der Roboter, sondern die Fähigkeit zur verantwortbaren Einführung

Die nächsten Jahre werden nicht dadurch geprägt sein, dass immer mehr Robotik verfügbar wird. Sie werden dadurch geprägt sein, welche Einrichtungen in der Lage sind, diese Systeme verantwortbar, interoperabel und pflegeprozessgerecht einzuführen. Das ist weniger glamourös als die Technikdemo, aber strategisch viel wichtiger.

Denn ein Roboter, der regulatorisch sauber ist, aber den Arbeitsprozess verschlechtert, ist kein Fortschritt. Und ein System, das theoretisch entlasten könnte, aber an unklaren Rollen, fehlender Integration oder unsauberer Aufsicht scheitert, zeigt vor allem eines: Nicht die Technologie war zu früh, sondern die Governance zu schwach.

Diskussionsfrage an die Community: Wer sollte in Ihrer Einrichtung die fachliche Führungsrolle übernehmen, wenn KI-gestützte Robotik in patientennahe Prozesse eingeführt wird – IT, Medizintechnik, ärztliche Leitung, Pflegemanagement oder ein echtes interdisziplinäres Governance-Team?

Dieser Text wurde mit Unterstützung von KI erstellt.

EU AI Act, MDR, Haftung, Datenschutz, Cybersicherheit, Robotik, Governance, Pflegeinformatik, Krankenhaus-IT, Pflegemanagement

Kommentare

Noch keine Kommentare.