Rechtssichere Ambulantisierung: KI-Einsatz, Datenschutz und Haftung im Gesundheitswesen

In der Umsetzung sehen sich Einrichtungen jedoch erheblichen datenschutzrechtlichen, technischen und regulatorischen Herausforderungen gegenüber. Krankenhäuser, IT-Verantwortliche und Praxisinhaber*innen sollten diese Anforderungen kennen und proaktiv adressieren.

1. Datenschutz und ärztliche Schweigepflicht

Telemedizinische, Fernbehandlungs- und Monitoringsysteme erfordern die Verarbeitung personenbezogener Daten der beteiligten Patienten. Jede Verarbeitung personenbezogener Daten setzt eine Rechtsgrundlage voraus. Im Behandlungskontext bildet Art. 9 Abs. 2 lit. h DSGVO die zentrale Grundlage: Danach ist die Verarbeitung besonderer Kategorien personenbezogener Daten zulässig, wenn sie für Zwecke der medizinischen Versorgung durch Angehörige eines Gesundheitsberufs erforderlich ist. Erfasst werden hiervon alle Datenverarbeitungen, die im Zusammenhang mit Versorgung, Behandlung, Nachsorge sowie den damit einhergehenden Dokumentations- und Organisationspflichten stehen. Dies schließt auch den Einsatz KI-basierter Anwendungen ein, soweit dieser zur Erfüllung des Behandlungsvertrags erforderlich ist. Angesichts der zunehmenden Komplexität medizinischer Prozesse und der Fehleranfälligkeit manueller Verfahren ist diese Erforderlichkeit in der Praxis regelmäßig zu bejahen. KI-gestützte Systeme lassen sich insoweit als qualitätssichernder und effizienzsteigernder Bestandteil der Versorgung einordnen.

Sofern Einrichtungen mit Cloud-Anbietern zusammenarbeiten, ist § 393 V SGB V zu beachten. Für diese Anwendungsfälle ist bei der Verarbeitung von Sozial- und Gesundheitsdaten ein aktuelles C5-Testat der datenverarbeitenden Stelle vorzulegen. Dieses muss sich auf die Cloud-Systeme und die eingesetzte Technik beziehen, die im Rahmen des jeweiligen Cloud-Dienstes verwendet werden. Aufgrund des Wortlauts des Gesetzes, das nicht ausdrücklich zwischen Verantwortlichen und Auftragsverarbeitern unterscheidet, sondern allgemein auf eine datenverarbeitende Stelle abstellt, ist derzeit umstritten, ob Leistungserbringer (Ärzte/Krankenhäuser) ein eigenes C5-Testat benötigen oder auf das C5-Testat ihres Cloud-Anbieters verweisen können. Nach Sinn und Zweck der Regelung han-delt es sich unseres Erachtens bei der datenverarbeitenden Stelle um den Cloud-Anbieter, sodass dessen C5-Testat zur Erfüllung der gesetzlichen Anforderungen ausreicht. Diese Ansicht ist jedoch nicht unumstritten. Die weitere fachliche Diskussion sollte daher aufmerksam verfolgt werden.

Im ambulanten und HITH-Kontext ist darüber hinaus zu berücksichtigen, dass dezentrale Datenverarbeitungsarchitekturen (z. B. bei der Nutzung von Wearables oder mobilen Monitoring-Lösungen) die Durchführung einer Datenschutz-Folgenabschätzung (DSFA) nach Art. 35 DSGVO erforderlich machen können. Dies gilt insbesondere dann, wenn besonders sensible Gesundheitsdaten in erheblichem Umfang und über potenziell unsichere Übertragungswege verarbeitet werden.

Im Rahmen des Einsatzes KI-basierter Tools durch Ärzte werden außerdem Daten verarbeitet, die gemäß § 203 StGB dem Berufsgeheimnis unterliegen. Sämtliche Auftragnehmer sowie Unterauftragnehmer sind schriftlich dazu zu verpflichten, über alle berufsbezogenen Geheimnisse Stillschweigen zu bewahren und Zugang zu diesen Daten ausschließlich im Umfang ihrer jeweiligen Aufgaben zu erhalten. Es ist ausdrücklich auf die Strafbarkeit einer unbefugten Offenlegung gemäß § 203 Abs. 4 S. 1 StGB hinzuweisen.

2. MDR und KI-Verordnung: Doppelte Regulierung

Werden digitale Anwendungen als KI-basierte Medizinprodukte eingestuft, unterliegen sie einem doppelten Regulierungsrahmen: Einerseits gelten die Vorgaben der Medizinprodukteverordnung (MDR), die Anforderungen an Entwicklung, Herstellung und Inverkehrbringen festlegt, andererseits die Vorgaben der KI-Verordnung (KI-VO), die weitergehende Pflichten in Bezug auf Transparenz, Dokumentation, Datenqualität, Governance und menschliche Aufsicht normiert.

Zunächst ist die Klassifizierung nach MDR entscheidend für die regulatorische Einordnung. Nach der aktuellen Interpretation führt das Klassifizierungsschema der MDR (Regel 11) dazu, dass fast jede Software mit medizinischem Zweck mindestens in Klasse IIa eingestuft wird. Dadurch gilt sie automatisch als Hochrisiko-KI-System. In der Folge muss sowohl ein MDR-Konformitätsbewertungsverfahren als auch ein zusätzliches KI-spezifisches Konformitätsbewertungsverfahren durch eine benannte Stelle durchgeführt werden.

In der Praxis erfordert die gleichzeitige Einhaltung der Vorgaben aus MDR und KI-VO für Krankenhäuser oder Arztpraxen als Betreiber einen erheblichen organisatorischen sowie administrativen Aufwand. So ist es notwendig, Konformitätsbewertungsverfahren aufeinander abzustimmen, Qualitätsmanagementsysteme (QMS) an beide Regelwerke anzupassen und technische Dokumentationen parallel zu erstellen und fortlaufend zu pflegen.

Aktuell arbeitet der europäische Gesetzgeber an einer grundlegenden Überarbeitung des regulatorischen Rahmens. Eine Anpassung der Klassifizierungsregeln des Anhangs VIII MDR ist geplant, wobei insbesondere Regel 11 im Mittelpunkt steht und dazu führen würde, dass KI-basierte Medizinprodukte nur noch in spezifisch definierten Fällen unter die KI-Verordnung fallen sollen (siehe dazu den weiteren Beitrag in diesem Newsletter: „Kommissionsvorschlag zur Reform der Risikoklassifizierung von Medizinprodukten – Neue Spielregeln für Software“). Die vorgesehenen Reformen zielen darauf ab, Hersteller und Betreiber von KI-gestützten Medizinprodukten signifikant zu entlasten und sowohl den Marktzugang als auch die Integration dieser Produkte in die medizinische Versorgung nachhaltig zu erleichtern.

Für Gesundheitseinrichtungen empfiehlt es sich daher, die gesetzlichen Entwicklungen kontinuierlich zu verfolgen, bestehende Compliance-Strukturen frühzeitig zu evaluieren und sich entsprechend zukunftsorientiert im zunehmend ambulant geprägten Gesundheitssystem zu positionieren.

3. Cybersicherheit: Besondere Risiken im ambulanten und HITH-Kontext

Weisen KI-basierte Medizinprodukte Sicherheitslücken auf, kann dies die Sicherheit der Patient*innen unmittelbar gefährden. Hersteller*innen trifft die Pflicht, ihre Produkte gegen Cyberangriffe zu schützen und regelmäßig Sicherheitsupdates zur Verfügung zu stellen. Mangelnde Cybersicherheit ist als Produktfehler zu qualifizieren und kann eine Haftung der Hersteller*innen auslösen. Entsprechendes gilt aufseiten der Krankenhäuser: Unterbleibt die rechtzeitige Installation bereitgestellter Hersteller-Updates, kann dies ein eigenes Organisationsverschulden der Einrichtung begründen.

Gerade im ambulanten und HITH-Kontext ist das Cybersicherheitsrisiko erhöht, da Daten über dezentrale, häufig weniger geschützte Netzwerke übertragen werden. Einrichtungen ist daher zu empfehlen, bereits im Rahmen der Beschaffung vertragliche Vereinbarungen mit Hersteller*innen und Dienstleistern zu treffen, die insbesondere Update-Verpflichtungen, Reaktionsfristen bei Sicherheitsvorfällen sowie die Verteilung der Haftungsverantwortung regeln.

4. Handlungsempfehlungen für Krankenhäuser und Praxen

Die nachfolgenden Schritte helfen Gesundheitseinrichtungen, die regulatorischen Anforderungen strukturiert umzusetzen und Haftungsrisiken zu minimieren:

1. Bestandsaufnahme: Inventarisieren Sie alle eingesetzten KI-basierten digitalen Systeme und prüfen Sie deren Klassifizierung nach MDR und KI-VO.
2. Rollenklärung: Klären Sie vertraglich, wer Hersteller und wer Betreiber im Sinne von MDR und KI-VO ist – und welche Pflichten daraus jeweils folgen.
3. Compliance-Struktur: Etablieren Sie ein duales QMS, das sowohl MDR- als auch KI-VO-Anforderungen abdeckt.
4. Auswahl eines C5-testierten Cloud-Anbieters: Prüfen Sie regelmäßig Ihre Verträge mit den Cloud-Anbietern und führen Sie mindestens einmal pro Jahr eine Auditierung durch.
5. Schulungen und Governance: Stellen Sie sicher, dass klinisches und technisches Personal im Umgang mit KI-Systemen regelmäßig geschult wird und die menschliche Aufsicht jederzeit gewährleistet ist.
6. Cybersicherheit vertraglich verankern: Vereinbaren Sie mit Herstellern konkrete Update-Pflichten und Reaktionszeiten sowie klare Regelungen zur Haftungsverteilung im Falle von Sicherheitsvorfällen.
7. Entwicklungen beobachten: Verfolgen Sie die laufenden Reformen zu Regel 11 MDR und zum Verhältnis von KI-VO und Medizinprodukterecht, um Ihren Compliance-Rahmen frühzeitig anzupassen.
8. Datenschutz-Folgenabschätzung: Bei der Implementierung von KI-basierten Lösungen ist eine Datenschutz-Folgenabschätzung (DSFA) durchzuführen und kontinuierlich zu aktualisieren.

Forvis Mazars unterstützt Sie

Das interdisziplinäre Digital Health-Team von Forvis Mazars begleitet Krankenhäuser, Arztpraxen und MVZ bei der rechtssicheren Umsetzung der regulatorischen Anforderungen rund um Ambulantisierung, KI und Datenschutz. Wir unterstützen Sie – sprechen Sie uns gerne an.

Autorinnen: Charlotte Husemann, Argyro Tsapakidou, Jana Sachse