Startseite › Rechtsgebiete › KI im Gesundheitswesen
KI-Verordnung · MDR · DSGVO · Haftung
KI im Gesundheitswesen: MDR, KI-Verordnung, Daten und Haftung
Ob Bildauswertung in der Radiologie, Sepsis-Frühwarnung auf der Intensivstation oder ein Sprachmodell, das Arztbriefe entwirft: Für KI im Gesundheitswesen gelten Medizinprodukterecht, KI-Verordnung, Datenschutz, Berufsrecht und Haftungsrecht nebeneinander. Wir zeigen Herstellern, Kliniken und Praxen, welche Regeln für ihre Anwendung gelten und wie sie die Pflichten in einen Ablauf bringen.
Ist meine KI ein Medizinprodukt?
Die erste Frage ist immer die nach der Zweckbestimmung. Software, die Daten einzelner Patienten auswertet, um eine Diagnose zu stellen, eine Therapie vorzuschlagen oder einen Krankheitsverlauf vorherzusagen, ist ein Medizinprodukt nach Art. 2 Nr. 1 MDR. Das gilt unabhängig davon, ob sie allein läuft oder in ein Gerät eingebaut ist. Software für Terminplanung, Abrechnung oder reine Dokumentation ist es in der Regel nicht.
Für Software gilt die Klassifizierungsregel 11 Anhang VIII MDR. Sie stuft Software, die Informationen für diagnostische oder therapeutische Entscheidungen liefert, mindestens in Klasse IIa ein. Kann eine Fehlentscheidung zu einer schweren Verschlechterung des Gesundheitszustands führen, gilt Klasse IIb, bei möglichem Tod oder irreversibler Schädigung Klasse III. Damit braucht fast jede diagnostische KI eine Benannte Stelle.
Praxistipp: Die Zweckbestimmung steuert alles Weitere. Formulierungen in Marketing, App-Store-Text und Gebrauchsanweisung müssen dazu passen. Wer eine „Wellness-App“ anbietet, aber mit Krankheitserkennung wirbt, setzt sich behördlichen Maßnahmen und Abmahnungen aus.
KI-Verordnung: was für Gesundheits-KI gilt
Die KI-Verordnung, VO (EU) 2024/1689, ordnet KI-Systeme nach Risiko. KI, die selbst Medizinprodukt ist oder Sicherheitsbauteil eines Medizinprodukts, ist nach Art. 6 Abs. 1 Hochrisiko-KI, wenn das Produkt eine Konformitätsbewertung durch eine Benannte Stelle braucht. Das betrifft praktisch jede Software ab Klasse IIa. Daneben nennt Anhang III weitere Hochrisiko-Bereiche, etwa KI zur Triage von Notrufen oder zur Prüfung des Anspruchs auf öffentliche Gesundheitsleistungen.
Mit der VO (EU) 2026/1744 („Digital Omnibus“), in Kraft seit dem 27.07.2026, wurden die Fristen verschoben. Die Pflichten für Hochrisiko-KI nach Anhang III gelten ab dem 02.12.2027, für KI in Produkten nach Anhang I, also auch in Medizinprodukten, ab dem 02.08.2028. Medizinprodukte bleiben in Abschnitt A des Anhangs I und damit voll erfasst. Die Kommission kann einzelne Anforderungen einschränken, soweit die MDR gleichwertigen Schutz bietet. Einzelheiten und eine Fristentabelle finden Sie auf der Seite KI-Verordnung und Medizin.
KI-Kompetenz (Art. 4)
Seit 02.02.2025 müssen Anbieter und Betreiber Maßnahmen ergreifen, damit ihr Personal KI sachkundig einsetzt. Nach der Änderung 2026 genügen angemessene Maßnahmen, ein bestimmtes Niveau je Person ist nicht mehr geschuldet.
Verbotene Praktiken (Art. 5)
Seit 02.02.2025 verboten, etwa Emotionserkennung am Arbeitsplatz. Ausgenommen sind medizinische und Sicherheitsgründe.
Transparenz (Art. 50)
Seit 02.08.2026: Menschen müssen erkennen können, dass sie mit einer KI sprechen. Künstlich erzeugte Inhalte sind maschinenlesbar zu kennzeichnen.
Hochrisiko-Pflichten
Risikomanagement, Datenqualität, Protokollierung, menschliche Aufsicht, Genauigkeit und Cybersicherheit; für Medizinprodukte ab 02.08.2028.
Pflichtenmatrix: Anbieter und Betreiber
Die KI-Verordnung verteilt Pflichten nach Rollen. Anbieter ist, wer ein KI-System entwickelt und unter eigenem Namen in Verkehr bringt, beim Medizinprodukt also regelmäßig der Hersteller. Betreiber ist, wer das System in eigener Verantwortung beruflich nutzt, etwa die Klinik oder Praxis. Die Übersicht zeigt die wichtigsten Pflichten für Gesundheits-KI.
| Pflicht | Anbieter (Hersteller) | Betreiber (Klinik, Praxis) | Gilt |
|---|---|---|---|
| KI-Kompetenz (Art. 4) | Ja | Ja | seit 02.02.2025 |
| Transparenz (Art. 50) | System so gestalten, dass Nutzer erkennen, dass sie mit KI interagieren; generierte Inhalte maschinenlesbar kennzeichnen | Kennzeichnung bei Deepfakes und bestimmten veröffentlichten Texten | seit 02.08.2026 |
| Konformitätsbewertung, Qualitätsmanagement, technische Dokumentation | Ja, gemeinsam mit dem MDR-Verfahren | Nein | ab 02.08.2028 (KI in Medizinprodukten) |
| Menschliche Aufsicht | Ermöglichen und beschreiben (Art. 14) | Sicherstellen durch geschultes Personal (Art. 26) | ab 02.08.2028 |
| Protokolle | Automatische Protokollierung, Aufbewahrung (Art. 12, 19) | Aufbewahrung mindestens sechs Monate (Art. 26 Abs. 6) | ab 02.08.2028 |
| Vorfälle | Meldung schwerwiegender Vorfälle (Art. 73) | Information an Anbieter und Behörde, Nutzung aussetzen | ab 02.08.2028 |
| MDR-Pflichten | Zertifizierung, Vigilanz, Marktbeobachtung | Betreiberpflichten nach MPBetreibV | gelten bereits |
Wer ein KI-System unter eigenem Namen anbietet, seine Zweckbestimmung ändert oder es wesentlich verändert, wird vom Betreiber zum Anbieter (Art. 25 KI-VO). Das kann auch eine Klinik treffen, die ein Modell nachtrainiert.
Generative KI und Sprachmodelle in Praxis und Klinik
Viele Kliniken und Praxen setzen inzwischen Sprachmodelle ein, etwa zum Entwurf von Arztbriefen, zur Zusammenfassung von Befunden oder für Patientenanfragen. Rechtlich ist zu unterscheiden: Ein allgemeines Sprachmodell ohne medizinische Zweckbestimmung ist kein Medizinprodukt. Wird es aber vom Hersteller oder vom Betreiber gezielt zur Diagnose- oder Therapieunterstützung eingesetzt, kann die Einrichtung selbst zum Hersteller werden, mit allen Pflichten aus der MDR.
Für einen Chatbot mit Patientenkontakt gilt Art. 50 KI-VO: Patienten müssen erkennen, dass sie mit einer Maschine kommunizieren. Datenschutzrechtlich ist zu klären, ob Patientendaten den Anbieter erreichen, ob er sie für eigenes Training nutzt und ob Übermittlungen in Drittstaaten stattfinden. Für Ärzte kommt die Schweigepflicht nach § 203 StGB hinzu. Die Einbindung externer Dienstleister ist nur zulässig, soweit sie für die Tätigkeit erforderlich ist und der Dienstleister zur Verschwiegenheit verpflichtet wurde.
- Interne Richtlinie: welche Tools, für welche Zwecke, mit welchen Daten
- Auftragsverarbeitungsvertrag und Ausschluss der Trainingsnutzung
- Verpflichtung des Anbieters nach § 203 Abs. 4 StGB
- Ärztliche Prüfung jedes Ergebnisses vor Verwendung, dokumentiert
- Schulung nach Art. 4 KI-VO und Ansprechperson im Haus
Checkliste für Kliniken: generative KI einführen
Generative KI wird in vielen Häusern bereits genutzt, oft ohne Freigabe. Eine geordnete Einführung schützt Patienten und Beschäftigte und schafft die Nachweise, die Aufsicht, Versicherer und Gerichte später verlangen.
- Bestandsaufnahme: welche KI-Werkzeuge werden heute schon genutzt, auch privat beschaffte
- Zulässige Einsatzzwecke festlegen und Diagnose- oder Therapieunterstützung ausdrücklich gesondert bewerten
- Prüfen, ob durch den konkreten Einsatz ein Medizinprodukt entsteht und die Klinik zum Hersteller wird
- Auftragsverarbeitungsvertrag, Verpflichtung nach § 203 Abs. 4 StGB und Ausschluss der Trainingsnutzung vereinbaren
- Drittlandübermittlung und Speicherort klären, Datenschutz-Folgenabschätzung durchführen
- Betriebsrat beteiligen, wenn das System Verhalten oder Leistung von Beschäftigten erfassen kann
- Schulung nach Art. 4 KI-VO durchführen und dokumentieren
- Ärztliche Endkontrolle jedes Ergebnisses vorschreiben und in der Dokumentation sichtbar machen
- Kennzeichnung gegenüber Patienten regeln, wenn ein Chatbot mit ihnen kommuniziert
- Ansprechperson und Meldeweg für Fehler und Auffälligkeiten benennen
Vertretbar mit Vorkehrungen
- Entwurf von Arztbriefen mit ärztlicher Endkontrolle in einer datenschutzkonform eingebundenen Umgebung
- Übersetzung von Patienteninformationen mit fachlicher Prüfung
- Zusammenfassung von Leitlinien und Fachliteratur ohne Patientendaten
- Chatbot für Terminfragen mit klarem Hinweis auf die KI
Nicht vertretbar
- Identifizierbare Patientendaten in frei zugängliche Chat-Dienste eingeben
- Therapieempfehlungen eines Sprachmodells ungeprüft übernehmen
- Patientenkommunikation durch einen Chatbot ohne Hinweis, dass es sich um KI handelt
- Einen Anbieter nutzen, der Eingaben für das Training eigener Modelle verwendet
Gesundheitsdaten und KI
Gesundheitsdaten sind besondere Kategorien personenbezogener Daten nach Art. 9 DSGVO. Ihre Verarbeitung ist nur mit einer Ausnahme nach Art. 9 Abs. 2 zulässig, etwa zur Behandlung (lit. h), zu Forschungszwecken (lit. j in Verbindung mit § 27 BDSG) oder mit ausdrücklicher Einwilligung. Für das Training von KI-Modellen genügt der Behandlungsvertrag nicht. Hier braucht es eine eigene Grundlage, häufig über Forschungsklauseln, das Gesundheitsdatennutzungsgesetz oder künftig den Europäischen Gesundheitsdatenraum (EHDS).
Art. 22 DSGVO verbietet Entscheidungen, die ausschließlich automatisiert getroffen werden und Betroffene erheblich beeinträchtigen. In der Medizin bleibt deshalb ein Arzt verantwortlich, der die KI-Empfehlung prüft. Die KI-Verordnung erlaubt seit 2026 in Art. 4a die Verarbeitung sensibler Daten zur Erkennung und Korrektur von Verzerrungen (Bias) unter engen Voraussetzungen. Mehr auf der Seite Gesundheitsdatenschutz, ePA & EHDS.
Berufsrecht: Die Verantwortung bleibt beim Arzt
Ärzte dürfen KI zur Unterstützung einsetzen. Die Berufsordnungen verlangen aber eine gewissenhafte Berufsausübung nach dem anerkannten Stand der Medizin. Wer eine KI-Empfehlung übernimmt, muss sie fachlich nachvollziehen und plausibilisieren können. Blindes Vertrauen in ein System ist ebenso ein Sorgfaltsverstoß wie das Ignorieren eines etablierten Hilfsmittels, das zum Standard geworden ist.
Ob Patienten über den KI-Einsatz aufzuklären sind, ist noch nicht abschließend geklärt. Wir empfehlen Aufklärung jedenfalls dann, wenn die KI die Behandlungsentscheidung wesentlich prägt oder ein neues, wenig erprobtes Verfahren betrifft (§ 630e BGB). Für die Abrechnung gibt es bislang nur wenige eigene Gebührenpositionen. Der Einsatz von KI allein begründet keine zusätzliche Vergütung.
Haftung beim Einsatz von KI
Das neue Produkthaftungsgesetz gilt für Produkte, die ab dem 09.12.2026 in Verkehr gebracht werden. Es erfasst Software einschließlich KI-Systemen ausdrücklich, kennt eine Haftung für fehlende Sicherheitsupdates und erleichtert Geschädigten den Nachweis durch Offenlegungspflichten und Vermutungen. Die geplante europäische KI-Haftungsrichtlinie hat die Kommission 2025 zurückgezogen. Für Ärzte und Kliniken bleibt es bei der Vertrags- und Deliktshaftung nach §§ 630a ff. BGB. Details auf der Seite Haftung für medizinische KI.
- EinordnenZweckbestimmung, MDR-Klasse und Rolle nach KI-Verordnung (Anbieter oder Betreiber) klären.
- Daten klärenRechtsgrundlage für Behandlung, Training und Weiterentwicklung festlegen, Datenschutz-Folgenabschätzung.
- KonformitätTechnische Dokumentation für MDR und KI-VO gemeinsam aufbauen, Benannte Stelle einbinden.
- EinführenVerträge, Schulung, interne Richtlinien und menschliche Aufsicht im Betrieb regeln.
- ÜberwachenLeistung im Betrieb beobachten, Vorkommnisse melden, Änderungen am Modell bewerten.
So begleiten wir KI-Projekte
KI-Projekte berühren Medizinprodukterecht, Datenschutz, Arbeitsrecht und Haftung zugleich. Wir bringen diese Themen in einen gemeinsamen Fahrplan und stimmen ihn mit Datenschutzbeauftragten, IT-Sicherheit, Medizintechnik und ärztlicher Leitung ab.
Für Hersteller verbinden wir die regulatorische Planung mit dem Schutz der Entwicklung durch unsere Patentanwälte.
- VO (EU) 2017/745 (MDR)
- VO (EU) 2024/1689 (KI-VO)
- VO (EU) 2026/1744
- DSGVO
- BDSG
- GDNG
- VO (EU) 2025/327 (EHDS)
- RL (EU) 2024/2853
- ProdHaftG
- § 203 StGB
- §§ 630a ff. BGB
Praxisbeispiele aus unserer Beratung
Typische Fallkonstellationen aus unserer Beratung, anonymisiert und vereinfacht.
Bildanalyse-Software in der Dermatologie
Ein Start-up entwickelt eine KI, die Hautveränderungen auf Fotos bewertet und das Melanomrisiko einschätzt. Die Gründer wollten zunächst als Wellness-App starten.
Unser Vorgehen: Einordnung als Medizinprodukt nach Regel 11, Festlegung einer belastbaren Zweckbestimmung, Plan für eine gemeinsame Dokumentation nach MDR und KI-Verordnung und Vorbereitung der Gespräche mit der Benannten Stelle.
Sprachmodell für Arztbriefe im Klinikverbund
Ein Klinikverbund will ein Sprachmodell eines US-Anbieters für die Erstellung von Entlassbriefen nutzen. Datenschutzbeauftragte und Betriebsrat hatten Bedenken.
Unser Vorgehen: Prüfung von Rechtsgrundlage, Drittlandübermittlung und Schweigepflicht, Verhandlung von Auftragsverarbeitung und Trainingsausschluss, Dienstanweisung mit Prüfpflicht durch Ärzte und Schulungskonzept nach Art. 4 KI-VO.
Praxis mit KI-gestützter EKG-Auswertung
Eine kardiologische Praxis setzt ein zertifiziertes KI-Tool zur EKG-Auswertung ein und fragte, was bei einer Fehldiagnose gilt.
Unser Vorgehen: Darstellung der Haftungsverteilung zwischen Arzt und Hersteller, Anpassung von Aufklärung und Dokumentation, Prüfung der Berufshaftpflichtversicherung und des Vertrags mit dem Softwareanbieter.
Krankenkasse mit KI-gestützter Antragsprüfung
Eine Krankenkasse wollte Anträge auf Hilfsmittel durch eine KI vorsortieren lassen, die Ablehnungsempfehlungen ausgibt.
Unser Vorgehen: Wir haben das System als Hochrisiko-KI nach Anhang III (Anspruch auf öffentliche Leistungen) mit Geltung ab 02.12.2027 eingeordnet, die Grundrechte-Folgenabschätzung nach Art. 27 KI-VO vorbereitet und geprüft, wie die Grenzen automatisierter Entscheidungen nach Art. 22 DSGVO und im Sozialdatenschutz eingehalten werden.
Häufige Fragen
Gilt die KI-Verordnung schon für Medizinprodukte?
Teilweise. KI-Kompetenz und Verbote gelten seit Februar 2025, die Transparenzpflichten seit August 2026. Die Hochrisiko-Anforderungen für KI in Medizinprodukten gelten ab dem 02.08.2028.
Darf ich ChatGPT oder ähnliche Dienste mit Patientendaten nutzen?
Nur mit Rechtsgrundlage, Auftragsverarbeitungsvertrag, Klärung der Drittlandübermittlung und Verpflichtung des Anbieters zur Verschwiegenheit. Ohne diese Voraussetzungen sollten keine identifizierbaren Patientendaten eingegeben werden.
Wer haftet, wenn die KI falsch liegt?
Gegenüber dem Patienten haftet zunächst der behandelnde Arzt oder die Klinik, wenn der Fehler bei sorgfältiger Prüfung erkennbar war. Daneben kommt eine Produkthaftung des Herstellers in Betracht, für neue Produkte ab Dezember 2026 nach dem neuen Produkthaftungsgesetz.
Was verlangt die KI-Kompetenzpflicht konkret?
Anbieter und Betreiber müssen Maßnahmen ergreifen, damit ihr Personal die eingesetzten Systeme mit ihren Grenzen versteht. Eine Zertifizierung ist nicht vorgeschrieben. Dokumentierte Schulungen und interne Regeln sind der praktikable Nachweis.
Verwandte Rechtsgebiete
Sie haben eine konkrete Frage?
Schildern Sie uns kurz Ihr Anliegen. Wir melden uns in der Regel innerhalb eines Werktags und sagen Ihnen offen, wie wir die Lage einschätzen und was eine Beratung kostet.