TITEL | 33 bar ist. Anbieter und Betreiber müssen Maßnahmen ergreifen, die eine ausreichende KI-Kompetenz ihres Personals unterstützen. Praktisch heißt das: Wer Mitarbeitern KI-Werkzeuge freigibt, sollte ihnen den zulässigen Einsatz, die Grenzen der Systeme und die internen Kontrollpflichten erklären (lassen) und diese Einweisung dokumentieren. Dass der Gesetzgeber im Juli 2026 zugleich zahlreiche Pflichten für Hochrisiko-KI nach hinten verschoben hat, bedeutet kein regulatorisches Vakuum: Datenschutz, Berufsgeheimnis, Medizinprodukte-, Haftungs-, Urheber- und Werberecht gelten schon jetzt. Was darf in den Prompt? Gesundheitsdaten gehören nach Art. 9 der Datenschutz-Grundverordnung (DSGVO) zu den besonders geschützten Datenkategorien. Wer einen Patientenfall in ein Sprachmodell eingibt, verarbeitet also regelmäßig sensible Daten – und die Rechtsgrundlage für die Verarbeitung der Gesundheitsdaten im Behandlungskontext deckt nicht automatisch die Übermittlung an einen externen KI-Anbieter. Verarbeitet der Anbieter Patientendaten im Auftrag der Praxis, müssen die Voraussetzungen der Auftragsverarbeitung nach Art. 28 DSGVO erfüllt sein; verfolgt er (auch) eigene Zwecke, kann er je nach Ausgestaltung eigenständig oder gemeinsam mit der Praxis (das kann dann einen Vertrag über gemeinsame Verantwortung nach Art. 26 DSGVO erforderlich machen) verantwortlich sein. Die Zusage, Eingaben nicht zum Training zu nutzen, ist wichtig, reicht aber nicht. Zu prüfen sind auch die Verarbeitungszwecke, Unterauftragsverarbeiter, Speicher- und Löschfristen, technische und organisatorische Maßnahmen sowie Drittlandübermittlungen. Zudem unterscheiden sich private Nutzerkonten und Unternehmensangebote erheblich: Ob und in welchem Umfang Eingaben zu Trainings- oder anderen eigenen Zwecken des KI-Anbieters genutzt werden, hängt vom konkreten Angebot, vom Vertrag und von den gewählten Einstellungen ab. In persönlichen ChatGPT-Workspaces etwa kann das Modelltraining standardmäßig aktiviert sein, bei ChatGPT Business und Enterprise ist es nach Angaben von OpenAI standardmäßig deaktiviert. Das allein macht einen Workspace aber noch nicht für Patientendaten geeignet. Häufig überschätzt wird die Anonymisierung. Denn das Entfernen des Namens genügt dafür gerade nicht, wenn etwa Alter, seltene Diagnose, Behandlungszeitpunkt, Beruf oder Wohnort zusammen Rückschlüsse auf den Patienten zulassen. Solche Daten bleiben personenbezogen. Für Formulierungshilfen sollte daher mit abstrakten oder vollständig anonymisierten Sachverhalten gearbeitet werden. Auch eine Einwilligung ist kein universeller Rettungsanker, da sie informiert, freiwillig, konkret und widerruflich sein muss und nicht zur faktischen Voraussetzung der Versorgung gemacht werden darf. Für dauerhafte Standardprozesse ist ein sorgfältig ausgewähltes und konfiguriertes System innerhalb einer sauberen Auftragsverarbeitung regelmäßig der belastbarere Weg. Bei Vertragszahnärzten gilt §393 SGBV Verarbeiten Vertragszahnärzte Sozialoder Gesundheitsdaten über einen Cloud-Computing-Dienst, gilt zusätzlich § 393 SGB V. Die Verarbeitung darf danach nur im Inland, in einem EUMitgliedstaat, in einem gleichgestellten Staat oder in einem Drittstaat mit Angemessenheitsbeschluss erfolgen, und die datenverarbeitende Stelle muss zudem eine Niederlassung in Deutschland haben. Außerdem ist ein angemessenes Sicherheitsniveau nachzuweisen – grundsätzlich durch ein aktuelles C5-Typ-2-Testat oder einen Nachweis, der ein vergleichbares oder höheres Sicherheitsniveau belegt (für neu in Verkehr gebrachte Dienste gelten Übergangserleichterungen). Allgemeine ISO-Zertifikate genügen hierfür nur, wenn sie im Einzelfall die gesetzlichen Anforderungen an einen vergleichbaren oder einen höheren Sicherheitsnachweis erfüllen. Die allgemeine DSGVO-Prüfung, etwa zu Drittlandübermittlungen, bleibt daneben bestehen. Vor dem Einsatz ist zu prüfen, ob eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO erforderlich ist, weil die Verarbeitung voraussichtlich ein hohes Risiko für die Betroffenen mit sich bringt. Die Listen der Aufsichtsbehörden helfen bei der Einordnung, ersetzen aber nicht die Bewertung des konkreten Einsatzes. Die Folgen der Schatten-KI Bei Telefonassistenten oder Chatbots, die Patientenanliegen erfassen und weiterleiten, können mehrere Risikofaktoren zusammenkommen, wie die Verarbeitung von Gesundheitsdaten, der Einsatz einer sogenannten neuen Technologie, die Verwendung gegenüber besonders schutzbedürftigen Betroffenen und eine mögliche Steuerung des Zugangs zu Leistungen. Die Folgenabschätzung gehört deshalb in die Auswahlphase – nicht hinter den Vertragsschluss – und muss zm116 Nr. 22, 16.11.2026, (1755) Dennis Morgenstern, LL.M., MBA Wirtschaftsjurist und Geschäftsführender Gesellschafter Frame for Business GmbH Foto: Dennis Morgenstern Florian Decker Fachanwalt für gewerblichen Rechtsschutz und für Internationales Wirtschaftsrecht Rechtsanwaltskanzlei Dr. Schultheiß Foto: Florian Decker „Nicht die KI ist das Problem, sondern ein ungeprüfter Prozess.“
RkJQdWJsaXNoZXIy MjMxMzg=