GESELLSCHAFT | 41 ren großer Datenmengen. So könnten KI-Algorithmen beispielsweise bei der Erforschung von Krankheitsmechanismen und der Entwicklung von Therapeutika eingesetzt werden. In der medizinischen Versorgung liegen mittlerweile erste Erfahrungen mit dem Einsatz von KI-Systemen vor. In der Diagnostik sind inzwischen Unterstützungssysteme im Einsatz, die beispielsweise mit der automatisierten Durchsicht von Patientenakten Entscheidungsprozesse modellieren. In der Krebsdiagnostik wird KI bei der Früherkennung von Haut- und Brustkrebs eingesetzt, bei Prostatakarzinomen konnte durch Überlagerung von zuvor erstellten mpMRT-Aufnahmen mit Ultraschallaufnahmen in Echtzeit die Biopsie so verbessert werden, dass sich die Entdeckung behandlungsbedürftiger Prostatakarzinome von etwa 50 auf 90 Prozent erhöhte. Auch KI-gestützte Operationsroboter bieten heute bereits nachweisbare Vorteile: Sie können Ränder von Tumorgeweben präziser als der Operateur identifizieren und ermöglichen besonders gewebeschonende Eingriffe. Der Prozess wird zur Blackbox Den Chancen der KI stehen jedoch auch Risiken gegenüber. Eine Besonderheit von KI-Systemen, die auf mit maschinellem Lernen aus Daten gewonnenen Modellen basieren, bestehe darin, dass bei manchen Systemen selbst diejenigen, die diese Instrumente entwickeln, aufgrund der enormen Komplexität der Datenverarbeitungsprozesse nicht mehr rekonstruieren können, wie bestimmte Resultate zustande gekommen sind, da die Eingaben mit hochgradig nichtlinearen und verteilten Prozessen verarbeitet werden: ..Der Prozess wird zur Blackbox.“ Im Hinblick darauf sei bei der KI-Entwicklung ein „Höchstmaß an Erklärbarkeit der jeweiligen Resultate anzustreben (Explainable AI)“, betont der Ethikrat. Auch sollten Anwender die Resultate der KI „stets einer eigenen Plausibilitätsprüfung unterziehen, um den Gefahren eines ungerechtfertigten blinden Vertrauens in die Technik (Automation Bias) zu entgehen.“ Für die Entwicklung und den Einsatz von KI-Produkten empfiehlt der Ethikrat spezifische Zertifizierungen, um den Datenschutz und die Sicherheit der Anwendung zu gewährleisten. Dazu sollten die Zulassungsbehörden eng mit den zuständigen medizinischen Fachgesellschaften zusammenarbeiten, um hohe Qualitätsstandards zu etablieren. Erwiesen überlegene KIAnwendungen sollten zügig in die klinische Ausbildung des ärztlichen Fachpersonals integriert werden. Bei routinemäßiger Anwendung von KI weist der Ethikrat auf „die Gefahr eines Verlustes von theoretischem wie haptisch-praktischem Erfahrungswissen und entsprechenden Fähigkeiten (deskilling)“ hin – dem sollte mit spezifischen Fortbildungsmaßnahmen begegnet werden. Im Hinblick auf die Patientenkommunikation wird festgestellt: „Je höher der Grad der technischen Substitution menschlicher Handlungen durch KIKomponenten ist, desto stärker wächst der Aufklärungs- und Begleitungsbedarf der Patientinnen und Patienten.“ Der KI-Einsatz dürfe nicht zu einer Abwertung der sprechenden Medizin oder zu Personalabbau führen: „Eine vollständige Ersetzung der ärztlichen Fachkraft durch ein KI-System gefährdet das Patientenwohl.“ Für den mit der Anwendung von vielen KI-Systemen relevanten Schutz von Patientendaten verweist der Ethikrat auf das bereits 2017 entwickelte Konzept der Datensouveränität. Danach müssen die Patientendaten „nicht allein als wichtiges individuelles Gut […], sondern auch in ihrer kollektiven Dimension verstanden werden". Die Zuschreibung einer nicht näher beschriebenen „kollektiven Dimension" für die individuellen Patientendaten könnte noch zu Diskussionsbedarf führen, wenn etwa in spezifischen Einzelfällen geklärt werden muss, ob dem individuellen oder dem kollektiven Interesse der Vorrang eingeräumt werden muss. Die Stellungnahme des Deutschen Ethikrats ist unter www.ethikrat.org/fileadmin/ Publikationen/Stellungnahmen/deutsch/ stellungnahme-mensch-und-maschine. pdf abrufbar. zm113 Nr. 08, 16.04.2023, (635) www.ich-bin-endo.de © 12/2021 · 10012807v.002 ProcodileQ. Eineneue Dimension der Sicherheit. Kernkompetenz, weiter gedacht.
RkJQdWJsaXNoZXIy MjMxMzg=