zm112, Nr. 11, 1.6.2022, (1052) KI IN DER ZAHNARZTPRAXIS – TEIL 5 Wer haftet, wenn die KI sich irrt? Matthias Hartmann, Falk Schwendicke Die Anwendung von Software mit „künstlicher Intelligenz“ löst auch mit Blick auf die Haftung große Unsicherheiten aus. Wer haftet, wenn die KI sich irrt und dem Patienten ein Schaden entsteht? Wann ist ein Ergebnis der KI überhaupt „falsch“? Ein Thema, das komplizierter erscheint, als es in Wirklichkeit ist. Wer haftet, wenn die KI zu einer falschen Entscheidung bei der Interpretation eines Röntgenbilds kommt? Interessanterweise ist die Antwort auf diese Frage zunächst einmal simpel: Da es bislang keine KI-spezifischen Gesetze zur Haftung gibt, gelten die üblichen Haftungsregeln. Die wichtigste Botschaft: Im Verhältnis zwischen Zahnarzt und Patient ergeben sich beim Einsatz von KI-Technologien als Hilfsmittel kaum Besonderheiten. Fehlentscheidungen auf der Grundlage einer fehlerhafter Hilfstechnik werden (zumeist) durch den Arzt verschuldet sein. Selbst wenn also die Vorhersage der KI falsch gewesen ist, entlastet das den Arzt ebenso wenig wie ein defektes Instrument bei operativen Eingriffen. Eine spezielle KI-Haftung wird seit Jahren diskutiert. Erforderlich scheint das jedoch nicht, denn die vorhandenen Rechtsgrundlagen lassen sich – bislang jedenfalls – gut auf medizinische KI anwenden. Erst wenn in die Praxis Anwendungen kommen, die ähnlich einem vollkommen autonom fahrenden Auto den Anspruch erheben, ärztliche Tätigkeiten tatsächlich ersetzen zu können, müsste über eine solche spezielle KI-Haftung nachgedacht werden. Umgekehrt gilt dann möglicherweise aber auch, dass KI durch ihre überzeugende Genauigkeit als Stand der Technik und der medizinischen Erkenntnisse anzusehen ist – und Ärzte und Zahnärzte dann gute Gründe brauchen, um von der KI-Meinung abzuweichen. WAS IST EIN IRRTUM DER KI? Für die Haftung des Herstellers einer KI-basierten Technologie kommt es darauf an, ob das Ergebnis der KI überhaupt „falsch“ war. Die im Markt erhältlichen KI-Anwendungen erstellen jedoch – wie oben beschrieben – keine Diagnose, sondern berechnen Wahrscheinlichkeiten und unterstützen damit den Zahnarzt. Dabei greift die KI auf gelerntes Expertenwissen zurück: Irrt die KI in ihrem Vorschlag, muss das ja nicht zwingend heißen, dass die detektierte Struktur nicht viele Eigenschaften (zum Beispiel einer Kariesläsion) aufweist. Die abgeleitete, fehlerhafte Diagnose stammt dann aber nicht von der KI, sondern vom Nutzer. Warum das Ergebnis der KI danebenlag, lässt sich im Nachhinein zudem nicht immer ermitteln – das hängt vom Design der KI („Erklärbarkeit“, siehe Teil 4 dieser Serie), der Komplexität der Entscheidung und den Besonderheiten des konkreten Falles ab. WANN IST SIE MANGELHAFT? Ob die KI einen „Mangel“ im Sinne der Gewährleistung aufweist, hängt zudem davon ab, welche „Beschaffenheit“ vereinbart wurde. Oftmals kommen KI-Anwendungen ja unter Verweis auf Genauigkeitsmetriken auf den Markt – wobei aber immer auch Fehlertoleranzen angegeben werden. Die Käufer dürfen demnach eine Funktionsfähigkeit innerhalb dieses Rahmens erwarten: „Fehlerhaft“ sind demzufolge Produkte, die nicht eine „erwartbare Sicherheit“ oder Funktion aufweisen. Bei neuen Technologien gibt dies den Gerichten einen weiten BeurteilungsKI IN DER ZAHNARZTPRAXIS Erste Anwendungen mit Künstlicher Intelligenz (KI) für die Zahnarztpraxis gibt es inzwischen, doch noch immer herrscht viel Unsicherheit darüber, was KI eigentlich ist und leisten kann. Was können Zahnärztinnen und Zahnärzte vom Einsatz einer KI im Alltag erwarten? Welchen Mehrwert kann ein solches Werkzeug bringen? In der Reihe „KI in der Zahnarztpraxis“ erörtern Experten Fragen zum Verständnis der KI. PROF. DR. FALK SCHWENDICKE, MDPH Leiter der Abteilung für Orale Diagnostik, Digitale Zahnheilkunde und Versorgungsforschung Centrum 3 für Zahn-, Mundund Kieferheilkunde, Charité – Universitätsmedizin Berlin Aßmannshauser Str. 4–6, 14197 Berlin Foto: privat 26 | ZAHNMEDIZIN
RkJQdWJsaXNoZXIy MjMxMzg=