TITEL | 33 müssen. Bei der Sprachverarbeitung hingegen behält der Anwender die volle Kontrolle durch finales Gegenlesen der transkribierten Sprache. Etwas herausfordernder ist der Umgang mit diagnostischen Tools, deren Ergebnisse unmittelbar eine therapeutische Entscheidung beeinflussen. Hier muss sich der Nutzen in der klinischen Anwendung zeigen. Die KI tritt dem Nutzer wie ein Kollege mit einer „Zweitmeinung“ gegenüber, was durchaus produktiv sein kann. In einer solchen Situation würde man sicher hin und wieder gern mit dem künstlichen Kollegen in einen Disput treten, um herauszufinden, wie er zu seiner Einschätzung gekommen ist. Hier wird es allerdings schwierig: KISysteme funktionieren teilweise wie „Black Boxes“. Das heißt, die Eingaben und Ausgaben sind sichtbar, die Entscheidungswege dazwischen jedoch oft intransparent. Das erschwert den Einsatz in der Klinik und hat bereits zu Forderungen nach einer „erklärbaren“ KI geführt. Je nach Anwendungsfall ist KI-Software jedoch in unterschiedlichem Maßbetroffen. So ist die Frage, wie die KI zu ihren Ergebnissen kommt, bei der automatisierten Befundung von Röntgenbildern beispielsweise weniger relevant, da die gefundenen Pathologien hier visualisiert werden – dies erlaubt dem Untersucher, die Logik des KI-Systems mit der eigenen Expertise und Erfahrung abzugleichen. Die Anwendung der Technologie wird aber zur Herausforderung in der täglichen Praxis, wenn die KI die Funktion eines assistierenden und durch den Behandler überprüfbaren Werkzeugs überschreitet und – vielfach unbemerkt – intransparent generierte Empfehlungen ins ärztliche Handeln einspeist. Dabei spielt der menschliche Umgang mit dem künstlich intelligenten Pendant eine wichtige Rolle. Es ist ein menschliches Problem Der Automatisierungs-Bias beschreibt die Neigung, maschinellen Empfehlungen übermäßig zu vertrauen – selbst wenn sie fehlerhaft oder unklar sind. Es handelt sich nicht um ein technisches, sondern um ein menschliches Problem: Die kognitive Entlastung durch die Maschine kann das kritische Denken verdrängen. 1. Übervertrauen in maschinelle Entscheidungen: Diese Form des Automatisierungs-Bias führt dazu, dass KI-Empfehlungen ungeprüft übernommen werden, weil sie als objektiv, unfehlbar oder neutral gelten. Beispiel: Ein KI-System schlägt auf Basis eines zm Nr. , , (55) VISALYS® BULK FLOW, unser lichthärtendes, fließfähiges NanoHybrid-Füllungskomposit für das Füllen von Kavitäten bis 4 mm Tiefe in nur einer Schicht. Es vereint Effizienz, Stabilität undÄsthetik. FLIESSFÄHIGES ONESHADE BULK KOMPOSIT VISALYS® BULK FLOW: EINZIGARTIGE KONSISTENZ FÜR LEICHTES ADAPTIEREN UND MODELLIEREN JETZT ENTDECKEN! AUFFALLEND ÄSTHETISCH Hybrid-Füllungskomposit für das Füllen von Kavitäten KONSISTENZ EINES MITDER VERARBEITBARKEIT EINES FLOW FILL
RkJQdWJsaXNoZXIy MjMxMzg=