ZAHNMEDIZIN | 17 nis war erschreckend: Über 60 Prozent der Antworten enthielten falsche oder unvollständige Angaben. Manche Systeme erfanden URLs, andere verschmolzen die Inhalte verschiedener Artikel miteinander. Auffällig war zudem, dass die Modelle ihre Aussagen mit großer Sicherheit präsentierten, selbst wenn sie vollständig falsch lagen. Wer glaubt, durch die bezahlten „Premium Bots“ mehr Sicherheit zu haben, irrt: Premium-Versionen der Tools lieferten teils noch höhere Fehlerraten, bei gleichzeitig noch höherer Selbstsicherheit. Für die zahnmedizinische Forschung bedeutet dies: Wer die Literaturrecherche an ungeeignete KI-Tools auslagert, riskiert, dass fehlerhafte oder erfundene Quellen den Weg in wissenschaftliche Argumentationen finden. Zwar können diese Tools zahlreiche Aufgaben effizient bewältigen – das menschliche Arbeitspensum aber verlagert sich dann: Zeitintensiv ist nicht mehr die Extraktion von Daten, sondern die Kontrolle des Rechercheund Extraktionsprozesses. Ein Problem ist der organisierte Wissenschaftsbetrug Parallel zu diesen technischen Risiken entwickelt sich ein weiteres, strukturell noch gefährlicheres Problem: der organisierte Wissenschaftsbetrug. KISysteme können innerhalb kürzester Zeit komplette Forschungsarbeiten inklusive Datensätzen, Tabellen und statistischen Auswertungen erzeugen. Ein Beispiel aus der ophthalmologischen Forschung zeigte, wie GPT-4 in wenigen Minuten einen klinischen Datensatz konstruierte, der einem durch echte Studien erzeugten Datensatz täuschend ähnlich sah und gleichzeitig eine Therapie als überlegen darstellte, obwohl die realen Daten das Gegenteil belegten [Taloni et al., 2023]. Betrugsnetzwerke können solche Fähigkeiten nutzen, um in kurzer Zeit gefälschte, aber überzeugend anmutende wissenschaftliche Studien zu platzieren. Dadurch wird eine neue Ebene wissenschaftlicher Täuschung möglich, die herkömmliche Prüfprozesse kaum noch erkennen können. Aktuelle Untersuchungen zeigen, dass weltweit seit etwa 2010 Netzwerke aus „Paper Mills“ entstehen, die gefälschte Studien industriell produzieren. Das geschieht professionell, massenhaft und ist zuletzt durch die Verwendung von KI häufig kaum von echten Forschungspublikationen zu unterscheiden. Diese Arbeiten gelangen über gekaufte Peer Reviews, manipulierte Editorialsysteme und dubiose Journale („predatory journals“) in wissenschaftliche Datenbanken. Die Zahl derartiger Veröffentlichungen wächst rasant und übersteigt in manchen Bereichen bereits das Wachstum authentischer Forschung. So stammten 2022 bereits mehr als drei Prozent der Artikel im Bereich Medizin und Biologie aus Paper Mills – diese Disziplinen bilden damit den traurigen Spitzenreiter in der Wissenschaft (gefolgt von Chemie und Materialwissenschaften mit 2,5 Prozent) [Van Noorden, 2023]. Welchen Einfluss Fake-Studien haben, zeigt sich an folgendem (bekanntem) Beispiel: Der ehemalige britische Arzt Andrew Wakefield hatte 1998 einen Artikel in der Fachzeitschrift „The Lancet“ publiziert, in dem er fälschlicherweise behauptete, die MasernMumps-Röteln-Impfung (MMR) hänge mit Autismus zusammen [Eggertson, 2010]. Obwohl die Studie zurückgezogen wurde, weil der Autor die Dazm116 Nr. 03, 01.02.2026, (111) Quelle: Jaźwińska und Chandrasekar et al., 2025 Chatbot-Antworten auf Artikelanfrage Komplett richtig Teilweise unkorrekt Keine Antwort Richtig, aber unvollständig Komplett unkorrekt 0 50 100 150 200 250 ChatGPT search Perplexity Grok-3 search Abb. 1: Das Tow Center for Digital Journalism hat generative Suchwerkzeuge damit beauftragt, den Originalartikel, die Quelle und die URL für 200 Auszüge aus Nachrichtenartikeln von 20 Verlagen zu identifizieren. Die Grafik zeigt Auszüge der Ergebnisse [Jaźwińska und Chandrasekar et al., 2025]. Quelle: Richardson et al., 2025 Jährliche weltweite wissenschaftliche Aktivität 10¹ 10² 10³ 104 105 106 107 2000 2010 Year of publication All scientific articles Paper mill products PubPeer-commented Retracted Number of articles 2030 2020 Abbildung 2: gemessen anhand der in der nichtkommerziellen bibliografischen Datenbank OpenAlex als ‚Zeitschriftenartikel‘ oder ‚Konferenzbeitragsartikel‘ gekennzeichneten Einträge, der von der Initiative „Retraction Watch“ gemeldeten zurückgezogenen Artikel, der auf PubPeer kommentierten Artikel sowie der als mutmaßliche Paper-MillProdukte eingestuften Arbeiten [Richardson et al., 2025]
RkJQdWJsaXNoZXIy MjMxMzg=