24 | GESELLSCHAFT zm114 Nr. 01-02, 16.01.2024, (22) des KI-Tools anhand von Detailfehlern, die der KI unterlaufen waren: Bei vielen Teilnehmenden passte die Geschlechtsangabe nicht zur typischen Verwendung des angegebenen Vornamens, außerdem wurde keine Korrelation zwischen präoperativen und postoperativen Messungen der Sehkraft und dem Augenbildgebungstest gefunden. Auch die Alterswerte der Teilnehmenden zeigten eine Auffälligkeit, weil es eine überproportional große Anzahl von Menschen gab, deren Alterswerte mit 7 oder 8 endeten. Zeitschriften müssten ihre Qualitätsprüfungen dringend aktualisieren, um KI-generierte synthetische Daten zu identifizieren, lautet das Fazit der Experten. Wilkinson hofft, einige der Prüfprotokolle künftig automatisieren zu können, dann könne KI nicht nur Teil des Problems, sondern auch Teil der Lösung sein – indem die KI überprüft, ob Studiendaten von einer KI gefälscht wurden. Gleichzeitig aber warnt er gegenüber Nature davor, dass Fortschritte in der generativen KI bald Möglichkeiten bieten könnten, diese Prüfprotokolle zu umgehen. Ist ein kryptografisches Wasserzeichen die Lösung? Die Zukunft der wissenschaftliche Evidenz zu sichern, scheint nun eine Aufgabe von Informatikern zu sein: Spätestens seit der Einführung von GPT-4 beschäftigen sich ungezählte Preprints und Publikationen mit der Möglichkeit, Ausgaben von KI-Tools mit einer Art kryptographischem Wasserzeichen zu versehen, dass nur mit dem Wissen eines geheimen Schlüssels erkannt werden kann und die Ausgabequalität und das Nutzererlebnis nicht beeinträchtigt. Eine Entwarnung ist das indes nicht, denn die Wissenschaftler sind sich einig, dass es Akteuren mit dem entsprechenden Know-how und Technikeinsatz immer gelingen wird, diese Wasserzeichen rückstandslos zu entfernen. Die juristische Bewertung zum Einsatz von KI an Hochschulen ist hingegen klar. Ein vom Ministerium für Kultur und Wissenschaft des Landes Nordrhein-Westfalen in Auftrag gegebenes Gutachten [Salden und Leschke, 2023] kommt zu dem Schluss, dass eine Software keine Urheberschaft an einem Text haben kann. Studierende, die das Tool nutzen, jedoch schon, „wenn sie in erheblichem Maße geistige Eigenleistung zu den Texten beitragen“. Das wiederum sei „eine schwierige Frage, die im Einzelfall entschieden werden muss“. Verlage schaffen klare Regeln, Hochschulen nicht Nature und die anderen Springer Nature Journals hatten ihren Veröffentlichungsrichtlinien schon zu Beginn des Jahres 2023 zwei Anmerkungen hinzugefügt: 1. ChatGPT und andere Large Language Modells (LLM Tools) dürfen nicht als Autoren genannt werden, da sie nicht die Verantwortung für den Text übernehmen können. 2. Die Verwendung von LLM Tools soll unter Methoden oder bei der Danksagung dokumentiert werden. Bei den Hochschulen sucht man einheitliche Regelungen vergeblich. Mitte November 2023 hatten nur 37 Prozent der 100 größten deutschen Universitäten Chat-GPT-Richtlinien: An zwei Prozent der Universitäten war der Einsatz generell nicht erlaubt, an 23 Prozent der Universitäten war der Einsatz teilweise und an zwölf Prozent der Universitäten generell gestattet. Bei den verbleibenden 63 Prozent der Universitäten gab es jedoch noch keine oder nur sehr unklare Richtlinien, meldet das Unternehmen Scribbr mit Verweis auf eigene Recherchen. Das niederländische Start-up gehört zu einem internationalen Unternehmensverbund, der digitale Dienstleistungen rund um die Texterstellung anbietet, darunter ein Paraphrasing-Tool zum Umschreiben von Texten, einen „Selbstplagiatscheck“ und einen Test, der von KI generierte Textbestandteile aufspüren soll. Das Angebot startet preislich ab 17,95 Euro pro Text. mg ZM-LESERSERVICE Die Literaturliste kann auf www.zm-online.de abgerufen oder in der Redaktion angefordert werden. STUDIE SIEHT AUFFÄLLIGE „ZUNAHME EXTREM PRODUKTIVER AUTOREN“ Eine internationale Untersuchung hat ausgewertet, wie viele wissenschaftliche Autoren von 2000 bis 2022 extrem produktiv (EP) waren und wie sich ihre Präsenz in verschiedenen Ländern und wissenschaftlichen Bereichen verändert hat. Als extrem produktiv wurden Autoren definiert, die mehr als 60 vollständige Arbeiten (Artikel, Rezensionen, Konferenzbeiträge) in einem Kalenderjahr veröffentlicht und in der Datenbank Scopus indexiert hatten. Ergebnis: Die Forschenden fanden 3.191 EP-Autoren in allen Wissenschaften mit Ausnahme der Physik (12.624 EP-Autoren). Sie schlossen darum Autoren aus dem Bereich der Physik aus, weil diese aufgrund andersartiger Autorenpraktiken seit jeher dazu neigen, eine große Anzahl von Arbeiten zu veröffentlichen. Ohne Physik hatte China die größte Anzahl an EP-Autoren, gefolgt von den USA. Die größten Anstiege zwischen 2016 und 2022 wurden in Thailand (19-fach), Saudi-Arabien (11,5-fach), Spanien (11,5-fach) und Indien (10,2-fach) verzeichnet. Mit Ausnahme der Physik waren die meisten EP-Autoren in der klinischen Medizin tätig, von 2016 bis 2022 wurden die größten relativen Zuwächse in den Bereichen Landund Fischereiwirtschaft (14,6-fach) und Biologie (13-fach) verzeichnet. Fazit der Autoren: Extreme Produktivität ist in allen wissenschaftlichen Bereichen besorgniserregend weit verbreitet. Die Zunahme der EPAutoren gebe Anlass zur Sorge, dass einige Forscher auf zweifelhafte Methoden zurückgreifen, um zusätzliche Arbeiten zu veröffentlichen. John P.A. Ioannidis, Thomas A. Collins, Jeroen Baas, Evolving patterns of extremely productive publishing behavior across sciencebio, Rxiv 2023.11.23.568476; doi: https://doi.org/10.1101/ 2023.11.23.568476
RkJQdWJsaXNoZXIy MjMxMzg=