Künstliche Intelligenz (KI) ermöglicht es, in rasantem Tempo irreführende wissenschaftliche Studien zu erstellen, die primär PR-Zwecken dienen. Diese Entwicklung birgt die Gefahr, dass wissenschaftliche Fachzeitschriften mit gefälschten oder verzerrten Ergebnissen überflutet werden, was das Vertrauen in die Forschung untergräbt. Ein Gastautor fordert daher eine dringende Reform des Peer-Review-Systems, um die Integrität der Wissenschaft zu schützen.
Key Takeaways
- KI senkt die Hürde für die Erstellung irreführender Studien erheblich.
- Historische Fälle zeigen, wie Unternehmen wissenschaftliche Publikationen für eigene Interessen missbrauchten.
- Die Zunahme von Einzelfaktorstudien, die durch KI begünstigt werden, ist alarmierend.
- Reformen des Peer-Review-Systems sind unerlässlich, um die Glaubwürdigkeit der Wissenschaft zu wahren.
Der Aufstieg der "Resmearch"
Das Problem ist nicht neu. Bereits in den 2000er Jahren nutzte das Pharmaunternehmen Wyeth Ghostwriting-Artikel, um die Vorteile seiner Hormonersatzpräparate zu bewerben und Risiken herunterzuspielen. Diese Artikel, die in medizinischen Fachzeitschriften erschienen, waren von Wyeth finanziert, aber unter dem Namen von Ärzten veröffentlicht. Nach einer Klage musste der Nachfolgekonzern Pfizer über eine Milliarde US-Dollar Schadenersatz zahlen. Diese Praxis wird als „Resmearch“ bezeichnet – „Bullshit-Wissenschaft“ im Dienste wirtschaftlicher Interessen, die nicht auf Wahrheit, sondern auf Überzeugungskraft abzielt.
KI als Katalysator für Gefälligkeitsstudien
Die größte Sorge heute ist, dass KI-Tools die Erstellung solcher „Belege“ praktisch kostenlos machen. Was früher Monate dauerte, kann nun in Stunden erledigt werden. Dies führt zu einer exponentiellen Zunahme von Einzelfaktorstudien, die oft auf zufälligen, aber irreführenden Korrelationen basieren. Während 2014-2021 durchschnittlich vier solcher Studien pro Jahr veröffentlicht wurden, stieg die Zahl in den ersten zehn Monaten 2024 auf 190. Diese Entwicklung wird durch neue Regulierungen, wie im Vereinigten Königreich für Babynahrung, weiter angeheizt, die Unternehmen dazu ermutigen könnten, gezielt Studien zur Untermauerung von Werbeaussagen zu generieren.
Die Notwendigkeit einer Peer-Review-Reform
Ein Kernproblem ist, dass Forschungsergebnisse nicht immer einem Peer-Review-Verfahren unterzogen werden, bevor sie in politische oder rechtliche Entscheidungen einfließen. Dies zeigt sich beispielsweise in einem Fall vor dem US-Supreme-Court, bei dem eine von einer Pro-Waffen-Organisation finanzierte Studie zitiert wurde, deren Daten nicht öffentlich zugänglich waren. Um dem entgegenzuwirken, sind Reformen des Peer-Review-Systems dringend notwendig. Fortschritte wie die Vorregistrierung von Studien, die lückenlose Dokumentation von Forschungsschritten und die Offenlegung von Daten, Code sowie Finanzierungsquellen sind entscheidend. Einige Fachzeitschriften setzen diese bereits um, doch nicht alle Fachbereiche sind gleichermaßen reformfreudig. Das derzeitige System ist überfordert, und Gutachter benötigen mehr Zeit und Anreize, um die Qualität der wachsenden Zahl von Veröffentlichungen zu gewährleisten. Nur so kann das Vertrauen in die Wissenschaft, die Wahrheit über Profit stellt, bewahrt werden.
KI Snack
