Was passiert, wenn ein Gutachter eine erfundene Zitierung findet

Ein Herausgeber, der das Literaturverzeichnis eines angenommenen Manuskripts prüft, fügt die DOI der dreiundzwanzigsten Zitierung in einen Browser ein und erhält eine Seite, auf der steht, dass der Identifikator nicht existiert. Die Referenz wirkt echt, ein plausibles Journal, ein plausibles Jahr, drei plausible Nachnamen von Autorinnen und Autoren. Sie ist mit nichts verbunden, das je von einer Datenbank indexiert wurde. Das Manuskript ist zwei Wochen vor dem Druck.

Eine DOI, die sich nicht auflösen lässt, ist gewöhnlich das erste Zeichen dessen, was ein Herausgeber schließlich als erfundene Zitate und akademisches Fehlverhalten einstuft, nicht als ein Formatierungsfehler, der in den Korrekturfahnen stillschweigend behoben werden sollte. Eine Referenz auf eine Quelle, die nicht existiert, steht auf der von Journals tatsächlich verwendeten Schweregradskala zusammen mit erfundenen Daten und verfälschten Ergebnissen, deutlich über einer falschen Seitenzahl oder einem fehlenden Initial, und Gutachter prüfen inzwischen genau darauf, bevor ein Manuskript überhaupt so weit gelangt.

Dieser Beitrag verfolgt diesen Weg aus der Sicht der Gutachterin oder des Gutachters, wie eine erfundene Referenz überhaupt in ein Manuskript gelangt, was ein Herausgeber tut, sobald sich eine DOI nicht auflösen lässt, welches Verfahren das Committee on Publication Ethics vorgibt und was danach tatsächlich mit dem Papier geschieht. TextPulse's Leitfaden dazu, wie Universitäten und Journals ihre KI-Richtlinien festlegen behandelt die Offenlegungspflichten, die dies vor der Einreichung verhindern sollen. Dieser Beitrag setzt erst dort ein, wo diese Regeln bereits versagt haben.

Wie gelangen erfundene Zitate in ein Manuskript?

Fast nie durch eine absichtliche Erfindung aus dem Nichts. Eine Autorin oder ein Autor, der mit einem KI-Tool eine Literaturübersicht verfasst, bittet es, die Arbeiten zu einem Thema zusammenzufassen, und das Tool liefert einen Absatz mit angehängten Zitaten, weil eine plausibel klingende Referenz Teil dessen ist, wie das Muster wissenschaftlichen Schreibens für ein Modell aussieht, das das nächstwahrscheinliche Wort vorhersagt. Die Referenz hat die Form einer echten, einen benannten Autor, einen echten Zeitschriftentitel, ein Jahr innerhalb eines plausiblen Bereichs. Sie verweist nur auf nichts, das jemals veröffentlicht wurde.

Der Autor kopiert den Absatz hinein, vertraut der Zitierung, weil der umgebende Text kompetent klingt, und öffnet die Quelle nie, um zu prüfen, ob sie existiert. Zeitdruck erklärt den größten Teil dessen, was als Nächstes geschieht: Ein Literaturverzeichnis wird in der Regel zuletzt vor der Einreichung geprüft, nicht zuerst, und ein erfundener Eintrag unter neunzig echten ist bei einem Durchgang, der auf Argumentation und Struktur und nicht auf jede Fußnote gerichtet ist, leicht zu übersehen. Wenn man ein fertiges Literaturverzeichnis vor der Einreichung durch einen AI citation checker laufen lässt, werden viele dieser Fälle entdeckt, bevor ein Gutachter überhaupt eine DOI in einen Browser eingeben muss.

Wie und warum ein Modell überhaupt eine plausibel wirkende Quelle erfindet, ist eine eigene Frage mit eigener Mechanik. TextPulse's Erklärung dazu, ob ChatGPT Referenzen erfindet geht auf diesen Teil ausführlicher ein, als dieser Beitrag es benötigt.

Sind erfundene Zitate wissenschaftliches Fehlverhalten?

Ja, und Zeitschriften behandeln dies nicht als Stilfrage. Wissenschaftliches Fehlverhalten wird üblicherweise in Fabrication, Fälschung und Plagiat unterteilt, und ein Verweis auf eine Quelle, die nicht existiert, fällt in die erste dieser Kategorien: Das Zitat selbst ist erfunden, und seine Präsenz stellt falsch dar, welche Belege die darüber stehende Argumentation im Text tatsächlich stützen. Damit gehört ein erfundenes Zitat in dieselbe Kategorie wie erfundene Daten, nicht neben ein fehlendes Komma oder einen uneinheitlichen Überschriftenstil.

Die eigene Richtlinie von Elsevier formuliert den Punkt für alle, die mit AI-Unterstützung entwerfen, unmissverständlich: Generative Werkzeuge können bei Struktur und Sprache helfen, aber das Erfinden oder Verändern von Daten oder Referenzen ist als verbotene Nutzung aufgeführt, ohne eine mildere Kategorie für eine Referenz, die sich als erfunden statt verändert herausstellt. Wiley, Springer Nature und Taylor and Francis ziehen in ihren eigenen Autorenrichtlinien alle dieselbe Grenze. Gutachter prüfen genau darauf inzwischen, und eine nicht auflösbare DOI ist gewöhnlich das Erste, was eine erfundene Referenz entlarvt.

Was geschieht, wenn ein Gutachter eine DOI nicht auflösen kann?

Diese mechanische Prüfung ist einfach genug, um sie in unter einer Minute durchzuführen: Fügen Sie den DOI in doi.org ein und sehen Sie, wohin er führt. Wenn der DOI auf eine Seite ohne Treffer oder auf einen völlig anderen Artikel als den zitierten verweist, ist das ein starkes Signal dafür, dass die Zitation nie echt war, besonders wenn sie in einer Literaturliste steht, an deren Erstellung ein KI-Tool beteiligt war.

Ein einzelner defekter DOI beendet die Chancen eines Manuskripts für sich genommen nicht, da eine echte Kennung gelegentlich falsch eingegeben wird. Entscheidend sind Umfang und Muster. Eine defekte Referenz führt in der Regel zu einer Rückfrage an die Autorin oder den Autor, mit der Bitte um einen korrigierten DOI oder die ursprüngliche Quelle. Mehrere defekte Referenzen in derselben Literaturliste, besonders wenn sie gehäuft in einem schnell verfassten Abschnitt einer Literaturübersicht auftreten, werden über eine routinemäßige Rückfrage hinaus an eine Prüfung der Zitationsintegrität weitergeleitet, die eine Redaktion durchführt, bevor sie über das weitere Vorgehen entscheidet.

Der COPE-Prozess, dem eine Redaktion folgt

COPE, das Committee on Publication Ethics, gibt Redaktionen eine strukturierte Möglichkeit, ein Zitationsproblem abzuwägen, statt einer einzelnen festen Regel zu folgen. Seine Leitlinien zur Zitationsintegrität nennen vier Faktoren, die eine Redaktion vor der Entscheidung über das weitere Vorgehen abwägen soll.

• Art: ob die Referenz teilweise echt oder vollständig erfunden ist
• Ort: wo sie im Beitrag steht, etwa innerhalb einer Metaanalyse oder eines einzelnen Diskussionsabsatzes
• Kategorie: ob es sich um eine nicht auffindbare Referenz oder um eine echte Referenz handelt, die für etwas zitiert wird, das sie tatsächlich nicht sagt
• Umfang: ob es sich um eine oder zwei betroffene Referenzen oder um einen großen Anteil der gesamten Liste handelt

Wie ein Herausgeber diese vier Faktoren gewichtet, entscheidet, welche Reaktion passt: eine einfache Korrektur, eine veröffentlichte Besorgnisäußerung, während eine Untersuchung läuft, oder, bei dem schwerwiegendsten Muster, die direkte Kontaktaufnahme mit der Institution des Autors. Die Begründung, die COPE dafür anführt, warum ein KI-Tool nicht die Schuld tragen kann, ist dieselbe Begründung, die es allgemein auf die Autorenschaft anwendet: Die Verantwortung für ein eingereichtes Manuskript liegt bei den namentlich genannten Autoren, die diese Verantwortung in dem Moment übernommen haben, in dem sie es eingereicht haben, nicht bei dem Werkzeug, das unterwegs beim Entwurf eines Absatzes geholfen hat.

"The model made it up" erklärt, wie eine erfundene Referenz in das Manuskript gelangte. Es entschuldigt sie nicht. Der Einreichungsprozess jedes Verlags verlangt vom korrespondierenden Autor zu bestätigen, dass das Manuskript korrekt ist, und die Verantwortung für seinen Inhalt zu übernehmen, und genau dieser Schritt macht aus dem Fehler eines KI-Tools den eigenen Fehler des Autors.

TextPulse's eigener Leitfaden zur ethischen Grenze für KI-gestütztes akademisches Schreiben legt dasselbe Verantwortungsprinzip dar: Offenlegung und Überprüfung erfolgen vor der Einreichung, nicht erst, nachdem ein Gutachter die Lücke entdeckt hat.

Von der Korrektur zur Retraktion: Was dem Paper tatsächlich passiert

Eine Korrektur ist das mildeste Ergebnis. Der Verlag veröffentlicht eine Notiz, die die konkrete Referenz berichtigt, das Paper selbst bleibt bestehen, und der veröffentlichte Befund zeigt genau, was sich geändert hat und warum. Dort landet gewöhnlich eine einzelne erfundene Zitierung, wenn sie in einem Abschnitt auftaucht, der die tatsächlichen Ergebnisse des Papers nicht beeinflusst, und der Autor kooperiert und liefert eine echte Quelle oder entfernt die Behauptung, die sie stützen sollte.

Am anderen Ende des Spektrums steht der Widerruf. Der allererste Satz von Leitlinien zu Widerrufen, von COPE, nennt ebenfalls Erfindung und Fälschung, wiederum die Kategorien, unter die eine erfundene Referenz fällt, als einen seiner klaren Gründe für den Widerruf eines Artikels, zusammen mit Plagiat und der Entdeckung unzuverlässiger Ergebnisse. Der Prozess verschwindet nicht stillschweigend. Ein widerrufener Artikel bleibt sichtbar, mit der Zeitschrift selbst und in von anderen Forschenden genutzten Indexen als widerrufen gekennzeichnet. Deshalb ist eine erfundene Referenz so kostspielig: Die Korrektur ist dauerhaft und öffentlich, und sie bleibt mit dem Namen der Autorin oder des Autors verbunden, solange der Artikel überhaupt auffindbar ist.

Offenlegung ist die praktische Verteidigung, und wie man den Einsatz von AI in einem Paper offenlegt wird gesondert erläutert, zusammen mit einer Vorlage für eine Offenlegungserklärung, die Sie anpassen statt neu entwerfen können.

Die Überprüfung von Referenzen war früher der am wenigsten interessante Teil der Arbeit einer Gutachterin oder eines Gutachters, eine Formalität, bevor die eigentliche Kritik begann. Ein DOI, der sich nicht auflösen lässt, hat daraus das Gegenteil gemacht: oft das schnellste, klarste Signal dafür, dass ein Manuskript eine weit genauere Lektüre braucht, als der übrige Text erhalten hat.