Dlaczego adnotacje napisane przez AI opisują prace, które nie istnieją

Przełożony czyta ten sam kształt zdania dziesięć razy z rzędu, otwierając bibliografię adnotowaną, czytając ją na głos, strona po stronie: To badanie analizuje związek między X i Y, wykorzystując próbę uczestników do zbadania Z, stwierdzając, że potrzebne są dalsze badania. Wszystkie pozycje brzmią płynnie. Dwa z dwunastu źródeł, wyszukane po tytule, nie istnieją.

Zhalucynowane przez AI cytowania w bibliografiach rzadko ujawniają się w samej linii przypisu. Sfałszowane nazwisko autora i sfałszowany tytuł czasopisma mogą wyglądać dokładnie jak prawdziwe, dopóki ktoś ich nie wyszuka. To, co najczęściej zdradza fałszerstwo jako pierwsze, to adnotacja umieszczona poniżej, akapit na tyle pewny siebie, by szczegółowo opisać metodę i wyniki pracy, która nigdy nie została napisana.

Jak rozpoznać zhalucynowane przez AI cytowania w bibliografiach

Najpierw przeczytaj adnotację, a dopiero potem linię przypisu. Cytowanie samo w sobie, autor, rok, czasopismo, DOI, to wszystko są drobne, uporządkowane wzorce, które model językowy widział tysiące razy, i mogą wyglądać poprawnie przez przypadek albo dzięki zapamiętaniu, nawet jeśli nic rzeczywistego za nimi nie stoi. Adnotacja natomiast musi powiedzieć coś o tym, co ta konkretna praca naprawdę zrobiła, z dość dużą liczbą szczegółów, aby można było ustalić, czy jest to prawda, czy fałsz. Jeśli model nie pobiera ani nie czyta źródła, nie będzie w stanie zrobić tego wiarygodnie, a rezultat ujawni się jako ogólnikowość na długo przed tym, zanim w ogóle przejdziemy do sprawdzania DOI.

Dlaczego adnotacja zdradza więcej niż samo cytowanie

Sfałszowane cytowanie to zgadywanie przebrane za przypis, prawdopodobny autor, prawdopodobne czasopismo, ciąg w formacie DOI z odpowiednią liczbą cyfr. Sfałszowana adnotacja to zgadywanie przebrane za zrozumienie, a zrozumienie znacznie trudniej przekonująco udawać w całym akapicie. Model musi zadeklarować próbę, metodę i kierunek wyniku, a każdy z tych szczegółów jest miejscem, w którym prawdziwa praca może mu zaprzeczyć.

To również dlatego adnotację łatwiej jest sprawdzić czytelnikowi niż sam cytat. Odniesienie jest sformatowane tak samo niezależnie od tego, czy źródło jest prawdziwe, więc sam jego kształt nie ujawnia żadnej informacji. Adnotacja formułuje konkretne twierdzenie o konkretnym fragmencie treści, więc albo jest poparta rzeczywistym artykułem, albo nie, a kilka minut z prawdziwym abstraktem rozstrzyga, które z tych dwóch możliwości zachodzi.

Co pisze model, gdy nigdy naprawdę nie przeczytał artykułu

Jeśli poprosić model językowy o adnotację źródła, dla którego ma tylko tytuł i ogólny temat, nie odmówi on ani nie będzie się asekurował. Przewiduje akapit, który artykuł o takim tytule prawdopodobnie zawierałby, zbudowany z tysięcy podobnych abstraktów widzianych podczas treningu, i oddaje go w tym samym pewnym rejestrze, którego użyłby wobec artykułu, który mógłby cytować linia po linii.

Brzmi to jak średnia ze wszystkiego, co kiedykolwiek napisano na ten temat. Rzetelne streszczenie badania o śnie i pamięci poda nazwiska rzeczywistych uczestników badania, rzeczywisty zastosowany test oraz rzeczywisty zgłoszony rozmiar efektu. Zmyślone streszczenie powiedziałoby, że badanie dotyczyło tego, jak dobrze ludzie spali i jak działała ich pamięć, oraz że stwierdzono silny związek między tymi zmiennymi. Jest na tyle ogólne, że równie dobrze pasuje pod inny, niezwiązany tytuł.

Co należy sprawdzić	Prawdziwa adnotacja zwykle ma to	Fałszywa zwykle ma zamiast tego to
Liczby	Określoną liczebność próby, wielkość efektu lub procent zgodny z rzeczywistym abstraktem	Brak liczb albo okrągła, nieweryfikowalna wartość, która nigdzie nie pojawia się w rzeczywistym źródle
Metoda	Rzeczywiście nazwaną metodę, konkretny test, projekt badania lub zbiór danych	Niejasne odwołanie do "badania" lub "analizy" bez podania metody
Ograniczenia	Jedno ograniczenie, które sami autorzy wskazali, specyficzne dla ich projektu	Ogólne ograniczenie, prawdziwe dla niemal każdej pracy w tej dziedzinie
Zgodność z referencją	Cytowanie prowadzi do rzeczywistego rekordu, którego tytuł zgadza się z adnotacją	Referencja nie prowadzi do wyniku albo prowadzi do innej, niezwiązanej pracy

Żaden z tych testów nie wymaga przeczytania całej pracy. Wymagają one jednorazowego otwarcia jej na tyle długo, aby sprawdzić, czy konkretne twierdzenia zawarte w adnotacji rzeczywiście pojawiają się w abstrakcie.

Dlaczego wskaźnik fałszerstw wymaga wersji modelu i daty

Skala problemu jest mierzona, choć pomiary nie zgadzają się ze sobą, ponieważ nigdy nie mierzyły tego samego. Testując ChatGPT-3.5 i ChatGPT-4 na tych samych 42 tematach akademickich tego samego dnia w 2023 roku, badacze stwierdzili, że 55 procent cytowań GPT-3.5 było całkowicie sfabrykowanych, wobec 18 procent w przypadku GPT-4. Te same prompty, ci sami badacze, ten sam dzień, zmienił się tylko model, a wskaźnik spadł o dwie trzecie.

Oddzielne badanie, sprawdzające zmyślone fakty dotyczące spraw, a nie cytowania bibliograficzne, wykazało, że ChatGPT-4 mylił się w 58 procentach przypadków w pytaniach weryfikowalnych dotyczących rzeczywistych federalnych spraw sądowych, a Llama 2 mylił się w 88 procentach przypadków, w badaniu opublikowanym w 2024. Ta wartość opisuje inne zadanie, wykonywane na innych modelach, i nie powinna być uśredniana z powyższymi liczbami dotyczącymi fabrykowania cytowań w jedną ogólną stopę. To, co oba badania uznają za zgodne, to kształt problemu: procent bez przypisanego numeru wersji modelu i daty nie opisuje niczego konkretnego. Szerszy wzorzec, obejmujący sześć takich badań z lat 2023 do 2026, stanowi osobny temat: does ChatGPT make up references omawia go w całości. To, co ma znaczenie konkretnie dla bibliografii, pozostaje węższe: czy adnotacja zdradza zmyślenie, zanim ktokolwiek sprawdzi DOI.

Jak sprawdzić każdy wpis w bibliografii adnotowanej sporządzonej przez AI

Zacznij od linii z przypisem: wyszukaj dokładny tytuł w Google Scholar albo na stronie samego czasopisma i traktuj DOI jako niepotwierdzony, dopóki rzeczywiście nie prowadzi do tego tytułu, ponieważ zmyślony cytat może zawierać DOI, który prowadzi do rzeczywistej, niezwiązanej z nim pracy kogoś innego. AI citation checker, który rozwiązuje każdy wpis względem rzeczywistej bazy danych naukowych automatyzuje to wyszukiwanie zamiast pozostawiać je ręcznemu sprawdzaniu każdego pojedynczego źródła.

Następnie porównaj adnotację z samym źródłem, a nie z tym, jak przekonująco brzmi. Otwórz rzeczywisty abstrakt i potwierdź, że próba, metoda i ustalenie, które adnotacja przypisuje pracy, rzeczywiście się w nim znajdują. Darmowy generator bibliografii adnotowanej, który opiera każde streszczenie na abstrakcie samej pracy, zamiast tworzyć je z pamięci, pokazuje, jak wygląda naprawdę adnotacja oparta na źródle, obok takiej, która taka nie była.

W przypadku wpisów, które przejdą audyt, cytowanie ChatGPT w APA i cytowanie ChatGPT w MLA są omówione krok po kroku.

Nic z tego nie zmienia sposobu formatowania wpisu, gdy już potwierdzisz, że jest prawdziwy. Jak cytować ChatGPT to osobne pytanie, omówione w całości dla APA, MLA, Chicago i IEEE, a generator cytowań formatuje zwykłe odwołanie tak samo niezależnie od stylu. To, czego żadne z nich nie wychwytuje, to adnotacja opisująca artykuł, którego nikt nie napisał, na tyle płynna, że nikt nie pomyślał, by to sprawdzić.