Чому анотації, написані AI, описують неіснуючі статті

Керівник читає ту саму форму речення десять разів поспіль, відкриваючи анотовану бібліографію, читаючи її вголос, одну сторінку за іншою: Це дослідження вивчає зв’язок між X і Y, використовуючи вибірку учасників для дослідження Z, і доходить висновку, що потрібні подальші дослідження. Усі записи читаються плавно. Два з дванадцяти джерел, знайдених за назвою, не існують.

AI hallucinated citations in bibliographies рідко видають себе в рядку посилання. Вигадане ім’я автора і вигаданий журнал можуть виглядати точно як справжні, доки хтось не почне їх шукати. Те, що найчастіше викриває підробку, це анотація під ним: абзац, достатньо впевнений, щоб детально описати метод і результати статті, якої ніколи не було написано.

Як виявити AI hallucinated citations in bibliographies

Читайте анотацію перед рядком посилання. Посилання саме по собі, автор, рік, журнал, DOI, це все невеликі структуровані шаблони, які мовна модель бачила тисячі разів, і вони можуть виглядати правильними випадково або через запам’ятовування, навіть якщо за ними немає нічого реального. Анотація, навпаки, має сказати щось про те, що саме ця конкретна стаття насправді зробила, з достатньою деталізацією, щоб можна було або з’ясувати, чи це правда, або чи це неправда. Якщо модель не отримує або не читає джерело, вона не зможе робити це надійно, і результат проявиться як надмірна загальність задовго до того, як ми взагалі дійдемо до перевірки DOI.

Чому анотація викриває більше, ніж саме посилання

Вигадане посилання це здогад, замаскований під бібліографічний запис: правдоподібний автор, правдоподібний журнал, рядок, схожий на DOI, з правильною кількістю цифр. Вигадана анотація це здогад, замаскований під розуміння, а розуміння значно важче переконливо підробити в межах цілого абзацу. Модель має визначитися із вибіркою, методом і напрямом висновку, і кожна з цих деталей є місцем, де реальна стаття може їй суперечити.

Це також причина, чому анотацію читачеві легше перевірити, ніж просте посилання. Посилання оформлюється однаково, незалежно від того, чи є джерело справжнім, тож сама його форма не містить жодної інформації. Анотація робить конкретне твердження про конкретний зміст, отже, воно або підтверджується реальним текстом статті, або ні, і кількох хвилин із справжнім абстрактом достатньо, щоб з’ясувати, який саме випадок має місце.

Що пише модель, коли вона ніколи насправді не читала статтю

Попросіть мовну модель анотувати джерело, про яке вона знає лише назву і приблизну тему, і вона не відмовиться та не почне ухилятися. Вона передбачає абзац, який, імовірно, містила б стаття з такою назвою, спираючись на тисячі подібних абстрактів, побачених під час навчання, і повертає його в тому самому впевненому регістрі, який використала б для статті, яку могла б цитувати рядок за рядком.

Це читається як середнє від усього, що коли-небудь було написано поблизу цієї теми. Чесний виклад дослідження про сон і пам’ять назве справжніх учасників дослідження, справжній тест, який було використано, і справжній повідомлений розмір ефекту. Вигаданий виклад сказав би, що дослідження розглядало, наскільки добре люди спали та як працювала їхня пам’ять, і виявило, що між ними існує сильний зв’язок. Воно є достатньо загальним, щоб так само зручно стояти і під іншим, не пов’язаним із ним заголовком.

Що перевіряти	Справжня анотація зазвичай має це	Сфабрикована зазвичай має натомість це
Numbers	Конкретний розмір вибірки, величина ефекту або відсоток, що відповідає реальному abstract	Немає чисел або є кругла, неперевірна цифра, яка ніде не з’являється в фактичному джерелі
Method	Названо фактичний метод: конкретний тест, дизайн або dataset	Розпливчастий натяк на "a study" або "an analysis" без названого методу
Limitations	Одне обмеження, яке самі автори зазначили, специфічне для їхнього дизайну	Загальне обмеження, яке є правдивим майже для будь-якої paper у цій галузі
Reference match	Цитата веде до реального запису, назва якого відповідає анотації	Посилання не відкривається або веде до іншої, не пов’язаної paper

Жодна з цих перевірок не вимагає читати всю paper. Потрібно відкрити її один раз, достатньо надовго, щоб побачити, чи справді конкретні твердження в анотації з’являються в abstract.

Чому для рівня сфабрикованості потрібні версія моделі та дата

Масштаб проблеми виміряно, хоча вимірювання не узгоджуються одне з одним, тому що вони ніколи не вимірювали одне й те саме. Перевіряючи ChatGPT-3.5 і ChatGPT-4 на тих самих 42 академічних темах в один і той самий день у 2023 році, дослідники виявили, що 55 percent цитат GPT-3.5 були повністю сфабриковані, проти 18 percent у GPT-4. Ті самі prompts, ті самі дослідники, той самий день, змінилася лише model, і рівень знизився на дві третини.

Окреме дослідження, яке перевіряло вигадані факти про справи, а не бібліографічні цитати, показало, що ChatGPT-4 помилявся у 58 percent випадків на перевірюваних запитаннях про реальні федеральні судові справи, а Llama 2 помилявся у 88 percent випадків, у дослідженні, опублікованому в 2024. Ця цифра описує інше завдання на інших моделях і не повинна усереднюватися з наведеними вище показниками вигадування цитат в один загальний відсоток. У чому обидва дослідження погоджуються, так це в характері проблеми: відсоток без зазначених версії моделі та дати не описує нічого конкретного. Ширша закономірність, у шести таких дослідженнях, що охоплюють 2023 to 2026, є окремою темою: does ChatGPT make up references розглядає її повністю. Те, що має значення саме для бібліографії, залишається вужчим: чи видає анотація вигадку ще до того, як хтось перевірить DOI.

Як перевірити кожен запис в анотованій бібліографії, створеній AI

Почніть із рядка посилання: знайдіть точну назву в Google Scholar або на власному сайті журналу, і вважайте DOI непідтвердженим, доки він справді не приведе до цієї назви, оскільки вигадана цитата може містити DOI, який веде до реальної, але не пов’язаної з нею статті іншої людини. AI citation checker, який зіставляє кожен запис із реальною науковою базою даних автоматизує цей пошук замість того, щоб залишати його на ручний перегляд для кожного окремого джерела.

Потім звірте анотацію із самим джерелом, а не з тим, наскільки переконливо вона звучить. Відкрийте фактичну анотацію і підтвердьте, що вибірка, метод і висновок, які стверджує анотація, справді в ній є. Безкоштовний annotated bibliography generator, який ґрунтує кожне резюме на власній анотації статті, а не складає його з пам’яті, показує, як виглядає справді джерельно обґрунтована анотація поруч із тією, яка такою не була.

Для записів, що проходять аудит, citing ChatGPT in APA і citing ChatGPT in MLA подано окремо, крок за кроком.

Усе це не змінює того, як ви оформлюєте запис після того, як підтвердили, що він справжній. Як цитувати сам ChatGPT є окремим питанням, яке повністю розглянуто для APA, MLA, Chicago та IEEE, а генератор цитувань форматує звичайне посилання однаково, незалежно від стилю. Те, чого не виявляє жоден із них, це анотація, що описує статтю, яку ніхто не писав, достатньо вільно, щоб ніхто не подумав перевірити.