AI 탐지기는 신경다양성 작가를 더 자주 표시하는가? 연구가 말하는 것

예. 2025년 동료 심사 연구에서 AI 탐지기는 자폐 성향이 있는 작성자를 더 자주 잘못 표시했습니다: 일반 집단의 1.2 %에 비해 이들의 게시물 1.7 %를 그렇게 표시했으며, 게시물당 300단어 기준이었습니다. 이는 AI 탐지의 대표적인 거짓 양성 신경다양성 연구이며, 대학들은 ADHD와 난독증에 대해서도 경고합니다.

이들은 AI 텍스트 탐지기로, 글쓰기를 인간이 쓴 것인지 기계가 만든 것인지에 따라 점수를 매긴다. 자폐를 판별하기 위해 사람을 선별하는 도구는 종종 같은 검색 결과에 나타나며, 이는 다른 주제이다. 이러한 연구는 탐지기가 텍스트를 얼마나 자주 표시하는지를 측정할 뿐, 어떤 진단에 대해서도 주장하지 않는다.

한눈에 보는 AI 탐지의 거짓 양성 신경다양성 연구

자폐성 작가에 대한 2025년 연구는 지금까지 가장 나은 데이터를 제공한다. 이 연구는 하나의 AI 탐지기에 대한 표시 비율을 측정했다. 대학 교수 지원 센터는 또한 ADHD와 dyslexia가 있는 학생들에 대해 강사들에게 경고한다. 2024년 뉴스 테스트는 spell check와 재작성 도구가 AI 점수에 어떤 영향을 미치는지 측정했다. 비원어민 영어 작가에 대한 다른 대규모 연구들은 서로 다른 탐지기의 결과가 어떻게 달라지는지를 보여준다.

그룹	결과 또는 지침	출처
자폐성 작가	하나의 AI 탐지기에서 300개 단어 기준으로 일반 집단의 1.2%에 비해 1.7%가 표시됨	Chambers & Kelley, AIED 2025
ADHD가 있는 작가	"false positive 평가를 받을 가능성이 있는 학생들"에 포함됨	University of Nebraska-Lincoln 교수 지원 센터
dyslexia가 있는 작가	같은 지침에 포함됨	University of Nebraska-Lincoln 교수 지원 센터
일반적인 neurodivergent 학생	"더 자주 잘못 표시될 가능성이 있음"	Northern Illinois University 교수 지원 센터
편집 도구를 사용하는 작가	맞춤법 검사와 문법 제안은 AI 점수를 거의 움직이지 않았고, 텍스트 전체를 다시 쓰면 점수가 크게 변했습니다	Bloomberg Businessweek 테스트, 2024
비원어민 영어 작가	13개 탐지기 전반에서 false positive 비율이 0.0에서 100.0%까지 나타남	Park, Jeong & Kim, EMNLP 2026

교사의 약 3분의 2는 정기적으로 AI 검사기를 사용한다고 답했으며, 이는 450명 이상의 강사를 대상으로 한 설문조사에 따른 것이다. Center for Democracy & Technology는 이를 2024년 3월에 발표했다. 낮은 오류율이라도 학생들이 매년 작성하는 논문 수를 고려하면 누적될 수 있다고 Bloomberg Businessweek는 보도했다.

자폐증 AI 탐지기 연구: 저자들이 발견한 것

이 논문의 제목은 "AI 생성으로 오분류된 자폐성 글쓰기"이며, George Mason University의 Summer Chambers와 Matthew C. Kelley가 썼습니다. 이 논문은 동료 심사를 거쳤고, Springer가 Artificial Intelligence in Education (AIED 2025)에서 출판했습니다. arXiv에서 무료 사본을 받을 수 있습니다. 연구자들은 자폐성 작성자가 더 자주 오인된다는 일화가 "공식적으로 조사된 적이 없다"고 씁니다. 그들은 이러한 주장들을 검증하고자 했습니다.

그들의 데이터 집합은 약 60,000개의 Reddit 게시물로 이루어져 있으며, 사용자당 하나의 게시물이다. 그들은 짧은 게시물, 즉 1,000자 미만의 게시물을 제외했다. 자폐 가능성이 높은 집단은 자폐증에 관한 13개의 하위 레딧에서 왔다. 일반 집단은 정신 건강, 사회적 상황, 조언에 관한 긴 1인칭 서술이 있는, 문체가 비슷하도록 선택된 12개의 인기 하위 레딧에서 왔다. 자폐 관련 키워드가 포함된 일반 게시물은 제거되었다.

게시물은 Reddit API를 통해 확보되었으며, 약 2021년부터 2024년까지의 게시물과 더불어 더 오래된 게시물 모음, 즉 2010년부터 2020년까지의 게시물도 포함했다. 자폐 관련 키워드와 함께 "my daughter" 또는 "my nephew"와 같은 구문이 포함된 게시물도, 자폐성 글쓰기를 유지하기 위해 제거되었다.

저자들은 첫 번째 집단을 "likely-autistic"이라고 부르는데, 진단 여부를 확인하지 않았고 누구나 어떤 하위 레딧에도 게시할 수 있기 때문이다. 자폐인 중 일부는 일반 하위 레딧에도 게시하므로, 저자들은 자폐성 글쓰기와 비자폐성 글쓰기 사이의 실제 격차가 자신들이 측정한 것보다 더 클 수 있다고 본다.

탐지기는 OpenAI의 RoBERTa GPT-2 탐지기였으며, 2019년에 공개되어 무료로 다운로드할 수 있었다. 게시물의 AI 확률이 0.5를 넘으면, 그 게시물에는 여기서 플래그로 간주되는 "Fake" 라벨이 붙었다. 첫 번째 실험에서는 더 짧은 게시물이 더 긴 게시물보다 더 자주 플래그되었고, 자폐 가능성이 있는 게시물은 평균적으로 더 짧았다. 길이가 그 차이의 일부를 설명했을 수 있으므로, 두 번째 실험에서는 저자들이 300 words를 넘는 게시물만 남기고 각 게시물을 정확히 300으로 잘랐다.

측정값	실험 1	실험 2
분석된 게시물	59,947	33,216
사용된 텍스트	1,000자 이상인 게시물	정확히 300 words로 잘린 게시물
플래그된 자폐 가능성 그룹	1.9%	1.7%
플래그된 일반 그룹	1.5%	1.2%
보정된 오즈비	1.246 (p = 0.001)	1.501 (p below 0.001)
더 높은 perplexity	플래그가 붙을 가능성이 더 낮음	유의하지 않음

그 차이는 길이가 같을 때도 유지되었다. 실험 2에서 1.7%와 1.2%는 1,000개당 각각 약 17개와 12개의 게시물에 해당하므로, 두 그룹 모두에서 대부분의 게시물은 플래그되지 않았다.

그들은 또한 문장 길이, 단어 길이, perplexity, burstiness, 게시 날짜를 통제한 회귀, 즉 통계 모형에서 얻은 오즈를 보고한다. 그들은 실험 1에서 플래그가 붙을 "25% 더 큰 가능성"과 실험 2에서 "50% 더 큰 가능성"을 언급한다. 이것들은 작은 기준값 위의 상대적 수치이다. 실험 2의 차이는 원시 백분율로는 0.5 퍼센트포인트이다. 플래그된 게시물이 몇 개였는지 알고 싶다면 백분율을 사용해야 한다.

탐지기가 신경다양성 글쓰기를 플래그할 수 있는 이유

대학의 지침과 연구자들은 단어 선택을 지적한다. "The Challenge of AI Checkers", University of Nebraska-Lincoln의 강사용 안내서는, 신경다양한 학생들이 거짓 양성 판정을 받는 데에는 하나의 이유만 있는 것이 아니라고 말한다. 이 안내서는 그러한 판정이 반복되는 구문, 용어, 단어에 대한 의존과 관련되는 경우가 많다고 설명한다. 같은 안내서는 I, me, we와 같은 대명사가 없으면, 검사기에 따라 AI 작성으로 오해될 수 있다고 말한다.

2024년 10월의 Bloomberg Businessweek 보도는 가장 취약한 학생들이 신경다양한 학생들을 포함하여, 더 일반적인 방식으로 글을 쓰는 사람들일 가능성이 높다고 전한다. 기자들은 이를 학생들, 학자들, AI 개발자들로부터 들었다. Stanford의 James Zou는 비원어민 작성자에 관한 2023년 연구의 공동 제1저자였다. 같은 보도는 그가 다음과 같이 말한 것으로 인용한다. "단어 선택이 더 일반적이고 형식적일수록, 그 작업이 AI 탐지기에 의해 표시될 가능성은 더 높다."

자폐 연구에서는 표시 비율이 perplexity나 burstiness의 감소와 관련되지 않았다. 두 집단의 점수는 거의 동일했지만, 자폐 가능성이 있는 집단에서 약간 더 높은 경향을 보였다. 저자들은 자폐가 있을 가능성이 있는 저자들의 텍스트 특징과 AI 생성 텍스트의 특징 사이의 관계가 "직선적이지 않았다"고 지적한다.

AI 탐지기가 작동하는 방식에 대한 우리의 안내서는 perplexity와 burstiness가 처음이라면 이를 설명한다.

ADHD 글이 AI로 표시됨, 대학이 강사들에게 전하는 내용

대학의 교수학습센터는 ADHD가 있는 학생들에 대해 강사들에게 경고하기 시작했다. Nebraska 안내서는 다음과 같이 말한다. "신경다양한 학생들, 즉 자폐, ADHD, dyslexia 등은 거짓 양성 판정을 받을 가능성도 높다". Northern Illinois University의 "AI 탐지기s: An ethical minefield", 2024년 12월 자료는 다음과 같이 말한다. "신경다양한 학생들은 AI 생성 글로 잘못 표시될 가능성도 더 높다".

Whitney Gegg-Harrison & Claire Quarterman wrote a 2024 책 장 in Academic Integrity in the Age of Artificial Intelligence (IGI Global). Its 작은 말뭉치 연구는 널리 사용되는 탐지 도구 전반에서 광고된 것보다 훨씬 높은 거짓 양성률을 발견했다. 그 연구, 뉴스 보도, 그리고 학생 증언에 근거하여, 이 장은 "신경다양한 저자들이 L2 저자들과 함께 거짓 양성의 영향을 받을 가능성이 더 높다는 가능성을 제시한다". L2는 제2언어를 뜻한다.

자폐 연구의 한 발견은 토론 게시물과 같은 짧은 글을 쓰는 사람이라면 누구에게나 적용된다. 실험 1에서 더 짧은 게시물은 더 긴 게시물보다 더 자주 표시되었다. 우리는 AI 탐지기 최소 단어 수에 관한 글에서 탐지 도구가 길이에 대해 무엇을 말하는지 다룬다. 글을 쓰는 동안 초안과 메모를 저장하는 것은 자신의 글쓰기 과정을 기록으로 남기는 좋은 방법이다. 이는 어떤 점수보다도 더 잘 표시를 설명한다.

난독증 AI 탐지와 편집 도구

Nebraska 안내서는 거짓 양성에 대한 경고에서 난독증이 있는 학생들을 포함한다. 많은 저자들은 초안을 작성할 때 맞춤법 검사, 문법 제안 또는 다시 쓰기 도구를 사용하며, 두 연구는 그러한 도구가 AI 점수를 어떻게 바꾸는지 보여준다.

2024년 Bloomberg Businessweek 테스트에서, 널리 사용되는 글쓰기 보조 도구의 맞춤법 검사기와 문법 제안은 문서가 더 AI가 작성한 것처럼 보이게 만드는 데 거의 미미한 영향을 주었다. 전체 텍스트 다시 쓰기는 달랐다. 같은 보조 도구에 에세이를 "개선해 달라"고 하거나 "학술적으로 들리게 해 달라"고 요청하자, 100% 인간이 작성한 것으로 평가된 작업이 100% AI가 작성한 것으로 평가되었다.

Hyeonchu Park, Gahye Jeong & Bugeun Kim은 EMNLP 2026에서 발표된 "Style as a Confound"에서 전문 편집을 연구했다. 이들은 2018년부터 2025년까지의 학술 영어 편집 서비스에서 나온 135,389쌍의 문서를 사용했다. 각 쌍은 비원어민 저자의 원고로, 원어민 편집자가 편집하기 전과 후의 문서이다. 13개의 탐지기 전반에서, 동일한 편집은 일부 탐지기에서는 점수를 높이고 다른 탐지기에서는 점수를 낮추었으며, 점수 변화는 편집량이 많아질수록 커졌다.

그다음 이들은 OpenAI RoBERTa 모델인 탐지기 하나에서 편집을 유형별로 나누었다. 문법 편집은 그 점수에 작은 음의 변화를 만들었고, 문장 구조를 바꾸는 통사 편집은 가장 큰 양의 변화를 만들었다. 이들은 탐지기 출력이 AI 사용의 결정적 증거로 간주되어서는 안 되며, 특히 편집이 흔한 경우에는 더욱 그렇다고 결론짓는다. 전체 구절을 다시 쓰는 도구를 사용한다면, 이전 버전을 보관하고 자신의 강의에서 무엇이 허용되는지 확인해야 한다.

거짓 양성률은 탐지기에 따라 달라진다

거짓 양성률은 각 탐지기마다 다르다. 이 비율은 해당 연구에서 시험한 특정 탐지기에 대한 것이다. Liang과 동료들의 2023년 연구는 Patterns에서 미국 8학년 학생들의 에세이에서 거의 완벽한 정확도를 보였다. 반면, 탐지기들은 비원어민 저자의 TOEFL 에세이 절반 이상을 표시했다. 자세한 내용은 비원어민 저자에 대한 탐지기 편향에 관한 우리의 탐지기 편향에 대한 글을 보라.

TextPulse Research가 2026년에 발표한 비원어민 작성자와 거짓 양성에 관한 작업 중 논문은 현대 AI 도구가 나오기 전에 작성된 5,600개의 ICNALE 에세이를 점수화했습니다. 한 연구용 분류기인 로지스틱 회귀는 학습자 에세이의 2.7 %와 원어민 에세이의 3.3 %를 표시했습니다. 같은 특징과 에세이로 학습한 그래디언트 부스팅 모델은 학습자 12.5 %와 원어민 3.8 %를 표시했습니다. 따라서 어느 집단이 더 자주 표시되는지는 탐지기에 따라 달라집니다.

Park 연구에서 13개 탐지기의 거짓 양성률은 사람이 쓴 텍스트에 대해 0.0 %에서 100.0 %까지 크게 달랐습니다. Bloomberg Businessweek는 ChatGPT 이전인 2022년 여름 Texas A&M에 제출된 500개의 대학 지원서 에세이 무작위 표본에 대해 두 개의 대표적인 탐지기를 시험했습니다. 해당 서비스들은 에세이의 1 %에서 2 %를 잘못해서 AI 가능성이 높은 것으로 분류했습니다.

같은 보고서에서 Turnitin은 문서 수준 거짓 양성률이 1 % 미만이고 문장 수준 비율은 4 %라고 밝혔습니다. 따라서 학생에게 중요한 수치는 학교가 사용하는 탐지기의 수치입니다.

표시되었거나 표시를 검토하는 경우

학생을 위한

초안 기록이 출발점이다. 그것은 이전 초안과 텍스트가 어떻게 발전했는지에 대한 메모를 보여 주며, 점수는 보여 주지 못한다. 전체 보고서와 적용되는 정책을 서면으로 요청하라. 절차는 AI 사용 혐의를 받았을 때 먼저 무엇을 해야 하는지와 AI 탐지 이의 제기 편지 작성에 관한 우리의 글에서 다룬다.

flag에 대한 가장 좋은 대응은 자신의 작업 과정을 보여 주는 것이다. 자신이 쓴 내용을 기록으로 남겨 두라. Google Docs 또는 Microsoft Word를 사용하여, 버전 기록을 활성화한 상태로 초안과 자신이 읽은 메모, 개요, 출처를 작성하고 추적하라. 맞춤법 검사, 받아쓰기, 텍스트 음성 변환 같은 보조 기술을 사용한다면, 어떤 것을 어떻게 사용하는지 강사나 접근성 담당 부서에 알릴 수 있다.

또한 대학의 장애 또는 접근성 담당 부서에 연락하고 싶을 수도 있다. 자신의 진단에 대해 교사나 심사위원단에 알릴지 결정하라. 다음과 같이 말할 수 있다. 비율은 탐지기마다 다르다. 한 동료 심사 연구는 그중 하나에서 likely-autistic writers에 대한 더 높은 flag 비율을 보여 주었다. 당신의 초안은 집단에 대한 연구보다 더 중요하다, 왜냐하면 집단에 대한 연구는 당신 자신의 에세이가 어떻게 작성되었는지 보여 줄 수 없기 때문이다.

직원을 위한

점수는 단지 추정치일 뿐입니다. 그것은 글쓰기 과정을 물어볼 이유입니다. 초안과 메모가 있다면 그것을 보여 달라고 요청하십시오. 학생이 그 글을 어떻게 썼는지 물어보십시오. 진단이나 글쓰기 양식은 AI 사용에 대한 증거가 아닙니다. 학생이 맞춤법 검사나 받아쓰기처럼 어떤 도구를 사용했는지 물어보십시오. 맞춤법 검사와 문법 제안은 Bloomberg의 2024년 시험에서 AI 점수를 거의 움직이지 않았지만, 전체 텍스트 재작성은 그것들을 크게 움직였습니다. 같은 Bloomberg 보고서는 탐지기 제작자들이 자신의 점수가 교사가 참고하도록 이끄는 하나의 데이터 지점이라고 말한다고 전합니다. Chambers와 Kelley는 이러한 모델과 그것의 학문적 맥락에서의 사용에 대한 추가적인 비판적 검토를 권고합니다.

이 사이트의 도구

무료 perplexity checker는 초안의 단어 변이를 추정하고, 무료 burstiness checker는 문장 길이를 도표로 보여줍니다. 어느 수치도 그 텍스트를 누가 썼는지에 대해 아무것도 증명하지 않습니다. TextPulse AI humanizer는 인용과 용어를 보존하면서, 사용자가 직접 쓴 초안의 AI 점수를 낮추도록 설계되었습니다. 이를 사용한다면, 자신의 강좌가 그러한 도구를 허용하는지 확인하고, 출력물을 읽어 보십시오. 이 연구의 어떤 내용도 글쓰는 방식을 바꿔야 한다고 말하지 않습니다.