AI Humanizer는 안전한가? 개인정보와 학문적 진실성

박사과정 1학년 학생이 지도교수와의 면담 전날 밤 무료 AI humanizer에 한 장의 절반을 붙여 넣고, 10초 만에 더 매끄러운 초안을 돌려받은 뒤에야 그 장이 대체 어디로 갔는지 의문을 품는다. 이런 작업에 AI humanizer를 사용하는 것은 안전한가? 이 질문은 제대로 묻는 순간 곧바로 두 개의 별도 질문으로 나뉜다. 문서를 붙여 넣은 뒤 그 문서 자체에는 무슨 일이 일어나는지, 그리고 그 도구를 사용하는 것 자체가 소속 기관과의 관계에서 위험을 초래하는지이다. 공급업체는 대체로 첫 번째에는 마케팅 문구로 답하고, 두 번째는 아예 건너뛴다.

이 두 질문은 시장에 나온 모든 제품에 대해 단순한 예 또는 아니오로 답할 수 있는 문제가 아니다, 만약 그랬다면 그런 식으로 답하려는 페이지는 모두 무언가를 팔려는 시도였을 것이다. 두 질문 모두, 무엇이든 붙여 넣기 전에 확인할 수 있는 구체적인 항목들이 있다, 공급업체의 자체 페이지에서든, 또는 소속 기관의 자체 정책에서든 확인할 수 있다. 이것이 'AI humanizer가 안전한가'에 대한 유용한 버전이다. 전체 범주에 대해 내려진 판결이 아니라, 소속 기관의 자체 정책과 대조해 볼 수 있는 짧고 검증 가능한 목록이다.

TextPulse의 AI text를 humanize하는 방법에 대한 안내는 humanizer가 문장 수준에서 어떤 편집을 하는지, 그리고 그것이 왜 문단의 리듬을 바꾸는지를 다룬다. 이 글은 다른 질문에 머문다. 특정 문서를 특정 플랫폼에서 그런 편집을 하는 것이 실제로 안전한지에 대한 질문이다.

AI Humanizer는 안전한가? 그것은 질문에 달려 있다

AI humanizer가 안전한가라는 질문은 데이터 질문과 무결성 질문으로 나뉘며, 두 질문은 거의 서로 관련이 없다. 데이터 질문은 문서에 관한 것이다. 문서가 어디로 가는지, 누가 읽을 수 있는지, 그리고 붙여 넣은 세션보다 더 오래 남는지에 관한 것이다. 무결성 질문은 사용자 자신에 관한 것이다. 소속 기관이 그 도구를 아예 허용하는지, 그리고 이를 밝히지 않고 사용하는 것이 부정행위에 해당하는지에 관한 것이다.

공급업체는 한쪽에서는 높은 평가를 받으면서도 다른 쪽에 대해서는 아무런 유용한 정보도 주지 않을 수 있다. 모범적인 개인정보 보호정책을 가진 도구라도 사용자의 대학이 무엇을 허용하는지는 알려주지 않으며, AI 지원을 허용하는 정책도 공급업체가 문서를 잘못 다루는 경우 그 문서를 보호해 주지는 못한다. 두 질문은 각각 별도의 답이 필요하다.

붙여넣은 텍스트에 어떤 일이 일어나는가

각 AI humanizer는 이를 다시 작성하기 위해 사용자의 전체 텍스트에 접근할 필요가 있다. 두 번째 문제는 제출을 클릭하는 순간 텍스트가 사용자의 기기를 떠난다는 점이다. 그 이후에 그것이 저장되는지, 얼마나 오래 보관되는지, 그리고 미래 모델의 학습 과정에 실제로 사용되는지 여부는 전적으로 특정 공급업체가 자신의 개인정보 처리방침에 대해 무엇이라고 말하는지에 달려 있으며, 이 도구 범주에 일반적으로 참인 어떤 것에도 달려 있지 않다.

TextPulse의 AI humanizer는 특정 공급업체가 학습 문제에 어떻게 답할 수 있는지를 보여 주는 하나의 실제 사례이며, 그 답변의 형식은 다른 곳에서 무엇을 살펴봐야 하는지에 대한 템플릿으로 삼을 만하지만, 모든 제품이 이를 같은 방식으로 처리한다고 주장하는 근거는 아니다.

학습 사용은 이러한 우려의 가장 직접적인 형태이다. 제출된 문서를 미래 모델의 학습 데이터에 넣는 공급업체는, 사실상 그 사본을 무기한 보관하면서 나중에 사용자의 문장을 다른 무언가의 출력에 섞어 넣는 것이다. 특정 정책은 이 점에 대해 어느 쪽이든 한 줄로 답한다. TextPulse의 자체 개인정보 처리방침은 제출된 텍스트가 모델을 학습, 미세 조정 또는 개선하는 데 사용되지 않으며, 이를 실행하는 제3자 인프라도 계약상 동일한 행위를 금지받는다고 명확히 밝힌다. 이것이 살펴볼 만한 답변의 형식이다, 어깨를 으쓱하는 태도가 아니라 명시된 입장이다.

보관은 학습과는 별개의 두 번째 요소이다. 공급업체는 사용자의 텍스트로 학습하지 않겠다고 약속하면서도, 사용자가 제출한 모든 문서를 직원이 읽을 수 있는 상태로 수년간 보관할 수 있다. 계정과 연동된 명시된 보관 기간과, 단순한 로그인 정보가 아니라 사용자가 제출한 내용을 삭제할 수 있는 방법을 찾아야 한다. 삭제할 수 있는 계정과 삭제할 수 있는 문서는 같은 것이 아니다.

미발표 원고를 붙여넣기 전에 물어봐야 할 질문

과제 초안과 비공개 상태의 논문 장은 같은 위험이 아님을 기억할 필요가 있습니다. 완성된 에세이가 재작성 도구에 의해 읽히는 과정에서 문제가 생기더라도, 잃는 것은 거의 없습니다. 그러나 미발표 원고, 연구비 신청서, 또는 지도교수가 아직 승인하지 않은 장에서 문제가 생기면, 그 전체 가치는 다른 사람이 먼저 보지 않는 데 있습니다. 위험의 크기가 달라진다고 해서 도구가 안전하지 않다는 뜻은 아닙니다. 이는 아래 질문들에 대한 모호한 답변이 그 문서에 대해서는 토론 게시물보다 훨씬 더 큰 주의를 요구한다는 뜻입니다.

아래 표는 '이것이 안전한가'에 대한 실용적 버전입니다. 네 가지 질문과, 특정한 답변이 어떤 모습인지, 그리고 공급업체가 실제로 그 질문을 충분히 생각하지 않았을 때 보통 무엇이라고 말하는지를 나란히 보여줍니다.

질문	모호한 답변	구체적인 답변
내 텍스트는 모델 학습에 사용됩니까?	"We may use data to improve our services."	개인정보 처리방침 자체에 명시된 아니오, 또는 이름이 특정된 선택적 제외 학습 조항, 단순한 홍보 문구가 아님.
내 문서는 얼마나 오래, 어디에 보관됩니까?	사이트 어디에도 보존 기간이 명시되어 있지 않음.	계정과 연동된 보존 기간, 그리고 그 계정을 삭제하면 어떻게 되는지.
내가 제출한 것을 영구적으로 삭제할 수 있습니까?	기한이 제시되지 않은 "Contact support".	자체 삭제 옵션, 또는 삭제 요청에 대해 30일과 같은 명시된 응답 기간.
사람이 내 문서를 읽는 경우가 있습니까?	정책 어디에도 다루어지지 않음.	직원 또는 제3자 접근에 대한 명시된 제한, 그리고 접근이 허용되는 이유.

AI Humanizer를 사용하는 것은 학문적 정직성 규칙에 위배됩니까?

AI humanizer를 사용하는 것이 학문적 위험을 초래하는지는 두 가지에 달려 있습니다. 기관의 정책이 실제로 무엇이라고 말하는지, 그리고 그 도구를 무엇에 사용했는지입니다. 어느 학교에서나 이 두 질문에 대한 답이 하나로 정해져 있지는 않습니다. 정책 자체가 같은 방식으로 작성되어 있지 않기 때문입니다.

출판사들은 대체로 서로 의견이 일치한다. Elsevier, Wiley, Taylor and Francis, 그리고 대부분의 학술지 정책이 다시 참조하는 COPE와 ICMJE 지침은 모두 같은 결론에 이른다. AI 보조는 허용되지만, 저자로 기재될 수 없으며, 이를 사용했다는 사실은 공개해야 한다. 대학들은 이보다 덜 일관적이다. Oxford, Cambridge, Harvard, MIT, Monash는 모두 실제로 허용되는지 여부에 대한 결정을 기관 전체의 하나의 규칙으로 정하기보다, 학과, 강좌, 또는 개인 평가 지침으로 넘긴다. 그러나 이들 모두는 허용되는 경우에는 어디에서든 그 사용을 인정할 것을 여전히 요구한다.

도구를 무엇에 사용했는지는, 사용이 허용되었는지 여부만큼이나 중요하다. AI로 작성된 문단 전체를 humanizer에 넣어 그것이 AI로 작성되었다는 사실을 숨기는 행위는, 같은 도구를 사용하더라도 모든 주장을 스스로 작성한 뒤 자신의 문장을 다듬는 데 쓰는 것과는 다른 행위이다. 두 경우 모두 시작은 같은 버튼 클릭일 수 있다. TextPulse의 학술 글쓰기에서 AI의 윤리적 사용에 대한 안내는 이 구분을 여기의 한 절보다 더 자세히 설명한다.

선을 넘지 않고 하나를 사용하는 방법

데이터 문제와 무결성 문제를 서로 분리된 두 가지 점검으로 취급하라. 두 점검 모두 무엇이든 붙여 넣기 전에 수행해야 하며, 그 이후가 아니다. 데이터 측면에서는 위의 네 가지 질문에 대해 홈페이지가 아니라 실제 개인정보 처리방침을 읽는다는 뜻이다. 무결성 측면에서는 자신의 기관의 현재 정책을 확인하거나 지도교수에게 직접 묻는다는 뜻이다. 지난 학기에 허용적으로 느껴졌던 정책도 이미 바뀌었을 수 있기 때문이다.

• 아직 게시하지 않은 내용을 붙여 넣기 전에, 마케팅 페이지가 아니라 개인정보 처리방침 자체를 읽으십시오.
• 규정은 대학 전체 수준보다 낮은 수준에서 정해지는 경우가 많으므로, 현재 귀하의 강좌나 학과에서 무엇을 허용하는지 확인하십시오.
• 기관에서 요구하는 경우, 편집이 사소했더라도 도구 사용 사실을 공개하십시오.
• 도구가 손대기 전 자신이 작성한 내용을 보여 줄 수 있도록, 수정하지 않은 초안을 보관하십시오.

위험의 탐지 측면은 별도로 다루며, Turnitin이 humanized text를 잡아내는지에 관한 페이지에서 설명합니다. 그 아래에 있는 범주 혼동, 즉 humanizer와 paraphraser의 비교는 어느 쪽을 선택하기 전에 정리해 둘 만한 문제입니다.

이것이 도구 자체를 위험으로 만드는 것은 아닙니다. 읽지 않은 개인정보 처리방침과 확인하지 않은 강좌 안내서는 실제 위험이며, 둘 다 붙여 넣으려던 장을 읽는 데 걸리는 시간보다 덜 걸립니다.