학술 출판의 세계에서 가장 무서운 것은 진실이 아닌 허구가 아니다. 오히려 진실을 가장한 허구가 더 큰 파장을 일으킨다. arXiv가 최근 발표한 ‘환각 인용( hallucinated references)’에 대한 1년 추방 조치는 바로 이 지점을 건드린다. 표면적으로는 과학적 엄밀성을 지키려는 노력처럼 보이지만, 그 이면에는 AI 시대의 학문 윤리가 품은 모순이 고스란히 드러난다.
환각 인용은 말 그대로 존재하지 않는 논문을 마치 실재하는 것처럼 인용하는 행위다. 문제는 이것이 의도적인 사기가 아니라는 점이다. AI 도구의 보편화와 함께, 연구자들은 종종 자신이 인용한 논문의 존재 여부를 직접 확인하지 않은 채 시스템이 생성한 참조를 그대로 사용한다. arXiv의 조치는 이런 ‘부주의’를 의도적인 학술 부정행위와 동일하게 취급하겠다는 선언이다. 하지만 과연 이 둘을 같은 선상에 놓을 수 있을까?
과학계는 오래전부터 인용의 무게를 알고 있었다. 한 편의 논문이 얼마나 많이 인용되는지는 연구자의 영향력과 직결되며, 때로는 연구비 배분이나 승진의 기준이 되기도 한다. 이런 시스템 안에서 인용은 단순한 참고 자료를 넘어 ‘학술 화폐’의 역할을 한다. 그런데 AI가 이 화폐의 위조 가능성을 극적으로 높였다. 환각 인용은 마치 위조 지폐처럼 시스템을 교란하지만, 그 동기는 위조범과 다르다. 대부분의 경우 이는 단순 실수다. 시스템이 제공한 정보를 무비판적으로 수용한 결과다.
arXiv의 결정이 흥미로운 이유는 여기에 있다. 이 조치는 개별 연구자의 부주의를 처벌하는 동시에, 더 큰 문제를 외면하고 있다. AI 도구가 학술 생산의 표준 도구가 된 지금, 그 도구가 내놓는 결과물의 신뢰성을 누가 책임져야 하는가? 연구자? 도구 개발자? 아니면 학술 플랫폼 자체? arXiv는 이 질문에 대한 답 대신, 가장 만만한 대상인 연구자에게 책임을 전가하고 있다. 이는 마치 교통사고가 났을 때 자동차를 만든 회사가 아닌 운전자에게만 모든 책임을 묻는 것과 다르지 않다.
과학은 늘 불확실성의 바다 위에서 진행된다. 우리가 모르는 것을 인정하는 것이야말로 학문의 첫걸음이다. 그런데 환각 인용을 처벌하는 조치는 마치 우리가 모든 것을 알고 있어야 한다는 강박을 심어준다. 이는 학문을 더 안전하게 만들지 않는다. 오히려 연구자들이 자신의 무지를 숨기도록 유도할 뿐이다.
더 큰 문제는 이 조치가 AI 도구의 사용 자체를 위축시킬 수 있다는 점이다. 많은 연구자들이 이미 AI를 활용해 문헌 검색과 요약, 심지어 초안 작성에 이르기까지 다양한 단계에서 도움을 받고 있다. arXiv의 엄격한 처벌은 이런 도구들의 사용을 주저하게 만들 것이다. 이는 결국 학술 생산성의 저하로 이어질 수 있다. AI가 가져온 효율성을 포기하라는 요구는, 마치 인터넷이 보급된 초기 학자들이 ‘위키피디아를 쓰지 말라’고 주장했던 것과 크게 다르지 않다.
그렇다면 해결책은 무엇일까? arXiv의 조치는 문제의 핵심을 비껴가고 있다. 환각 인용을 방지하려면 먼저 AI 도구의 신뢰성을 높여야 한다. 이를 위해 학술 플랫폼들은 AI가 생성한 인용 목록을 자동으로 검증하는 시스템을 도입할 수 있다. 예를 들어, arXiv는 제출된 논문의 인용 목록을 크로스체크하는 기능을 강화할 수 있다. 또한 연구자들에게 AI 도구의 한계를 명확히 교육해야 한다. AI는 강력한 도구지만, 그 결과물을 무비판적으로 수용해서는 안 된다는 사실을 상기시켜야 한다.
학문은 늘 진실과 오류의 경계 위에서 진행되어 왔다. 환각 인용은 분명 심각한 문제지만, 이를 개인의 윤리 문제로만 환원하는 것은 위험하다. 기술이 변화하는 속도에 비해 학계의 대응은 항상 느렸다. arXiv의 조치는 그 격차를 보여주는 한 단면이다. 중요한 것은 처벌이 아니라 시스템의 개선이다. AI 시대에 걸맞은 새로운 학술 윤리가 필요하다. 환각 인용을 처벌하는 것만으로는 부족하다. 그보다 더 중요한 것은, 우리가 진실을 추구하는 과정에서 실수할 수 있다는 사실을 인정하는 문화다.
과학은 불완전한 인간에 의해 이루어지는 불완전한 과정이다. 환각 인용을 처벌하는 조치는 그 불완전성을 인정하지 않으려는 시도처럼 보인다. 하지만 진정한 학문의 발전은 바로 그 불완전성을 인정하고, 끊임없이 수정해 나가는 데서 비롯된다. arXiv의 결정이 불러올 파장을 지켜보면서, 우리는 더 근본적인 질문을 해야 한다. 기술이 학문의 본질을 어떻게 변화시키고 있는가? 그리고 우리는 그 변화에 어떻게 대응해야 하는가?
이 문제에 대한 더 자세한 논의는 원문에서 확인할 수 있다.
이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
