과학 논문의 심사를 인공지능에게 맡기자는 제안은 언뜻 합리적으로 들린다. AI는 방대한 문헌을 빠르게 분석하고, 편견 없는 평가를 내릴 수 있으며, 인간의 피로나 주관성을 배제할 수 있다. 하지만 이 아이디어에는 결정적인 오류가 있다. AI는 논문을 ‘이해’하지 못한다. 그저 패턴을 모방할 뿐이다. 그리고 과학에서 가장 중요한 것은 패턴 너머의 의미를 읽어내는 능력이다.
AI가 생성하는 리뷰의 문제는 단순히 오류나 편향에 그치지 않는다. 더 근본적인 문제는 과학적 발견의 본질을 훼손한다는 점이다. 과학 논문은 데이터와 결론을 나열하는 문서가 아니다. 그것은 연구자의 사고 과정, 실패의 기록, 그리고 때로는 직관에 가까운 통찰을 담은 살아있는 이야기다. AI는 이 이야기를 해체하고 재조립할 수는 있지만, 그 안에 담긴 맥락을 온전히 파악하지 못한다. 예를 들어, 한 논문이 기존 연구와 다른 접근법을 취했을 때, AI는 이를 ‘이질적’으로 분류할 뿐, 그 접근법이 지닌 혁신성을 평가하지 못한다. 혁신은 종종 기존 패턴을 깨는 행위에서 시작되기 때문이다.
또 다른 문제는 AI의 ‘블랙박스’ 특성이다. AI가 특정 논문에 낮은 점수를 주었다고 가정해보자. 그 이유가 데이터 부족 때문인지, 방법론의 한계 때문인지, 아니면 단순히 AI가 학습한 패턴과 맞지 않았기 때문인지 알 수 없다. 과학적 심사는 단순히 채점하는 과정이 아니다. 그것은 연구자와 심사자 간의 대화다. AI는 이 대화를 대체할 수 없다. 왜냐하면 AI는 자신의 판단을 설명할 수 없기 때문이다. “이 논문은 70점입니다”라고 말하는 AI는, “왜 70점인지”에 대한 답을 내놓지 못한다. 과학은 불확실성을 다루는 학문이다. 그 불확실성을 설명하지 못하는 도구는 과학적 평가의 도구로 적합하지 않다.
과학은 불확실성을 다루는 학문이다. 그 불확실성을 설명하지 못하는 도구는 과학적 평가의 도구로 적합하지 않다.
AI가 과학 리뷰에서 배제되어야 한다는 주장은 기술 혐오가 아니다. 오히려 과학의 본질을 지키기 위한 최소한의 방어선이다. AI는 과학 연구의 보조 도구로 활용될 수 있다. 예를 들어, 문헌 검색이나 데이터 분석을 돕는 데는 유용하다. 하지만 최종적인 평가와 판단은 반드시 인간에게 남아 있어야 한다. 과학은 객관적인 데이터만으로 이루어지지 않는다.そこには 연구자의 열정, 동료와의 논쟁, 그리고 때로는 운까지 작용한다. 이런 요소들은 AI가 결코 대체할 수 없는 인간만의 영역이다.
더욱 우려스러운 점은 AI 리뷰가 과학계의 문화 자체를 바꿀 수 있다는 것이다. 만약 AI가 논문의 가치를 결정하는 기준이 된다면, 연구자들은 AI의 취향에 맞춰 논문을 작성하게 될지도 모른다. 이는 과학의 다양성을 해치고, 혁신을 억제할 위험이 있다. 과학은 예측 불가능해야 한다. AI가 예측 가능한 패턴을 선호한다면, 과학은 그 본질을 잃게 될 것이다.
결국, AI는 과학 리뷰에서 인간의 역할을 보완할 수는 있지만, 대체할 수는 없다. 과학적 발견은 인간의 호기심과 창의성에서 비롯된다. 그리고 그 발견을 평가하는 일도 인간의 몫이다. AI는 도구일 뿐, 과학의 주체가 될 수 없다. 이 단순한 진실을 잊지 말아야 한다.
이 글의 원문은 Nature에서 확인할 수 있다.
이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
