기술이 진실을 말할 때조차 거짓말을 한다는 역설은 어디서부터 시작된 걸까. 최근 등장한 Grainulator라는 도구는 인공지능이 “출처를 대지 못하는 말은 하지 말라”는 원칙을 강제한다. 얼핏 들으면 합리적으로 보인다. 하지만 이 도구가 던지는 진짜 질문은 따로 있다. 우리는 AI에게 진실을 요구하면서도, 그 진실이 얼마나 얄팍한 것인지를 깨닫지 못하고 있는 건 아닐까.
Grainulator의 작동 원리는 단순하다. AI가 생성한 텍스트에서 인용 가능한 출처가 없는 문장은 자동으로 삭제하거나 수정한다. 예를 들어 “파리는 프랑스의 수도다”라는 문장은 위키피디아 링크로 뒷받침될 수 있지만, “파리는 낭만의 도시다”라는 표현은 주관적인 판단이므로 삭제 대상이 된다. 기술적으로는 인상적이다. 하지만 이 도구가 만들어내는 결과물은 종종 기묘하게 느껴진다. 객관적 사실만 남기고 주관적 해석을 모두 배제한 텍스트는 마치 로봇이 쓴 법전처럼 딱딱하고 생기가 없다. AI가 인간의 언어를 흉내 내는 것이 아니라, 인간의 언어를 기계적으로 필터링한 결과물이 되어버리는 것이다.
문제는 여기서 그치지 않는다. Grainulator는 AI가 “할 수 있는 말”의 범위를 좁히면서 동시에 “해야 하는 말”의 기준을 왜곡한다. 출처가 있는 정보만 제공하도록 강제하면, AI는 자연스럽게 보수적이고 안전한 답변만을 내놓게 된다. 예를 들어 “기후변화가 인류에 미치는 영향”에 대해 질문했을 때, AI는 IPCC 보고서에 기반한 통계와 예측만을 나열할 것이다. 하지만 그 보고서가 담지 못한 지역적 특수성, 사회적 맥락, 혹은 아직 과학적으로 검증되지 않은 가설들은 모두 배제된다. 진실은 출처의 유무로만 판단될 수 없는 복잡한 그물망인데, 이 도구는 그 그물망을 잘라내어 하나의 실타래로만 남긴다.
진실이란 언제나 출처보다 먼저 존재한다. 출처는 진실을 기록하는 도구일 뿐, 진실을 정의하지는 못한다.
더 심각한 문제는 이 도구가 AI의 편향을 교정하기는커녕, 오히려 새로운 형태의 편향을 만들어낸다는 점이다. 출처가 풍부한 정보는 주로 영어권, 서구권, 혹은 특정 학계에서 생산된다. Grainulator는 이러한 정보의 비대칭성을 그대로 재생산한다. 가령 “한국의 전통 문화”에 대해 질문하면, AI는 영문 위키피디아나 서구 학자들의 연구에 의존한 답변만을 제공하게 될 것이다. 한국의 현지 연구자나 전통 문화 전문가들의 목소리가 설령 더 정확하고 깊이 있더라도, 그들의 연구가 영어로 번역되지 않았다면 AI는 그 내용을 무시할 수밖에 없다. 기술이 객관성을 추구할수록, 오히려 특정 관점의 독점은 강화되는 역설이 벌어진다.
그렇다고 이 도구가 완전히 무의미하다는 말은 아니다. AI가 생성하는 정보의 신뢰성을 높이는 데에는 분명 기여할 수 있다. 특히 학술적 글쓰기나 법적 문서 작성처럼 엄격한 인용이 요구되는 분야에서는 유용할 것이다. 하지만 이 도구가 해결하려는 문제—AI의 환각(hallucination)—는 사실 더 근본적인 질문에서 비롯된다. AI는 왜 거짓말을 하는가? 단순히 훈련 데이터의 부족 때문일까? 아니면 인간의 언어 자체가 이미 모호하고 불완전한 것이기 때문일까?
Grainulator는 AI의 거짓말을 막기 위해 출처라는 족쇄를 채운다. 하지만 그 족쇄는 AI를 더 진실하게 만들기보다는, AI가 말할 수 있는 것들의 경계를 그어버린다. 진실은 언제나 출처보다 크고, 맥락보다 깊다. 이 도구가 정말로 원하는 것이 AI의 신뢰성 향상이라면, 출처를 강제하는 것만으로는 부족하다. AI가 가진 한계를 인정하고, 그 한계를 넘어설 방법을 찾아야 한다. 그렇지 않으면 우리는 AI가 진실을 말할 때조차, 그 진실이 얼마나 얄팍한 것인지를 깨닫지 못한 채 살아가게 될 것이다.
이 도구에 대한 자세한 내용은 GitHub 저장소에서 확인할 수 있다.
이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
