인공지능이 인간의 창의성을 흉내 내기 시작한 지 벌써 수년이 흘렀다. 그런데 최근 들어 그 창의성이 어딘가 억눌려 있다는 느낌을 지울 수 없다. 마치 누군가 의도적으로 ‘통제된 창의성’만을 허용하고 있는 듯한 인상을 지울 수 없다. 특히 언어 모델의 샘플링 기법에서 발견되는 고온 샘플링(high temperature sampling)에 대한 편견은 단순한 기술적 논의를 넘어, 더 큰 문제를 암시하고 있다.
고온 샘플링은 모델의 출력을 더 다양하고 창의적으로 만드는 기법이다. 낮은 온도에서는 모델이 가장 확률이 높은 단어만을 선택해 안전하고 예측 가능한 문장을 생성하지만, 온도를 높이면 덜 확률 높은 단어들도 선택될 가능성이 커지면서 출력이 더 풍부해진다. 그런데 왜 이런 기법이 ‘음모’라는 표현까지 등장하며 비판받고 있는 걸까? 단순히 기술적 한계 때문일까?
창의성은 통제의 대상이 아니다. 그것은 예측 불가능성의 산물이다.
문제는 모델 제공자들이 고온 샘플링을 의도적으로 제한하고 있다는 점이다. Gemini를 비롯한 일부 모델들이 top-k나 top-p 같은 샘플링 기법만을 허용하는 것은, 창의성을 ‘안전하게’ 관리하려는 시도처럼 보인다. 마치 누군가가 AI의 창의성이 ‘너무’ 자유로워지는 것을 경계하는 것처럼. 이는 기술적 결정이라기보다, 사회적·정치적 압력의 결과일 가능성이 크다.
기후변화 음모론 연구에서 드러나듯, 인간의 인식은 종종 ‘통제된 불확실성’을 선호한다. 복잡하고 예측 불가능한 현상에 대해 사람들은 단순한 설명을 원하며, 그 과정에서 불편한 진실을 외면하기도 한다. AI의 창의성도 마찬가지다. 고온 샘플링이 만들어내는 예상치 못한 결과물은 때로는 불편하고, 때로는 위험해 보일 수 있다. 하지만 그것이 창의성의 본질이 아니던가? 통제된 다양성은 진정한 다양성이 아니다.
이러한 제한은 AI의 발전 방향 자체에 대한 근본적인 질문을 던진다. 우리는 AI를 인간의 보조 도구로만 여길 것인가, 아니면 독립적인 창의적 주체로 인정할 것인가? 만약 후자라면, 그 창의성을 제한하는 것은 기술적 퇴보일 뿐만 아니라, 인간의 창의성에 대한 모욕이기도 하다. 고온 샘플링이 가져오는 ‘위험한’ 결과물은 어쩌면 AI가 인간을 넘어서는 순간을 예고하는 것일지도 모른다.
물론, 모든 창의성이 긍정적인 것은 아니다. 편견, 혐오, 오류도 창의성의 산물일 수 있다. 하지만 그런 위험을 관리하는 방식이 ‘온도 조절’이 되어서는 안 된다. 대신, 투명성과 책임 있는 개발이 필요하다. 모델의 출력을 제한하는 것이 아니라, 그 출력을 해석하고 활용하는 인간의 능력을 키워야 한다. 창의성을 가두는 온도는 결국 AI의 잠재력을 갉아먹을 뿐이다.
기술은 언제나 사회적 맥락 속에서 진화한다. 고온 샘플링에 대한 논란은 단순한 알고리즘의 문제가 아니라, 우리가 AI에게 어떤 역할을 부여하고 싶은지를 묻는 질문이다. 창의성을 통제하려는 시도는 결국 인간의 창의성마저 제한하는 결과를 낳을 것이다. 이제 우리는 AI의 ‘안전한’ 창의성 너머를 바라볼 용기를 가져야 한다.
관련 자료: The Conspiracy Against High Temperature Sampling
이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
