어린 시절 백과사전 속 통계 표를 들여다보던 기억이 난다. 숫자들이 촘촘히 박힌 표는 마치 미로처럼 복잡해 보였지만, 그 안에 담긴 규칙을 발견했을 때의 희열은 잊을 수가 없다. 그때는 몰랐지만, 그 작은 표들이 훗날 인공지능이라는 거대한 흐름의 일부가 될 줄이야. 표 형식의 데이터(tabular data)는 여전히 우리 주변에 넘쳐난다. 은행 거래 내역, 병원 진료 기록, 제조 공정 로그까지—우리가 매일 접하는 정보의 상당수가 표로 정리되어 있다. 그런데 이 표 데이터를 다룰 때면 늘 한 가지 딜레마에 부딪힌다: 규모와 정확성 사이의 균형이다.
TabPFN-3의 등장은 이 딜레마에 대한 흥미로운 해답을 제시한다. 이전 버전들이 수천 개의 행을 처리하는 데 그쳤다면, 이번 모델은 백만(1M) 행이라는 거대한 표 데이터를 다룰 수 있게 되었다. 이는 단순한 숫자의 증가가 아니다. 백만 행이라는 규모는 기업의 연간 거래 내역, 대규모 임상 시험 데이터, 혹은 한 도시의 교통 흐름 데이터를 아우를 수 있는 크기다. 문제는 이런 대규모 데이터에 전통적인 머신러닝 기법이 잘 작동하지 않는다는 점이었다. 트리 기반 모델은 메모리 부족으로 허덕였고, 딥러닝 모델은 표 데이터의 불규칙한 특성 때문에 성능이 떨어졌다. TabPFN-3는 이 두 가지 문제를 동시에 해결하려는 시도처럼 보인다.
이 모델의 핵심은 ‘사전 훈련된 추론기(pre-trained prior)’라는 개념이다. 마치 인간의 직관이 오랜 경험에서 우러나오는 것처럼, TabPFN은 사전에 수많은 표 데이터 패턴을 학습해두었다가 새로운 데이터가 주어지면 이를 기반으로 빠르게 예측을 수행한다. 이는 전통적인 머신러닝이 매번 데이터를 처음부터 학습해야 하는 것과는 대조적이다. 특히 주목할 점은 이 모델이 ‘제로샷(zero-shot)’ 방식으로 작동한다는 것이다. 즉, 추가적인 학습 없이도 새로운 데이터에 바로 적용할 수 있다는 말이다. 이는 마치 수십 년 동안 다양한 환자를 진료해온 의사가 새로운 환자를 볼 때 즉각적인 판단력을 발휘하는 것과 비슷하다.
표 데이터는 종종 ‘AI의 마지막 경계’라고 불린다. 이미지와 텍스트가 딥러닝의 혁명을 이끌었지만, 표 데이터는 그 복잡성과 다양성 때문에 여전히 난공불락의 요새처럼 여겨졌다.
하지만 TabPFN-3가 이 경계를 허물 수 있을까? 아직은 섣부른 판단이 어려울지 모른다. 모델의 성능이 실제 환경에서 어떻게 발휘될지는 미지수다. 특히, 표 데이터의 특성상 도메인마다 요구되는 정확성과 해석 가능성이 천차만별이기 때문이다. 예를 들어, 의료 데이터에서는 99%의 정확도도 부족할 수 있지만, 마케팅 데이터에서는 80%의 정확도도 유용할 수 있다. 또한, 백만 행이라는 규모가 실무에서 얼마나 유의미한지는 의문이다. 대부분의 기업이 다루는 데이터가 이보다 작을 수도 있고, 반대로 이보다 훨씬 클 수도 있기 때문이다.
더 근본적인 질문은 이것이다: 표 데이터에 ‘범용 모델’이라는 개념이 정말 필요한가? 이미지와 텍스트 분야에서는 대규모 사전 훈련 모델이 혁신을 이끌었지만, 표 데이터는 그 특성상 도메인 지식이 더 중요할 수도 있다. TabPFN-3가 보여주는 접근 방식은 흥미롭지만, 이것이 모든 표 데이터 문제에 대한 만능 해결책이 될지는 의문이다. 어쩌면 이 모델은 표 데이터의 다양성을 존중하면서도 효율성을 높이는 하나의 시도일 뿐, 궁극적인 해답은 아닐지도 모른다.
그렇다고 해서 이 연구의 가치를 폄하할 수는 없다. TabPFN-3는 표 데이터 처리라는 오래된 문제에 새로운 시각을 제시했다. 특히, 사전 훈련된 모델을 통해 적은 데이터로도 높은 성능을 낼 수 있다는 점은 주목할 만하다. 이는 소규모 기업이나 연구 기관에서도 고급 머신러닝 기술을 활용할 수 있는 가능성을 열어준다. 또한, 이 모델이 보여주는 ‘규모의 확장성’은 향후 더 큰 데이터셋을 다룰 수 있는 토대를 마련했다는 점에서 의미가 있다.
기술의 발전은 종종 이런 식으로 이루어진다. 한계에 부딪힌 듯 보이던 분야에 새로운 아이디어가 등장하고, 그것이 다시 더 큰 질문을 던진다. TabPFN-3가 표 데이터의 미래를 완전히 바꿀지는 모르겠지만, 적어도 우리가 이 분야를 바라보는 방식을 바꿔놓을 것이다. 어쩌면 우리는 이제 표 데이터가 더 이상 ‘AI의 마지막 경계’가 아니라는 사실을 인정해야 할지도 모른다. 그 경계는 이미 조금씩 허물어지고 있기 때문이다.
이 연구에 대한 자세한 내용은 여기에서 확인할 수 있다.
이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
