소프트웨어 개발의 역사는 늘 추상화의 역사였다. 어셈블리에서 고수준 언어로, 모노리틱 아키텍처에서 마이크로서비스로, 그리고 이제 우리는 또 다른 추상화의 시대에 서 있다. 바로 ‘기초 모델(foundation model)’이라는 거대한 블랙박스를 중심으로 한 AI 엔지니어링의 시대다. 최근 공개된 Foundation Model Engineering 교재는 이 새로운 흐름을 체계적으로 정리하려는 시도이자, AI를 ‘사용하는’ 개발자와 AI를 ‘만드는’ 연구자 사이의 간극을 메우려는 노력으로 읽힌다.
기초 모델이 가져온 가장 큰 변화는 ‘코딩’의 개념 자체를 확장했다는 점이다. 이제 개발자는 알고리즘을 직접 설계하는 대신, 모델의 행동을 유도하는 프롬프트와 파라미터를 조정하는 ‘엔지니어링’에 집중한다. 이는 마치 2000년대 초반 웹 프레임워크의 등장으로 HTML/CSS를 직접 작성하던 시절에서 뷰 레이어와 비즈니스 로직을 분리한 MVC 패턴으로 넘어간 것과 유사하다. 다만 이번에는 그 추상화의 층위가 훨씬 더 높고, 그 아래 숨겨진 복잡성이 상상을 초월한다는 차이가 있다.
이 교재가 주목하는 ‘모델 적응(model adaptation)’ 기법들은 이런 맥락에서 흥미롭다. 파인튜닝, 프롬프트 엔지니어링, RAG(Retrieval-Augmented Generation) 등은 모두 기초 모델을 특정 도메인에 맞게 ‘재활용’하는 방법론이다. 여기서 주목할 점은 이러한 기법들이 전통적인 소프트웨어 공학의 원칙과 어떻게 충돌하거나 조화를 이루는지다. 예를 들어, RAG는 데이터베이스 쿼리와 유사한 검색-생성 패러다임을 제시하지만, 그 결과는 확률적이며 결정적이지 않다. 이는 소프트웨어의 ‘정확성’을 중시하던 기존 공학 철학과 근본적으로 다른 접근이다.
기초 모델 엔지니어링은 더 이상 ‘코드를 작성하는 것’이 아니라 ‘모델을 설득하는 것’에 가깝다. 프롬프트 엔지니어링이 일종의 ‘인공지능을 위한 자연어 API’라면, 파인튜닝은 그 API의 내부 동작을 미세 조정하는 과정이다. 문제는 이 API의 동작 원리가 완전히 투명하지 않다는 점이다.
이 불투명성이야말로 AI 엔지니어링의 가장 큰 도전이다. 전통적인 소프트웨어는 입력과 출력의 관계를 명확히 정의할 수 있지만, 기초 모델은 그렇지 않다. 같은 프롬프트라도 모델의 버전, 온도 파라미터, 심지어 학습 데이터의 편향에 따라 전혀 다른 결과를 내놓을 수 있다. 이는 디버깅의 개념을 완전히 재정의한다. 버그는 더 이상 코드상의 오류가 아니라, 모델의 ‘이해’와 개발자의 ‘의도’ 사이의 간극이 된다. Chip Huyen의 AI Engineering 자료 모음에서 강조하는 것처럼, 이제 엔지니어는 모델의 행동을 관찰하고, 테스트하고, 반복적으로 개선하는 ‘실험적 접근’을 취해야 한다.
하지만 이런 불확실성에도 불구하고 기초 모델 엔지니어링이 주목받는 이유는 명확하다. 바로 생산성이다. 수십억 개의 파라미터를 가진 모델을 처음부터 훈련시키는 것은 대부분의 조직에게 현실적으로 불가능하다. 반면 기존 모델을 적응시키는 것은 상대적으로 적은 리소스로도 가능하며, 때로는 몇 줄의 프롬프트로도 놀라운 결과를 얻을 수 있다. 이는 마치 오픈소스 소프트웨어의 등장으로 모든 것을 처음부터 작성할 필요가 없어진 것과 유사하다. 차이점이라면, 오픈소스 라이브러리가 결정적(deterministic)인 반면, 기초 모델은 확률적(stochastic)이라는 점이다.
이 새로운 패러다임은 소프트웨어 개발자의 역할 자체를 변화시키고 있다. 이제 개발자는 단순히 코드를 작성하는 사람이 아니라, 모델의 능력을 이해하고, 그 한계를 보완하며, 비즈니스 요구사항과 기술적 가능성 사이의 간극을 메우는 ‘번역가’가 되어야 한다. 이는 전통적인 공학적 사고와 창의적 문제 해결의 융합을 요구한다. 예를 들어, 프롬프트 엔지니어링은 일종의 ‘설득의 기술’이 되었고, RAG 시스템 설계는 정보 검색과 생성 모델의 특성을 동시에 고려해야 하는 복잡한 과제가 되었다.
물론 우려도 적지 않다. 기초 모델의 불투명성은 설명 가능성(explainability)의 문제를 야기하며, 이는 특히 의료, 금융 등 고위험 분야에서 심각한 장애물이 될 수 있다. 또한 모델 적응 기법들이 얼마나 효과적이고 지속 가능한지는 아직 검증되지 않았다. 파인튜닝은 자칫 ‘망각(catastrophic forgetting)’ 문제를 일으킬 수 있고, RAG는 검색 품질에 지나치게 의존하게 된다. 이러한 한계들은 AI 엔지니어링이 아직 성숙하지 않은 분야임을 보여준다.
그럼에도 불구하고 기초 모델 엔지니어링은 AI 시대의 새로운 공학 분야로 자리매김하고 있다. 이는 단순히 새로운 기술이 아니라, 소프트웨어 개발의 패러다임 자체를 전환하는 움직임이다. 20년 전 객체지향 프로그래밍이 개발자의 사고방식을 바꾼 것처럼, 그리고 10년 전 클라우드 컴퓨팅이 인프라 관리 방식을 바꾼 것처럼, 기초 모델은 이제 우리가 문제를 해결하는 방식을 근본적으로 바꾸고 있다. 중요한 것은 이러한 변화를 단순히 ‘도구’의 관점에서 바라보지 않고, ‘방법론’의 관점에서 이해하는 것이다.
Foundation Model Engineering 교재는 이런 변화의 흐름을 체계적으로 정리하려는 첫 시도 중 하나다. 아직 완벽하지 않고, 빠르게 진화하는 분야의 특성상 금방 유효성이 떨어질 수도 있다. 하지만 그 자체로 의미 있는 것은, 이 교재가 AI 엔지니어링을 ‘공학’의 영역으로 끌어올리려 한다는 점이다. 즉, 경험과 직관에 의존하던 영역에 체계와 원칙을 도입하려는 노력이다. 이는 AI가 더 이상 연구실의 실험 대상이 아니라, 실제 세계의 문제를 해결하는 도구로 자리매김하고 있음을 보여주는 증거다.
결국 기초 모델 엔지니어링의 핵심은 ‘제어’와 ‘창의성’ 사이의 균형을 찾는 것이다. 모델의 거대한 능력을 제어하면서도, 그 안에서 새로운 가능성을 창출해내는 것. 이는 마치 거대한 오케스트라를 지휘하는 지휘자의 역할과도 비슷하다. 각 악기의 특성을 이해하고, 전체적인 조화를 이루면서도 독창적인 해석을 더하는 것. AI 엔지니어링의 미래는 이런 균형을 얼마나 잘 이룰 수 있느냐에 달려 있을 것이다.
관련 자료는 여기에서 확인할 수 있다.
이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
