“Local storage for coding agents resolves amnesia”라는 글을 보면서 공감했다. AI 코딩 어시스턴트를 쓰다 보면 가장 답답한 것 중 하나가 “기억”의 한계다.
새 세션을 시작할 때마다 같은 설명을 반복해야 하고, 프로젝트의 컨텍스트를 처음부터 다시 알려줘야 한다. 마치 매일 새로운 동료에게 온보딩을 하는 느낌.
컨텍스트 윈도우의 한계
LLM의 컨텍스트 윈도우는 길어지고 있지만, 여전히 한계가 있다. 대규모 코드베이스 전체를 넣을 수는 없다. 더구나 토큰 비용도 만만치 않다.
개인적으로 사용하는 프로젝트에서 매번 README와 주요 파일 구조를 복사해서 붙여넣는 것이 일과가 되어버렸다. 비효율적이지만 어쩔 수 없었다.
로컬 스토리지라는 해결책
이 프로젝트는 코딩 에이전트가 정보를 로컬에 저장하고 필요할 때 불러올 수 있게 한다. 프로젝트 규칙, 코딩 스타일, 자주 쓰는 패턴 등을 저장해두면 다음 세션에서도 참조할 수 있다.
RAG(Retrieval-Augmented Generation)의 아이디어를 코딩 에이전트에 적용한 것이라고 볼 수 있다. 필요한 정보만 검색해서 컨텍스트에 넣으니 효율적이다.
개발 워크플로우의 변화
이런 도구가 성숙해지면 개발 워크플로우가 달라질 것이다. 프로젝트를 시작할 때 AI를 위한 문서도 함께 작성하게 될지 모른다. README.md 옆에 AI_CONTEXT.md 같은 파일이 생기는 것이다.
40대 개발자로서, 도구가 발전하면 우리의 일하는 방식도 함께 진화해야 한다는 것을 느낀다. 적응하고 활용하는 것이 경쟁력이 된다.
이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.