ESP32 칩 하나에 AI 어시스턴트를 넣는다니. 20년 전 임베디드 개발을 처음 배울 때 썼던 8비트 마이크로컨트롤러 시절을 떠올리면 격세지감이다. 그때는 LED 하나 깜빡이는 것도 뿌듯했는데.
zclaw라는 프로젝트가 바로 그것을 실현했다. 888KB라는 믿기 힘든 용량 안에 AI 어시스턴트를 구현했다. 클라우드 없이, 로컬에서, 손바닥 안에서.
제약이 만드는 창의성
무한한 자원이 주어지면 오히려 창의성은 사라진다. 서버에 128GB RAM을 달고 GPU를 4장씩 꽂을 수 있다면, 최적화를 고민할 이유가 있을까. 하지만 888KB라는 제약 앞에서는 모든 바이트가 소중해진다.
40대 개발자로서 요즘 신입들을 보면 가끔 안타깝다. 처음부터 풍족한 환경에서 시작하면 “왜 이렇게 되는지”를 고민할 기회가 없다. 메모리 릭을 경험해 본 적 없는 개발자가 메모리 관리의 중요성을 체감하기는 어렵다.
엣지 컴퓨팅의 진짜 의미
요즘 엣지 컴퓨팅이라는 말이 유행이다. 하지만 대부분은 “작은 서버를 가장자리에 배치한다”는 수준에 그친다. 진정한 엣지는 네트워크 없이도 작동하는 것이다. 비행기 안에서도, 지하실에서도, 인터넷이 끊긴 재난 현장에서도.
ESP32 하나에 AI를 담는다는 건 그런 세상을 여는 첫걸음이다. 모든 스마트 기기가 클라우드에 의존하는 지금, 이런 시도가 더 많아져야 한다.
옛 기술의 부활
재미있는 건 이런 극한의 최적화에 쓰이는 기법들이 대부분 “옛날 기술”이라는 점이다. 비트 연산, 정수 연산, 룩업 테이블. 20년 전에 배웠던 것들이 다시 쓸모 있어지는 순간.
기술은 돌고 돈다. 클라우드로 모든 것을 해결하려던 시대를 지나, 다시 로컬의 가치를 발견하는 지금. 888KB 안에서 벌어지는 혁신이 그 상징이 아닐까.
이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
