Why
요즘 AI 코딩을 하면서 계속 드는 생각이 있어요.
너무 좋고 편하고 빠른데 말입니다.
예전에는 AI가 없어도 개발을 하고, 있으면 조금 더 빨라지는 정도였다면,
이제는 AI가 있을 때와 없을 때의 생산성 차이가 너무 커졌습니다.
특히 큰 리팩토링, 반복 작업, 테스트, 구조 변경 같은 작업에서는
AI로 일하는 것이 너무 자연스러워졌습니다.
근데 문제는...
이거 계속 쓸 수 있는 건가?
저는 이 환경의 지속 가능성이 항상 찜찜 합니다.
현재 가장 좋은 AI 환경은 대부분 프론티어 모델 구독 입니다.
좋은 모델을 쓰고,
좋은 하네스를 쓰고,
테스트를 돌리고,
긴 작업을 이어갑니다.
너무 행복하고 좋죠.
그런데 이 구조에는 치명적인 문제가 있는데
가격과 사용량을 제가 정하지 않는다는 것이죠.
가격이 오를 수도 있고,
사용량이 줄어들 수도 있고, (맨날 그런것 같죠?)
정책이 바뀔 수도 있습니다. (Fable 5 에서 보셨죠?)
개인 취미라면 괜찮습니다.
하루 이틀 쉬면 되니까요.
그런데 엔지니어링 조직의 AI 의존도가 점점 높아진다면 이야기가 달라집니다.
이건 더 이상 툴 문제가 아닙니다.
엔지니어링 전체의 리스크죠.
진짜 문제는 비용보다 멈춤입니다
AI 도구를 이야기할 때 비용을 먼저 보게 됩니다.
물론 비용, 중요합니다.
하지만 저는 진짜 문제는 멈춤 이라고 생각합니다.
좋은 AI 코딩 환경은 개발자 생산성을 크게 올려줍니다.
그만큼의 생산성이 나온다면 일정 수준의 비용은 감당할 수 있습니다.
그런데 돈을 더 내고 싶어도 못 쓰는 상황이 생긴다면요?
아니면 애초에 불가능한 가격 이라면요?
토큰이 부족하거나,
주간 사용량이 끝나거나,
특정 기능이 갑자기 제한되면,
그때는 개발이 멈춥니다.
이게 찜찜 했습니다.
그래서 대안을 계속 찾고 있었습니다.
저는 오래 전부터 로컬 LLM 을 지속적으로 테스트해 왔습니다.
제가 가진 장비들로 돌려보고,
모자르면 클라우드에서도 돌려보고,
너무 비싸면, GPU 임대 서비스로도 돌려보며,
여러 로컬 코딩 모델들을 계속 실험 해왔습니다.
미스트랄, 라마, 젬마, 딥시크, qwen 등등 셀수도 없고 기억도 안나요.
테스트 할 때마다 매번 실망 하긴 했습니다.
이거 재미는 있는데, 아직 우리가 쓰는 프론티어 모델 대체는 어렵다.
지능이 아쉽거나,
컨텍스트가 아쉽거나,
멀티모달이 아니거나,
매번 프론티어 모델이 짱이었습니다.
그런데 최근에는 조금 생각이 바뀌었습니다.
DGX SPARK 2대 구성에서 DeepSeek v4 flash 를 로컬로 돌려본 순간이 기억납니다.
커뮤니티 평이 좋아서 약간 기대를 가지고는 있었지만,
한두번 속은게 아니라서 그러려니 하며 돌려봤는데,
와우 이거는...
처음이었습니다.
실망을 안시킨 로컬 모델은.
물론 프론티어 모델과 비교하면 쪼금 부족하긴 합니다.
계획이나 복잡한 작업은 여전히 프론티어 모델이 훨씬 좋은 것 같아요.
하지만 워커 역할로는 훌륭했습니다.
프론티어와 거의 차이가 없었습니다.
가능성이 보인 이 느낌이 좋았죠.
심리적으로 미래의 불확실성이 조금 걷히니까요.
그리고 로컬 모델에 대한 생각이 바뀌자마자
이 생각이 들더군요.
다양한 하네스에 익숙해져야 합니다.
익숙한걸 바꾸기는 어렵습니다.
그래서 사람들은 그 관성으로 선택하는 경우가 많죠.
차라던지, 음식이라던지 등이요.
이쯤에서 AI 코딩 환경에 지대한 영향을 미치는 하네스를 생각해야 합니다.
요즘 AI 코딩은 단순히 모델에게 프롬프트를 던지는 일이 아니죠.
파일을 읽고, 쓰고
테스트를 실행하고,
맥락을 이어가고,
계획과 투두 까지.
이 역할을 Claude Code, Codex 같은 하네스가 아주 잘 해주고 있습니다.
그러나 저 하네스들은 공급자들이 만든 것입니다.
편하고 좋지만, 거기 의존하는 것이죠.
그 하네스의 정책, 요금, 모델 지원, 장애, 사용량 제한에 같이 묶여 버리고,
불리해져도 익숙함 때문에 바꾸지 못한다면
아무리 좋은 로컬 환경이 나와도 바꾸지 못합니다.
그래서 평소에 여러 하네스를 경험해 두는 것이 중요하다고 생각합니다.
하네스는 이미 많습니다.
Claude Code, Codex, OpenCode, Pi...
여러분은 언제든 하네스를 갈아탈 수 있어야 합니다.
마무리
로컬 LLM 은 아직 메인이 아닙니다.
하지만 보험으로는 의미가 생기기 시작했습니다.
그래서
AI 코딩은 앞으로 더 깊게 써도 된다고 생각 합니다.
보험이 있으니까요.
다만 단 하나에만 기대면 안됩니다.
프론티어 모델을 메인으로 쓰고,
저렴한 API 모델을 워커로 붙이고,
로컬 LLM 을 보험으로 생각하고,
여러 하네스를 언제든 갈아탈 수 있는 상태를 만드는 것,
그러면서 내 코드 품질과 생산성을 잘 유지하는 것.
이게 요즘 시대의 프로 엔지니어의 짜세 라고 생각 합니다.
다음에도 좋은 글로 찾아뵙겠습니다.
아임웹 CTO 매튜 드림.
