세쿼이아캐피털이 2026년 8월 19일 파트너 소냐 황 명의로 “당신의 지능을 소유하라”는 실전 가이드를 공개했다. 같은 해 7월 팔란티어 최고경영자 알렉스 카프가 기업들에게 “생산수단을 직접 소유하라”고 말했고, 뒤이어 마이크로소프트 최고경영자 사티아 나델라는 “프런티어 랩에서 지능을 사는 것은 두 번 대가를 치르는 일”이라고 지적했다. 한 번은 API 요금으로, 또 한 번은 그 모델을 쓸모 있게 만들기 위해 내놓은 회사 고유의 데이터와 노하우로 대가를 치른다는 뜻이다.
세쿼이아는 이 논쟁에 실제 사례로 답한다. 8월 초 자사 포트폴리오 창업자들을 모아 연 행사에서 법률 AI 기업 하비(Harvey), 인재 평가 기업 머커(Mercor), 에이전트 프레임워크 랭체인(LangChain), 온라인 학습 스타트업 트라젝토리(Trajectory), 추론 인프라 기업 파이어웍스(Fireworks)가 각자 지능을 직접 갖추는 기술 스택을 설명했다. 이 글은 그 논의를 세쿼이아가 정리한 4단계 실행 프레임워크로 재구성한 것이다.
왜 지금 오픈 모델로 직접 갖추는 선택이 늘어나는가
세쿼이아는 두 가지 구조 변화를 근거로 든다. 첫째, 오픈 웨이트 모델의 성능이 프런티어 모델을 빠르게 따라잡았다. 무겐AI의 킴 K3(Kimi K3)와 지푸AI의 GLM-5.2가 대표적이다. 킴 K3는 2조 8천억 개 매개변수 규모의 오픈 웨이트 모델로 2026년 7월 말 공개됐고, GLM-5.2는 7천530억 개 매개변수를 MIT 라이선스로 공개해 SWE-bench Pro에서 62.1점을 받았다. 불과 1년 전만 해도 오픈 웨이트를 고르는 것은 성능을 일부 포기하겠다는 선택이었지만, 이제는 프런티어에 가까운 기준선에서 시작할 수 있게 됐다는 것이 세쿼이아의 진단이다.
둘째, 독립적인 포스트트레이닝 생태계가 실제 규모로 성장했다. 인재·데이터 평가 기업 머커는 2026년 6월 기준 연환산매출(ARR)이 20억 달러를 넘겼고 같은 해 7월 500만 달러 추가 투자 유치를 기업가치 200억 달러 기준으로 논의 중이라고 보도됐다. 추론 인프라 기업 파이어웍스는 7월 16일 15억 500만 달러 규모의 시리즈D를 기업가치 175억 달러에 마감했으며, ARR은 전년 대비 5배로 늘어 10억 달러를 넘겼다. 세쿼이아는 이 두 회사를 예로 들며, 예전에는 프런티어 연구소만 갖췄던 학습·추론·데이터 기술 스택을 이제 어떤 회사든 이 업체들을 통해 빌려 쓸 수 있게 됐다고 설명한다.
지능을 직접 갖춰야 하는 네 가지 조건
세쿼이아는 모든 워크로드를 자체 모델로 옮기라고 말하지 않는다. 많은 작업에는 여전히 프런티어 API가 정답이라고 못박는다. 대신 네 가지 신호 중 하나라도 뚜렷해지면 빌리는 지능이 제약으로 바뀐다고 짚는다. 첫째는 비용이다. AI 제품이 성공할수록 추론 비용이 매출과 함께 커지므로, 사용량에 비례해 비용이 느는 구조라면 모델을 직접 갖추는 쪽이 마진을 지키는 방법이다. 둘째는 속도다. 코드 자동완성이나 사이버보안처럼 응답 속도 자체가 품질인 영역에서는 작게 증류한 전용 모델이 큰 범용 모델을 앞설 수 있다. 셋째는 소유한 데이터다. 고객 피드백이나 평가 결과, 도메인 데이터가 시스템 성능을 좌우한다면 그 데이터를 회사 밖으로 내보내지 않는 편이 유리하다. 넷째는 주도권이다. 프런티어 연구소들이 제품 영역으로 올라오고 애플리케이션 기업들은 학습 루프 쪽으로 내려오면서, 두 층이 겹치기 시작했다. 세쿼이아는 하비 리서치, 램프랩스, 글린, 팩토리 등을 예로 들며 제품을 지킨다는 것이 곧 학습 루프 자체를 통제한다는 뜻으로 바뀌고 있다고 설명한다.
실제로 무엇을 만들어야 하나: 평가에서 온라인 학습까지
기술적 실행은 네 단계로 이어진다. 첫 단계는 평가(evals)다. 하비의 가베 페레이라는 “좋은 벤치마크가 없으면 모델을 학습시킬 수 없다”고 말했다. 하비는 실제 법률 업무를 과제 단위로 쪼갠 리걸 에이전트 벤치마크(LAB)를 만들었는데, 1차 버전에만 24개 법률 실무 분야에 걸친 1,200개 넘는 에이전트 과제가 담겼고 7만 5천 개 넘는 전문가 작성 채점 기준으로 평가한다. 채점은 기준을 하나라도 놓치면 과제 전체를 미완료로 처리하는 “올패스” 방식이라, 위험도 높은 실무일수록 부분 점수를 인정하지 않는다.
둘째는 하네스와 컨텍스트 설계다. 랭체인의 해리슨 체이스는 “하네스의 핵심 역할은 적절한 시점에 모델에 맥락을 가져다주는 것”이라고 정리했다. 좋은 하네스는 과제별로 가장 알맞은 모델로 라우팅하고, 같은 평가 기준을 여러 모델에 재사용하며, 에이전트가 어떤 맥락과 도구를 거쳐 어디서 막혔는지 추적할 수 있게 한다. 셋째는 포스트트레이닝이다. 파이어웍스의 린 차오는 문제 유형별로 처방을 나눈다. 모델이 사실을 모르면 RAG로 충분하고, 출력 형식이나 행동이 틀리면 지도 미세조정을, 취향의 문제라면 선호도 튜닝을, 특정 과제 실력을 더 끌어올려야 하면 강화학습을, 속도나 비용이 문제라면 증류를 쓴다. 넷째는 온라인 학습이다. 트라젝토리의 아르준 카라남은 모델이 아무리 똑똑해도 매 세션이 늘 첫 출근일 같다고 지적한다. 부족한 것은 지능이 아니라 경험이라는 뜻이다. 랭체인의 랭스미스 같은 도구로 에이전트가 지나간 경로, 즉 어떤 맥락을 봤고 어떤 도구를 불렀으며 사용자가 무엇을 고치거나 되돌렸는지를 기록하면, 실패한 과제는 새 평가 항목이 되고 빠진 정보는 컨텍스트로, 잘못된 도구 응답은 하네스 수정으로 되먹임된다.
바닥은 낮아지고 천장은 높아진다: 무엇을 감수해야 하나
세쿼이아는 이 선택을 “판도라의 상자를 여는 일”이라고 표현한다. 폐쇄형 모델 스택은 단순하다. 프런티어 모델을 호출하고, 클로드 코드나 코덱스 같은 기성 하네스를 쓰고, 프롬프트와 맥락만 더해 바로 출시하면 된다. 실패 확률이 낮은 대신 도달할 수 있는 성능의 상한도 낮다. 반대로 자체 스택은 오픈소스 모델, 커스텀 하네스, 도구, 맥락까지 운영 스택 전체를 떠안고, 평가 체계와 도메인 데이터, 온라인 학습 루프까지 별도로 갖춰야 한다. 하비는 연구팀이 단 7명뿐이라고 밝혔는데, 이는 적은 인원으로도 성과를 낼 수 있다는 뜻이지 조직 전체가 아니라 평가·데이터·하네스 튜닝에 특화된 소규모 팀이 별도로 필요하다는 뜻이기도 하다. 실패하면 그만큼 바닥은 낮아지지만, 성공하면 프런티어 API로는 닿지 못하는 성능과 통제력에 도달할 수 있다는 것이 세쿼이아가 강조하는 맞교환이다.
지금 무엇부터 확인해야 하나
이 전환을 검토하는 팀이라면 순서를 바꿀 필요는 없다. 먼저 자사 업무를 과제 단위로 쪼갠 평가 기준이 있는지부터 점검한다. 평가 없이 모델이나 방식을 바꾸는 것은 추측일 뿐이다. 그다음 비용·속도·데이터·주도권 네 조건 중 실제로 걸리는 항목이 있는지 데이터로 확인한다. 넷 중 어느 것도 뚜렷하지 않다면 프런티어 API를 계속 쓰는 편이 여전히 합리적인 선택이다. 조건이 확인됐다면, 하네스가 이미 여러 모델과 도구를 라우팅할 수 있는 구조인지, 그리고 에이전트가 실제 운영에서 남기는 경로(trajectory)를 기록해 실패를 평가와 하네스 개선으로 되돌릴 파이프라인이 있는지부터 갖춘다. 이 세 가지가 없는 상태에서 오픈 웨이트 모델부터 내려받는 것은 세쿼이아가 설명한 구조의 절반만 베끼는 일이다.
출처: Sequoia Capital, "Own Your Intelligence: A How-To Guide"