장애 진단 105회에 추론비 15센트: 싼 판단 모델이 맞힌 것과 놓친 것 (Jev)
105번의 장애 진단에 든 Jev 추론비는 약 15센트였습니다. 수집기가 한 일과 두 실패 사례를 통해 저비용 1차 분류와 심층 조사를 나눌 조건을 살펴봅니다.
주제
모델 라우팅
모델 라우팅 관련 글을 모았습니다. 유토모 테크로그에서 새 기술과 제품이 일과 제품에 만드는 변화를 살펴봅니다.
내 PC의 AI를 코딩 도구에 연결하는 선택: Magnitude가 줄이는 모델 교체 비용
Magnitude는 PC 하드웨어에 맞는 로컬 모델 조합을 추천하고, 기존 코딩 에이전트와의 연결을 관리합니다. 모델을 바꿀 때 반복되는 추론 환경 설정과 연결 작업을 줄이는 흐름을 살펴봅니다.
AI가 코드의 70%를 맡은 뒤, 개발 조직이 다시 설계할 운영 방식 (Uber)
Uber는 풀 리퀘스트의 70% 이상을 에이전트가 맡는 환경에서 작업별 비용·품질·처리량을 함께 운영합니다. 개발 조직이 바꿔야 할 실행 환경과 평가 기준을 정리했습니다.
스트라이프가 AI 모델 장터 OpenRouter를 70억달러에 인수한 이유
스트라이프가 AI 모델 장터 OpenRouter를 70억달러 넘는 가격에 인수하는 계약을 마무리했습니다. 5월 시리즈B 기업가치 13억달러에서 석 달 만에 5배 넘게 뛴 값입니다.
Databricks가 말하는 AI 코딩 비용 관리: 토큰이 아니라 작업 단위로 보는 법
Databricks는 AI 코딩 비용을 토큰 한도가 아니라 완료한 작업 단위로 관리해야 한다고 제안했습니다. 모델 라우팅, 비용 가시성, 컨텍스트 절제가 어떻게 함께 작동하는지 정리합니다.
