AI 제품 가격, 좌석 수보다 먼저 계산해야 할 비용과 가치
AI 제품은 좌석 수보다 사용 행동에 따라 원가가 달라집니다. Candor 사례로 비용의 하한, 고객 가치의 상한, 사용량 요금의 교차점을 정리했습니다.
주제
LLM 운영
LLM 운영 관련 글을 모았습니다. 유토모 테크로그에서 새 기술과 제품이 일과 제품에 만드는 변화를 살펴봅니다.
Airbnb의 평가 주도 개발: 생성형 AI 기능을 제품화하는 기준
Airbnb는 생성형 AI 기능의 품질을 출시 직전 점검이 아니라 개발의 입력으로 다루는 평가 주도 개발을 제시했습니다. 실제 오류를 기준으로 코드 검사·LLM 심판·사람의 판단을 연결하는 방법을 정리합니다.
Databricks가 말하는 AI 코딩 비용 관리: 토큰이 아니라 작업 단위로 보는 법
Databricks는 AI 코딩 비용을 토큰 한도가 아니라 완료한 작업 단위로 관리해야 한다고 제안했습니다. 모델 라우팅, 비용 가시성, 컨텍스트 절제가 어떻게 함께 작동하는지 정리합니다.
취미 프로그래밍 공동체가 LLM 사용에 반발하는 이유
취미 프로그래밍 공동체가 LLM 생성 결과물에 반발하는 이유를, 결과보다 이해와 신뢰 축적을 중시하는 문화에서 풀어냈습니다.
Grokipedia의 멈춘 편집 파이프라인이 드러낸 AI 지식 서비스의 과제
Grokipedia의 공개 편집 파이프라인이 4월 말부터 멈춘 정황이 분석으로 드러났습니다. AI 지식 서비스가 갱신·결정·이력 기록을 함께 운영해야 하는 이유를 짚습니다.
충분히 똑똑한 AI는 널렸다: 이제 가장 중요한 건 속도다
속도 최적화 엔지니어 마틴 알더슨이 처음으로 모델을 지능이 아니라 속도로 고르고 있다며, 초당 토큰 수 체감 기준과 5배 빨라져도 에이전트 턴은 2배만 빨라지는 이유를 정리했습니다.
Kimi·GLM을 대규모로 돌리는 법, 클라우드플레어의 추론 엔진 선택
클라우드플레어가 Kimi K2.6과 GLM 5.2를 GPU 한 대에 더 많이 태우는 KV 캐시 FP8·가중치 INT4 압축, 캐시 무결성 검사 기법을 실측치와 함께 공개했습니다.
Kimi K3, MI355X에서 B300보다 나은 가격 대비 성능
AI 인프라 스타트업 Wafer가 대형 모델 Kimi K3를 AMD MI355X에 서빙한 결과, 절대 처리량은 B300이 앞서지만 달러당 성능은 MI355X가 앞선다고 공개했습니다.
Claude Code로 100만 줄 코드를 2주 만에 옮기다: Anthropic의 마이그레이션 실전기
Anthropic 내부 개발자들이 Claude Code로 100만 줄 규모의 Zig→Rust 전환을 2주 만에, 16만 5천 줄 Python→TypeScript 전환을 주말 동안 끝낸 실제 과정을 공개했습니다.
OpenAI, GPT-5.6 가격을 대폭 내렸다: Terra 20%·Luna 80% 인하
OpenAI가 GPT-5.6 Terra 20%, Luna 80% 가격을 내리고, Sol에는 두 배 가격에 최대 2.5배 빠른 Fast 모드를 새로 붙였습니다.
Netflix가 추천 랭커를 LLM으로 바꾼 이유, GenRec 파이프라인
Netflix가 수천 개의 수작업 피처 대신 LLM 기반 추천 랭커 GenRec을 만든 이유와 실제 A/B 테스트 결과를 공식 기술 블로그로 확인했습니다.
DeepSeek-V4-Flash 정식 출시, 에이전트 벤치마크로 본 변화
DeepSeek-V4-Flash가 공개 베타로 정식 출시되며 에이전트 벤치마크 9종 점수를 공개했습니다. 기존 모델명이 사라지는 일정까지 공식 체인지로그로 확인했습니다.
