작은 모델이 먼저 보고 애매한 것만 Opus에게 넘겼다: 판정 비용 실험
싼 결정 모델 Jev가 먼저 보고 확신도가 애매한 22%만 Opus에게 넘기는 방식을 살펴봅니다. 쉬운 시험에서는 비용이 4분의 1로 줄었지만 어려운 시험에서는 1.8분의 1에 그쳤습니다.
주제
LLM
LLM 관련 글을 모았습니다. 유토모 테크로그에서 새 기술과 제품이 일과 제품에 만드는 변화를 살펴봅니다.
AI가 문장 대신 선택만 하게 하면, 기존 LLM으로 어디까지 자동화할 수 있을까
고객 문의·문서 분류처럼 선택지가 정해진 반복 업무에서, 범용 LLM이 문장을 길게 생성하지 않고 선택지별 가능성만 읽는 방법을 비교합니다.
AI가 쓴 코드가 길어질수록, 리뷰 팀이 줄여야 할 것은 주석이다
AI가 쓴 긴 주석은 맥락이 아니라 다시 확인할 주장일 수 있습니다. 코드 밖의 계약과 선택 이유만 남기고, 승인 근거를 동작과 테스트로 옮기는 리뷰 방법을 정리합니다.
애플이 알리바바와 손잡고 중국 전용 AI 모델을 만든 이유
애플이 알리바바 지원으로 중국 전용 자체 AI 모델을 훈련했다고 로이터가 단독 보도했습니다. 승인되면 애플은 중국에서 자체 AI 모델을 서비스하는 첫 해외 기업이 됩니다.
LLM으로 복잡한 주제를 배울 때, 답변보다 학습 순서가 중요한 이유
LLM으로 복잡한 주제를 배울 때는 답을 한 번 받는 일보다 기초 지식·정확도 검토·시뮬레이션의 순서를 설계하는 편이 학습 대상을 더 선명하게 만듭니다. 반도체 제조 과정을 애니메이션으로 만든 저자의 흐름을 풀어봅니다.
