맥에서 4.3GB RAM으로 80B Qwen 돌리기, 아이폰에서 35B까지
개인 개발자가 만든 오픈소스 런타임 Swiftlet이 800억 파라미터 Qwen을 맥에서 RAM 4.3GB로, 350억 파라미터 모델을 아이폰에서 2.5GB로 돌립니다. 익스퍼트를 SSD에서 그때그때 읽어오는 방식입니다.
유토모 테크로그새 기술과 제품 이야기
주제
AI 관련 글을 모았습니다. 유토모 테크로그에서 새 기술과 제품이 일과 제품에 만드는 변화를 살펴봅니다.
개인 개발자가 만든 오픈소스 런타임 Swiftlet이 800억 파라미터 Qwen을 맥에서 RAM 4.3GB로, 350억 파라미터 모델을 아이폰에서 2.5GB로 돌립니다. 익스퍼트를 SSD에서 그때그때 읽어오는 방식입니다.
크래프톤이 음성 인코더·코덱을 독자 학습해 SK텔레콤 A.X K2 Light와 결합한 21B 한영 이중언어 음성 AI "A.X K2 Raon-Speech"를 허깅페이스에 공개했습니다.
클라우드플레어가 Kimi K2.6과 GLM 5.2를 GPU 한 대에 더 많이 태우는 KV 캐시 FP8·가중치 INT4 압축, 캐시 무결성 검사 기법을 실측치와 함께 공개했습니다.
카카오가 Kanana-2 SLM 3B·1.3B 모델의 Base/Instruct 가중치 4종을 Hugging Face에 공개했습니다. 1.3B는 3B를 캐스케이드 압축한 온디바이스용 모델입니다.
알리바바 Qwen 팀이 2.4조 파라미터 규모 Qwen3.8-Max를 공개했습니다. 16일간 자율 운영한 오픈소스 프로젝트, 반도체 회로 재설계 등 장기 과제 사례를 함께 내놨습니다.
Callstack이 코딩 에이전트가 iOS·Android 앱을 직접 열고 조작·검증할 수 있게 하는 CLI agent-device를 공개했습니다. JPMorgan, Shopify 등이 이미 쓰고 있습니다.
Bun 창업자가 53만 줄 규모 코드베이스를 Zig에서 Rust로 11일 만에 재작성했습니다. 64개 Claude 에이전트가 병렬로 작업했고 비용은 16만 5천 달러였습니다.
바이트댄스가 Seedance 2.5를 공개했습니다. 15초였던 생성 길이가 30초로 늘고, 이미지·영상·오디오를 함께 참조해 다회차 확장으로 수 분 길이 영상까지 만들 수 있습니다.
OpenAI가 수학·이론컴퓨터과학의 10년 이상 정체된 공개 문제 10개에서 내부 모델 Astra로 새 결과를 냈고, Lean 인증서로 형식 검증까지 공개했습니다.
Anthropic 내부 개발자들이 Claude Code로 100만 줄 규모의 Zig→Rust 전환을 2주 만에, 16만 5천 줄 Python→TypeScript 전환을 주말 동안 끝낸 실제 과정을 공개했습니다.
OpenAI가 GPT-5.6 Terra 20%, Luna 80% 가격을 내리고, Sol에는 두 배 가격에 최대 2.5배 빠른 Fast 모드를 새로 붙였습니다.
Netflix가 수천 개의 수작업 피처 대신 LLM 기반 추천 랭커 GenRec을 만든 이유와 실제 A/B 테스트 결과를 공식 기술 블로그로 확인했습니다.