GPU 없이 2,840억 모델을 돌린다: 64GB 메모리에 맞춘 DeepSeek 재양자화
llama-modchip는 2,840억 파라미터 DeepSeek-V4-Flash를 GPU 없이 64GB 메모리에서 초당 약 10토큰으로 돌린다고 밝힙니다. 파일을 56.56GiB로 줄인 방식과 직접 돌려 보는 순서를 정리합니다.
유토모 테크로그새 기술과 제품 이야기
주제
오픈소스 관련 글을 모았습니다. 유토모 테크로그에서 새 기술과 제품이 일과 제품에 만드는 변화를 살펴봅니다.
llama-modchip는 2,840억 파라미터 DeepSeek-V4-Flash를 GPU 없이 64GB 메모리에서 초당 약 10토큰으로 돌린다고 밝힙니다. 파일을 56.56GiB로 줄인 방식과 직접 돌려 보는 순서를 정리합니다.
교재를 옆에 펴 놓고 질문한 뒤 복습 문제와 노트로 이어가는 DeepTutor를 소개합니다. 설치와 모델 연결, 원문 확인, 문제은행과 Anki 내보내기 흐름을 설명합니다.
PHP 재단이 2024년에 파악한 결함의 수정이 늦어진 이유를 설명했습니다. 호환성 문제와 합의 절차, 부족한 전문 인력이 보안 패치를 가로막았습니다.
공고를 평가하고 이력서를 고친 뒤 실제 제출본을 남기는 AI Job Search의 설치 방법과 사용 흐름을 살펴봅니다. 공개 fork에 경력을 올리지 않는 준비와 미제출 초안을 구분하는 기록 방식을 설명합니다.
원하는 구도를 말로만 설명하는 대신, 이미지 레이어와 3D 장면에서 위치·자세·카메라를 먼저 정합니다. ArtCraft 공식 데모로 입력과 생성 결과가 어떻게 이어지는지 살펴봅니다.
REA 설치 방법부터 Notion의 복사 경로와 DX-Ball 함수 복원까지. 에이전트가 분석 도구와 근거를 연결해 소스 없는 프로그램의 기능을 이해하고 재구현하는 과정을 살펴본다.
제품 소개 영상의 문구와 화면을 HTML 파일로 고치고, Studio에서 확인해 MP4로 다시 내보내는 방법을 설명합니다. 실제 수정 전후 출력과 설치 절차, 편집기와의 역할 차이 및 비용을 정리합니다.
Claude Code에서 Attention Span 플러그인을 설치하고 세 가지 출력 스타일을 고릅니다. Attention-kind·Spartan·Rundown의 차이와 선택 기준, 같은 질문에 대한 실제 답변을 살펴봅니다.
LibreOffice가 AI를 기본 설치에 넣지 않는 이유는 문서 통제권에 있습니다. 실행 위치와 외부 전송 동의, 공급자 변경과 제거 가능성을 조직의 도입 기준으로 살펴봅니다.
오픈소스 유지보수는 단순한 IT 잡비가 아니라 채용, 제품 신뢰, 공통 플랫폼 운영을 지키는 비용일 수 있습니다. 라이선스 가격 대신 업데이트·호환성·종료 공지를 예산 질문으로 바꿔야 합니다.
AI 에이전트가 대화 세션이 끝나면 기억을 잃는 문제를 겨냥한 오픈소스 프로젝트 힌드사이트를 소개한다. retain·recall·reflect 세 동작과 관찰·정신 모델 구조로 반복 정보를 덮어쓰지 않고 다시 판단하며, LongMemEval 벤치마크에서 94.6퍼센트를 기록했다.
AI 코딩 작업을 동시에 맡길 때는 세션마다 작업 폴더부터 나눠야 합니다. Worktrunk의 실제 실행 출력과 공개 워크플로로 파일 분리, 테스트, 사람의 검토와 병합 순서를 살펴봅니다.