노트북에 전원을 연결했더니 모델의 답변이 더 느려졌다. 배터리로 쓸 때는 초당 61~67토큰을 내던 장비가 충전기를 꽂으면 약 15토큰으로 떨어졌다. 여기서 토큰은 모델이 읽고 생성하는 텍스트 조각이다. 같은 모델과 실행 조건이라면 초당 생성 토큰 수가 낮을수록 답변을 기다리는 시간이 길어진다.
MindStudio가 11월 1일 공개한 리눅스 사용기에서 다룬 장비는 엔비디아 RTX Spark 기반 MSI Prestige N16 Flip AI+다. 리눅스를 직접 설치해 GPU 가속까지 켰지만, 외부 전원을 연결하면 GPU 작동 속도가 약 780MHz에 묶였다. 부팅과 드라이버 인식이 끝났다고 해서 구매한 하드웨어의 성능을 모두 쓰는 것은 아니었다.
같은 노트북인데 운영체제에 따라 벌어진 차이
이 장비가 관심을 끄는 이유는 CPU와 GPU가 함께 쓰는 통합 메모리를 최대 128GB까지 제공하기 때문이다. 큰 언어 모델을 노트북 안에 올려 실행하려는 사람에게는 메모리 용량이 중요한 선택 조건이다. 그런데 모델이 메모리에 들어가는 것과 빠르게 답변하는 것은 별개였다.
사용기에 실린 GPT-OSS-120B 비교에서 윈도는 초당 65.4토큰, 윈도 안의 리눅스 환경인 WSL은 65.1토큰을 기록했다. 같은 노트북에 직접 설치한 리눅스는 13.9토큰이었다. 별도 데스크톱 장비인 DGX Spark의 기록은 61토큰이었다. 이 수치들은 사용기에 제시된 해당 시험의 결과이며, 모든 모델이나 리눅스 노트북의 성능을 뜻하지 않는다.
동시 요청을 처리할 때도 차이가 났다. 모델 실행 도구 vLLM으로 클라이언트 8개를 동시에 연결한 시험에서는 WSL이 초당 127토큰, 네이티브 리눅스가 39.5토큰이었다. 앞의 GPT-OSS-120B 단일 비교와는 시험 조건이 다르므로 수치를 한 순위표에 섞으면 안 된다.
온도가 아니라 전원을 바꿨을 때 속도가 돌아왔다
오래 걸리는 작업에서 먼저 의심할 만한 것은 발열이다. 부품이 뜨거워지면 보호를 위해 작동 속도를 낮추기 때문이다. 그러나 사용기의 장시간 시험에서 리눅스 GPU 온도는 40~47도였고, 클럭은 약 790MHz에 머물렀다. 윈도가 약 2.2GHz를 유지하며 8분가량에 끝낸 작업에 리눅스는 37분이 걸렸다.
더 직접적인 단서는 전원 상태를 바꾸는 시험에서 나왔다. LM Studio로 모델을 실행할 때 배터리 상태에서는 초당 61~67토큰과 약 1,800MHz가 나왔지만, 전원을 연결하자 약 15토큰과 780MHz로 내려갔다. 작업 부하가 커져서 뜨거워진 순서가 아니라, 전원 연결에 따라 허용되는 작동 속도가 달라진 것이다.
사용기는 CPU와 GPU 사이의 전력 배분을 맡는 ‘NVIDIA Platform Controllers and Framework’를 원인으로 지목했다. 윈도 장치 관리자에서 이 구성 요소를 끄자 별도 시험의 처리량이 약 83토큰에서 31토큰으로 떨어졌고, GPU 클럭도 약 2GHz에서 786MHz로 내려갔다. 다시 켜면 정상 속도로 돌아왔다. 리눅스에서 관찰한 낮은 클럭을 윈도에서도 재현한 셈이다.
전력 설정표가 암호화돼 있고 윈도 쪽 구성 요소만 이를 읽을 수 있다는 것이 사용기의 설명이다. 이 부분은 엔비디아의 수정 발표가 아니라 사용기가 제시한 원인 분석이다. 구매자가 받아들여야 할 결과는 분명하다. GPU 연산 드라이버가 동작해도 노트북 전체의 전력 배분을 제어하는 경로가 갖춰지지 않으면 속도가 제한될 수 있다.
WSL은 리눅스 도구와 윈도 GPU 드라이버를 연결한다
이 사례에서 WSL의 이점은 리눅스용 도구를 쓰면서 윈도의 GPU 제어 경로를 유지한다는 데 있다. WSL 2는 가벼운 가상 머신에서 실제 리눅스 커널을 실행한다. 엔비디아 공식 문서에 따르면 CUDA는 윈도에 설치한 GPU 드라이버를 WSL 안에 연결해 사용한다. 따라서 리눅스를 직접 설치했을 때의 전력 관리 문제를 그대로 물려받지 않는 경로다.
WSL 안에 별도의 엔비디아 리눅스 GPU 드라이버를 설치하는 것은 피해야 한다. 공식 문서는 윈도에서 연결한 드라이버를 덮어쓸 수 있다고 경고한다. 리눅스용 연산 도구를 설치하는 일과 GPU 드라이버를 새로 설치하는 일을 구분해야 한다.
메모리 설정도 따로 살펴야 한다. 사용기의 노트북은 펌웨어가 GPU용으로 96GB를 예약한 상태에서 리눅스가 28GB만 인식했다. 윈도에서 예약량을 4GB로 낮춘 뒤에는 120GB를 볼 수 있었다. WSL에서도 시험 장비에 처음 배정된 14GB로는 큰 모델 작업이 어려워 할당량을 늘렸다. 이 값들은 그 장비의 관찰값이지 모든 WSL 설치의 기본값은 아니다.
로컬 모델 실행을 위해 이 종류의 노트북을 고른다면, 원하는 모델이 올라가는지만 보지 말고 실제로 쓸 전원 상태에서 처리량과 GPU 클럭을 함께 비교할 필요가 있다. 책상에서 충전기를 꽂고 장시간 쓸 계획이라면 그 조건의 시험이 우선이다. 이 사용기에서 WSL은 윈도와 가까운 처리량을 냈고, 네이티브 리눅스의 문제를 해결할 엔비디아의 배포 일정은 제시되지 않았다.
출처: MindStudio, Linux on the Nvidia RTX Spark Laptop: What Actually Works · 엔비디아 CUDA on WSL 사용자 가이드