NPU 탑재 노트북을 고를 때 가장 먼저 봐야 할 건 TOPS 숫자가 아니라 본인이 쓰는 앱이 어떤 런타임을 지원하는가입니다. 일반 AI PC 용도라면 x86 호환성이 검증된 Intel Core Ultra 200V나 AMD Ryzen AI 300이 무난하고, 전력 효율과 원시 성능 수치를 우선한다면 Qualcomm Snapdragon X Elite가 앞섭니다. 다만 Windows on Arm의 앱 호환성 문제는 아직 완전히 해소되지 않아, 실사용 환경에 따라 결과가 갈립니다.
NPU가 CPU·GPU와 다른 점
NPU(Neural Processing Unit)는 AI 추론 연산에 특화된 전용 칩입니다. CPU는 범용 연산에 강하지만 행렬 곱셈을 대량으로 처리하기엔 비효율적이고, GPU는 병렬 연산은 뛰어나도 전력 소모가 커서 항상 켜두기 어렵습니다.
NPU는 낮은 전력으로 추론(Inference)을 지속적으로 처리하도록 설계되었습니다. 백그라운드 AI 태스크를 상시 처리하면서도 배터리 소모를 최소화하는 게 핵심이에요. Microsoft가 Windows 11에서 작업 관리자 일부 모니터링을 NPU로 넘기는 실험을 공개한 것도, AI 연산이 OS 레벨까지 내려왔다는 신호로 읽힙니다.
성능 단위는 TOPS(Tera Operations Per Second)로 표시하며, 숫자가 높을수록 단위 시간당 더 많은 AI 연산을 처리한다는 뜻입니다.
AMD·Intel·Qualcomm 세 진영 스펙 비교
현재 소비자 PC에 탑재되는 주요 NPU 플랫폼을 정리하면 다음과 같습니다. 수치는 제조사 공식 발표 기준이며 실측 환경에 따라 차이가 있을 수 있습니다.
| 제조사 | 대표 칩셋 | NPU 성능(TOPS) | 통합 방식 | 주요 특징 |
|---|---|---|---|---|
| AMD | Ryzen AI 300 (Strix Point) | 최대 50 TOPS | XDNA 2, SoC 통합 | Windows ML 공식 지원, ROCm 연동 |
| Intel | Core Ultra 200V (Lunar Lake) | 최대 48 TOPS | NPU 4.0, 별도 타일 | OpenVINO 연동, 전력 효율 개선 |
| Qualcomm | Snapdragon X Elite / X Plus | 최대 75 TOPS (Elite) | Hexagon NPU, Arm SoC | 모바일 유래 효율, WoA 환경 |
숫자만 보면 Qualcomm이 압도적입니다. 하지만 실제 체감은 소프트웨어 생태계와 함께 봐야 결론이 납니다.
용도별로 본 현실적인 선택 기준
AMD는 Microsoft Windows ML과의 공식 연동 파이프라인을 갖춰, 개발자가 모델을 NPU에 올리기 쉬운 환경을 만들었습니다. Intel은 오랜 기간 다듬어온 OpenVINO 런타임이 강점이고, x86 기반이라 기존 소프트웨어 호환성이 가장 넓습니다. Qualcomm은 원시 TOPS 수치는 높지만 Windows on Arm에서의 앱 호환성은 아직 과도기입니다.
- 일반 AI PC 용도(Copilot, 음성 인식, 실시간 번역): Intel Core Ultra 200V 또는 AMD Ryzen AI 300이 현실적인 선택입니다. 기존 x86 앱과 충돌 없이 쓸 수 있습니다.
- 로컬 LLM 추론(Llama, Phi 계열): TOPS보다 메모리 대역폭과 통합 메모리 용량이 더 중요합니다. Snapdragon X Elite의 LPDDR5X 구성이 유리할 수 있어요.
- 개발자·엔지니어 환경: x86 툴체인과 드라이버 안정성에서는 Intel이 여전히 우위입니다.
TOPS 숫자와 실제 체감 사이의 간극
지금 NPU 시장은 하드웨어가 소프트웨어보다 한 발 앞서 달리는 구간입니다. 50 TOPS짜리 칩을 사도 그 성능을 제대로 활용하는 앱이 아직 많지 않습니다. AMD가 Windows ML 연동을 강조하고, Google이 LiteRT 기반 온디바이스 AI 프레임워크를 미는 것도 이 간극을 메우려는 흐름입니다.
WSL 3.0에서 GPU·NPU 패스스루가 가능해진다는 소식도 나와 있는데, 이게 실현되면 Windows 위의 리눅스 환경에서 NPU를 직접 활용할 수 있게 됩니다. 그 전까지는 플랫폼별 최적화 수준이 체감 성능을 좌우할 것으로 봅니다.
자주 묻는 질문
NPU 노트북을 사면 AI 작업이 눈에 띄게 빨라지나요?
조건부입니다. Windows Copilot이나 실시간 자막처럼 OS에 통합된 AI 기능은 체감 차이가 있습니다. 다만 서드파티 앱이 NPU를 직접 활용하려면 개발사가 별도로 최적화를 해야 하므로, 사용하는 앱의 NPU 지원 여부를 먼저 확인하는 게 순서입니다.
로컬 LLM은 NPU보다 VRAM이 더 중요하지 않나요?
맞습니다. 7B~13B 파라미터 규모 모델은 GPU VRAM 용량과 대역폭이 병목입니다. NPU는 1B~3B급 소형 모델이나 특정 추론 태스크에서 전력 효율 측면의 강점을 보여줍니다. 큰 모델을 돌릴 계획이라면 외장 GPU 옵션을 함께 고려해야 합니다.
Snapdragon X 계열은 Apple Silicon과 비슷한 구조 아닌가요?
Arm 기반 SoC에 NPU를 통합하고 통합 메모리 아키텍처를 쓰는 점은 닮았습니다. 차이는 생태계입니다. Apple Silicon은 Core ML과 Metal 기반의 촘촘한 소프트웨어 스택이 받쳐주는 반면, Snapdragon X는 Windows on Arm의 앱 호환성이라는 현실적 제약이 남아 있습니다.
2프로의 정리
지금 NPU 스펙 경쟁을 보면 2010년대 초 SSD 초창기가 떠오릅니다. 속도 수치는 화려했지만 OS와 앱이 TRIM 지원을 제대로 못 해서 체감이 기대치를 밑돌던 시절이었죠. NPU도 비슷한 과도기에 있습니다.
TOPS 숫자만 보고 플랫폼을 정하기보다, 본인이 쓰는 앱이 어떤 런타임을 지원하는지, 제조사가 드라이버와 SDK를 얼마나 빠르게 업데이트하는지를 함께 살펴야 합니다. 하드웨어 스펙보다 소프트웨어 지원 로드맵이 실제 체감을 결정짓는 핵심 변수예요. 이걸 빠뜨리면 비싼 칩을 샀는데 절반도 못 쓰는 상황이 생깁니다.
※ 본 글에 언급된 제품 스펙 및 수치는 작성 시점 기준이며, 이후 변경될 수 있습니다. 정확한 최신 정보는 제조사 공식 사이트에서 확인하시기 바랍니다.