AI PC, 진짜 필요할까? 어차피 클라우드인데

안녕하세요, 깅글렛이에요.

요즘 노트북 사러 가면 “이거 AI PC예요, NPU 들어가서…” 하는 말 많이 들으시죠? 근데 저는 매장에서 이 생각이 들더라고요. “ChatGPT나 제미나이는 인터넷만 되면 5년 된 노트북에서도 잘 돌아가는데, 굳이 비싼 AI PC를 사야 하나?”

먼저 답부터 드릴게요. 결론은 “지금 당장 필수는 아니에요.” 대부분 우리가 흔히 쓰는 AI는 클라우드라서, 그것만 쓸 거면 AI PC가 없어도 똑같이 돌아가거든요. 다만 NPU가 진짜 쓸모 있는 좁은 경우는 따로 있어요.

이 글은 ‘내 다음 노트북 살 때 NPU를 챙겨야 하나’ 고민되는 분을 위한 글이에요. 비전문가도 알기 쉽게 풀어봤어요.

노트북 매장에서 ‘AI PC 꼭 사야 하나?’ 고민하는 사람 - 클라우드 AI 노트북 vs NPU 박힌 AI PC를 두 생각풍선으로 대비한 컨셉 일러스트

클라우드라 저사양에서도 된다“는 말, 진짜 맞아요

ChatGPT·제미나이·코파일럿을 웹이나 앱으로 쓸 때, 그 AI는 사실 내 PC가 돌리는 게 아니에요. 내 기기는 질문을 서버로 보내고 결과만 받아서 화면에 띄울 뿐이고, 무거운 계산은 전부 남의 데이터센터에서 일어나거든요.

그래서 내 PC 성능은 거의 안 타요. 인터넷만 되면 5년 된 노트북이든 저가 크롬북이든 구형 폰이든, 최신 ChatGPT가 똑같이 돌아가요. 매장에서 제가 했던 그 생각이 정확했던 거예요.

오히려 속도는 클라우드가 더 빠를 때도 많아요. 큰 모델일수록 내 작은 기기로 직접 돌리면 버거우니까요.

클라우드 AI vs 온디바이스 AI 대비표 - 연산 위치/인터넷 필요/프라이버시/속도/할 수 있는 일 5개 항목 비교, 블루 액센트

물론 클라우드도 단점은 존재해요. 인터넷이 끊기면 못 쓰고, 내 데이터가 회사 밖 서버로 전송되고, 서버를 왕복하느라 미세한 지연이 생기죠. 바로 이 세 약점을 메우려고 나온 게 NPU예요. 그럼 NPU는 뭐가 다른 걸까요?

NPU는 ‘내 기기 안에서’ AI를 직접 돌리는 칩이에요

NPU(쉽게 말하면 AI 연산만 전담하는 별도 칩)는 클라우드와 정반대로 움직여요. CPU·GPU와 따로, 기기 안에서 AI를 로컬로 직접 돌리는 거죠. ’AI PC’라는 건 결국 이 NPU가 박힌 PC를 말해요.

방식이 반대라서 장점도 클라우드의 약점을 그대로 메워줘요. 데이터가 기기 밖으로 안 나가니 프라이버시에 강하고, 인터넷 없이도 돌아가고, 전력도 적게 써요. 같은 AI 작업을 CPU로 처리할 때보다 전력이 절반 이하로 줄거든요. 화면 한쪽에서 조용히 돌아가는 작은 기능들에 잘 맞아요.

윈도우 쪽 기준도 하나 알아두면 좋아요. 마이크로소프트의 ’Copilot+ PC(코파일럿 플러스 PC)’가 일종의 AI PC 인증 기준인데, 요구 사양이 NPU 40 TOPS 이상에 RAM 16GB, SSD 256GB예요. (2026년 6월 기준) 지원 칩은 퀄컴 스냅드래곤 X, 인텔 코어 울트라 2, AMD 라이젠 AI 300 정도고요.

여기서 ’TOPS’라는 숫자가 계속 나오는데, 사실 이게 이 글에서 제일 중요한 함정이에요.

TOPS 숫자에 속으면 안 돼요 — 무려 30배 차이

작은 NPU 칩과 거대한 그래픽카드(GPU)의 극명한 크기·에너지 대비 - AI 연산력 차이가 어마어마하다는 컨셉 일러스트

광고는 “40 TOPS! 50 TOPS!“를 자랑하지만, TOPS는 마케팅 숫자에 가까워요. 실제로 ’AI를 얼마나 돌릴 수 있나’와는 좀 별개거든요.

숫자로 보면 확 와닿아요. AI PC의 NPU는 보통 40~50 TOPS인데, 진짜 무거운 AI(대형 언어모델이나 이미지 생성)를 돌리는 고성능 그래픽카드 RTX 4090은 1,300 TOPS가 넘어요. 약 30배 차이예요. (2026년 6월 기준)

이게 무슨 뜻이냐면, NPU로는 ChatGPT급 큰 모델을 내 기기에서 못 돌린다는 거예요. NPU가 맡는 건 ’작고 가벼운 AI 잔업’이에요. 배경 블러, 자막, 화면 검색 같은 걸 전력 적게, 조용히 백그라운드로 처리하는 거죠. 무거운 AI는 여전히 클라우드나 비싼 GPU 몫이고요.

NPU가 할 수 있는 것과 없는 것을 한 번 정리해볼게요. 화상회의 배경 블러나 눈맞춤 보정, 40개 언어를 영어로 바꾸는 실시간 자막·번역(오프라인 가능), 화면 의미 검색이나 사진 배경 제거는 NPU가 잘 해내요. 반대로 7B 파라미터급 이상 LLM을 로컬에서 돌리거나, 스테이블 디퓨전 같은 이미지 생성, 모델 학습은 전부 NPU 영역 밖이에요.

인포그래픽 - “NPU 40~50 TOPS vs RTX 4090 1,300+ TOPS” 막대그래프로 약 30배 차이 시각화, 큰 숫자 강조, 블루 액센트

재밌는 반전도 하나 있어요. 만약 정말 ’내 기기에서 무거운 AI’를 돌리고 싶다면, 중요한 건 NPU가 아니라 RAM과 GPU의 VRAM이에요. 예를 들면 NPU 달린 1,200달러짜리 울트라북보다, NPU가 없어도 32GB RAM에 GPU 들어간 600달러 미니PC가 로컬 AI엔 오히려 더 유용하다는 거죠. ’AI PC = 로컬 AI 잘됨’이라는 건 생각보다 오해라는 얘기예요.

NPU 할 수 있는 것 / 없는 것 표 - 배경블러·자막번역·화면검색은 ✅, 대형 LLM·이미지생성·모델학습은 ❌, 블루 액센트

NPU가 활약하는 4가지 환경

여기까지 보면 “그럼 NPU는 쓸모없네?” 싶을 수 있는데, 그건 또 아니에요. 좁지만 확실하게 쓸모 있는 경우가 분명히 있어요. 네 가지로 추려봤어요.

프라이버시가 중요할 때예요. 민감한 문서나 녹취를 남의 서버로 안 보내고 기기 안에서만 처리하니까, 데이터가 밖으로 샐 일이 없어요.
인터넷이 없거나 불안정할 때예요. 비행기 안, 해외, 보안망 같은 환경에서도 자막·번역이나 일부 AI 기능이 오프라인으로 돌아가요.
화상회의를 자주 할 때예요. 배경 블러나 자동 프레이밍, 눈맞춤 보정 같은 걸 NPU가 배터리 거의 안 쓰고 상시 돌려줘요. 이걸 CPU나 GPU로 하면 발열이랑 배터리 손해가 꽤 크거든요.
상시 백그라운드 AI가 필요할 때예요. 화면 검색이나 실시간 번역 자막을 늘 켜두고 싶을 때, NPU가 배터리 효율적으로 받쳐줘요.

보면 아시겠지만, 대부분 ’백그라운드에서 조용히 돌아가는 작은 편의 기능’이에요. 화려한 기능은 아니지만, 화상회의 잦은 분이라면 이 차이가 은근히 크게 느껴질 수 있어요.

핵심 포인트 카드 - NPU가 빛나는 4가지 경우(프라이버시/오프라인/화상회의/상시 백그라운드) 2x2 카드, 블루 액센트

그래서 AI PC, 지금 사야 할까요?

그럼 이제 솔직하게 따져볼게요. 판단에 도움 될 근거가 좀 있어요.

시장조사기관 가트너는 2026년 말이면 사실상 모든 PC가 ’AI PC’로 팔리겠지만, 정작 NPU 기능의 실사용은 더디게 늘 거라고 봐요. 2028년까지 직원 약 24%만 향상된 NPU 기능을 쓸 거라는 추정이거든요. 레노버 임원도 킬러 앱이 대중화되는 건 2027~2028년쯤으로 보고요.

가격도 무시 못 해요. NPU 탑재 비즈니스 PC는 일반 PC보다 200달러 이상 비싸요. 가트너의 란짓 아트왈은 이렇게 말했어요. “즉각적인 가치가 안 보인다면, 프리미엄을 낼 준비가 안 된 것이다.” 저는 이 말이 오늘의 핵심이라고 생각해요.

그럼 어떻게 판단하면 될까요. 정리하면 이래요. 어차피 새 노트북 바꿀 때가 됐고, NPU 추가 비용이 거의 없고, 화상회의를 자주 한다면 사도 무방해요. 반대로 지금 PC가 멀쩡하고 쓰는 AI가 ChatGPT·제미나이 같은 클라우드 서비스뿐이라면, NPU 때문에 굳이 지금 교체할 이유는 약해요.

참고로 요즘 노트북값이 오른 건 NPU 때문만은 아니에요. D램 품귀로 메모리값이 올라서 노트북 자체가 비싸진 면도 있거든요. (이 얘기는 예전에 ‘D램 품귀’ 글에서 따로 다뤘어요.)

구매 판단 가이드 카드 - “사도 됨”(새 노트북 교체기+화상회의 잦음+프라이버시 니즈) vs “서두를 필요 없음”(지금 PC 멀쩡+클라우드만 사용), 블루 액센트

어차피 다음 노트북은 거의 다 AI PC예요

마지막으로 시장 흐름 하나만 짚을게요. 지금 고민이 좀 김 빠질 수도 있는 얘기예요.

마침 이번 주에 대만에서 컴퓨텍스 2026(6월 2~5일)이 열렸는데, 인텔·에이수스·MS·퀄컴이 AI PC랑 NPU 신제품을 잔뜩 쏟아냈어요.

근데 더 중요한 건 큰 그림이에요. IDC는 2027년이면 신규 윈도우 PC의 80%가 NPU를 달고 나올 거라고 봐요. 2025년 35%에서 확 오르는 거죠. 다시 말해 ’AI PC’는 곧 그냥 ’PC’가 돼요. 일부러 골라서 사지 않아도, 다음에 사는 노트북엔 NPU가 기본으로 들어가 있을 가능성이 높다는 거예요.

한국 독자분들이라면 한 가지는 꼭 알아두셔야 해요. Copilot+ PC는 한국에서 정식 판매 중이에요. 삼성 갤럭시 북6, 에이수스·에이서가 한국몰에서 팔고 있거든요. 다만 화면 검색 기능인 ’Recall(리콜)’은 아직 한국어를 지원하지 않아요. 영어·중국어 간체·프랑스어·독일어·일본어·스페인어 6개 언어에 최적화돼 있어요. (2026년 2월 기준) 갤럭시 AI의 온디바이스 통번역(16개 언어)은 이것과는 별개 제품이니 헷갈리지 마세요.

컴퓨텍스 2026 + 시장 전망 카드 - “2027년 신규 윈도우 PC 80%가 NPU 탑재(IDC)”, “Recall 한국어 미지원” 강조, 블루 액센트

깅글렛 한줄평

💬 AI PC, 지금 멀쩡한 PC를 버리고 살 물건은 아니에요. 어차피 다음 노트북엔 NPU가 기본이니, ‘교체할 때 화상회의·프라이버시 필요하면 챙기는’ 정도로 마음 편히 두세요.

마무리

오늘은 여기까지예요.

저도 이번에 정리하면서, 광고의 ‘AI PC’ 문구만 보고 지레 비싼 걸 살 뻔했다 싶더라고요. 결국 중요한 건 내가 그걸 실제로 쓸 상황인지였어요. 다음 글에선 또 다른 테크 이슈를 쉽게 풀어서 찾아올게요.

※ 본 글은 2026년 6월 기준 정보를 바탕으로 작성됐어요. NPU 사양·요구사항·제품 정보는 1~2주 단위로 바뀔 수 있어요. ※ 이 글은 제품·기술 해설이며, 특정 종목이나 기업에 대한 투자 권유가 아니에요.