데이터센터를 채우는 AI 서버, 델과 슈퍼마이크로 이야기
안녕하세요, 깅글렛이에요.
AI 얘기만 나오면 다들 엔비디아부터 떠올리죠. 근데 그 GPU를 수천 장 사다 놓는다고 챗봇이 바로 돌아가진 않아요.
그걸 한 덩어리 컴퓨터로 조립하고, 배선하고, 식혀서 데이터센터에 통째로 넣어주는 회사가 따로 있거든요. 그 자리를 미국에선 델(Dell)과 슈퍼마이크로(Supermicro)가 쥐고 있어요.
예전 글에서 AI를 굴러가게 하는 병목들을 한 장 지도로 그렸고, 그중 전력 자리를 한 번 다뤘는데요. 이번엔 ‘서버 조립’ 칸을 줌인해서, 이 회사들이 어떻게 그 자리를 잡았고 어떻게 돈을 버는지 쉽게 풀어볼게요.
GPU가 있어도 ’한 덩어리 컴퓨터’로 묶는 게 또 일이에요
AI 병목은 칩이나 메모리에서 끝나지 않아요. GPU와 메모리가 아무리 많아도, 그냥 쌓아둔다고 AI가 돌진 않거든요. 수천에서 수만 장의 GPU를 하나처럼 일하는 서버로 조립하고, 배선하고, 식히고, 검증까지 끝내야 비로소 작동해요.
📖 랙(rack)·랙스케일이란? 서버를 꽂는 큰 캐비닛 한 대를 ’여러 대의 박스’가 아니라 통째로 한 대의 컴퓨터처럼 만들어 다루는 거예요. 엔비디아 GB200 NVL72가 대표적인데, GPU 72장과 CPU 36개를 한 랙 안에서 초고속으로 묶어 거대한 GPU 하나처럼 굴려요.
이 GB200 NVL72를 두고 엔비디아 젠슨 황은 “세상에서 가장 복잡한 컴퓨터”라고 표현해요. 부품 수가 워낙 많고 배선이 빡빡하거든요. 게다가 액체냉각이 선택이 아니라 필수예요. 칩 하나가 1,200W까지 열을 내고 랙 한 대가 120kW 넘게 쓰니까, 공기로는 못 식혀서 칩에 냉각판을 직접 붙여 액체로 식혀야 해요.
그래서 부품 하나만 늦어도 랙 전체가 멈춰요. 따로따로 사서 현장에서 조립하면 규모가 커질수록 일정·성능·전력 위험이 같이 커지고요. 결국 “누가 이걸 빠르고 정확하게 한 덩어리로 묶어 납품하느냐”가 또 하나의 병목이 되는 거예요.
조립에도 깊이의 단계가 있어요. 서버 1대를 켜지는 상태로 만드는 게 L10, 랙 한 대의 배선·전원까지 공장에서 통합·검사하는 게 L11, 여러 랙을 클러스터로 묶고 소프트웨어까지 깔아 실제 환경처럼 검증하는 게 L12예요. 델·슈퍼마이크로가 파는 건 이 위쪽 통합·검증 단계라고 보면 돼요.
📖 시스템 통합이란? GPU·CPU·메모리·네트워크·전원·냉각을 하나로 조립·배선해서 “켜면 작동하고, 검증까지 끝낸” 한 덩어리로 만드는 일이에요. AI 서버에선 이 통합을 누가 빠르고 정확히 하느냐가 곧 납기와 품질이라 병목이 돼요.
델은 ’AI 서버 폭발’의 한복판에 있어요
먼저 시장 위치부터 볼게요. 시장조사기관 IDC에 따르면 2025년 전 세계 서버 시장은 사상 최대인 약 4,440억 달러였고, 매출 점유율 1위가 델(약 10.0%), 2위가 슈퍼마이크로(약 9.5%)예요. 그 뒤로 IEIT 4.1%, 레노버 4.0%, HPE 약 3.1% 순이고요.
이 숫자만 보면 1·2위 둘이 시장의 5분의 1쯤이에요. 나머지는 폭스콘·콴타 같은 ODM과 다른 업체들이 나눠 가져요.
📖 ODM과 OEM 차이: ODM(폭스콘·콴타 등)은 고객이 시킨 사양대로 만들어 브랜드 없이 대량 납품해요. OEM(델·HPE)은 자기 브랜드로 완성·통합·보증·서비스까지 붙여 팔고요. 델의 강점은 “ODM급 규모에 기업 서비스까지 같이 가진 OEM”이라는 점이에요.
델 하면 PC 회사 이미지였는데, 지금은 분위기가 완전히 달라졌어요. 회계연도가 일반 달력과 어긋나 있는데, 가장 최근 분기(2026년 2~4월)에 델은 총매출 약 438억 달러를 찍었어요. 1년 전보다 88% 늘었고요.
그중 서버·스토리지를 담당하는 인프라 부문이 약 290억 달러(+181%)인데, AI 최적화 서버만 떼면 약 161억 달러예요. 1년 전 대비 757% 늘어난 숫자예요. 매출 절반 이상이 이제 서버·인프라고, 그 중심이 AI 서버로 옮겨간 거예요.
여기서 돈의 가시성을 보여주는 게 백로그(수주잔고)예요.
📖 백로그란? 이미 주문은 받았는데 아직 납품·매출로 잡히지 않은, 쌓여 있는 일감이에요. 백로그가 길면 앞으로 들어올 매출이 어느 정도 미리 보인다는 뜻이라 회사의 ’가시성’을 보여줘요.
델의 AI 서버 백로그는 그 분기말 기준 약 513억 달러로 사상 최대였어요. AI 서버 고객도 5,000곳을 넘겼고 6개월 새 50% 넘게 늘었고요. 회사는 한 해 AI 서버 매출 전망도 두 차례 올려서 약 600억 달러로 상향했어요. 이건 회사가 발표한 전망치를 그대로 옮긴 사실이에요.
제품도 “꽂으면 바로 쓰는” 형태로 팔아요. GB200·GB300 NVL72 같은 랙스케일 플랫폼(PowerEdge XE9712), 랙당 최대 480kW를 지원하는 액체냉각 전용 랙(IR7000) 같은 걸 묶어서요. 차세대 엔비디아 베라 루빈 기반 시스템을 클라우드 업체 코어위브에 가장 먼저 출하했다고도 발표했어요.
슈퍼마이크로는 ’액체냉각·속도’로 승부해요
슈퍼마이크로는 델보다 작지만 결이 좀 달라요. 액체냉각과 빠른 출시로 밀어붙이는 전문 조립사예요.
규모부터 보면, 회계연도 기준 가장 최근 연간 매출이 약 220억 달러예요. 그 전해 약 150억 달러에서 크게 뛰었고, 매출의 70% 넘게가 AI 관련 플랫폼이에요. 분기로 보면 한 분기에 약 127억 달러까지 찍어 역대 최대를 기록하기도 했고요.
그런데 마진이 얇아요. 매출총이익률이 한 자릿수에서 10%대 초반 사이거든요. 한 분기는 6.3%, 다른 분기는 9.9% 정도였어요. AI 서버는 비싼 GPU 원가가 그대로 얹히고 경쟁도 치열해서, 붙일 수 있는 마진율 자체가 낮아요.
📖 빌딩블록 방식이란? 표준화된 모듈 부품을 미리 만들어두고, 주문이 오면 레고처럼 조합해 빠르게 완성하는 방식이에요. 슈퍼마이크로의 ’빠른 출시’와 박리다매 모델이 여기서 나와요.
대신 표준 모듈을 대량으로 빠르게 찍어 회전율로 버텨요. 액체냉각 기술(DLC-2)로는 전기요금 최대 40%, 총소유비용 최대 20% 절감을 내세우고요. 차세대 베라 루빈 지원과 랙스케일 생산능력 확대도 남들보다 빨리 발표했어요.
그런데 슈퍼마이크로를 얘기하면 회계 이슈를 빼놓을 수 없어요. 사실과 시점을 정확히 짚는 게 중요해서 단계로 나눠 볼게요.
-
고비 (2024년 8~10월): 2024년 8월 공매도 업체 힌덴버그 리서치가 회계 관련 의혹 보고서를 냈고, 슈퍼마이크로는 연간보고서(10-K) 제출을 미뤘어요. 10월엔 감사인 EY가 사임했고요.
-
해결 (2025년 2월): 2025년 2월 25일 슈퍼마이크로가 미뤘던 보고서들을 모두 제출해 나스닥 상장 요건을 채웠어요. 상장폐지를 피했고, 과거 수치의 대규모 재작성도 없었어요. 회사 특별위원회는 “경영진의 부정 증거가 없다”고 결론 냈고요.
-
진행 중 (2026년 6월 기준): 2024년 시작된 SEC와 법무부의 자료 요구·조사는 2026년 6월 시점에도 진행 중이에요. 또 2026년 3월엔 별개 사안으로, 엔비디아 칩을 중국에 밀반출하려 한 혐의로 공동창업자 등 개인 3명이 기소됐어요. 회사 자체는 피고가 아니라 개인 기소예요.
📖 10-K란? 미국 상장사가 1년에 한 번 내는 공식 연간 보고서예요. 매출·이익·위험 요인을 다 담아야 해서, 이걸 제때 못 내면 상장 요건에 문제가 생겨요.
여기서 흔히 섞이는 게 하나 있어요. 가끔 인용되는 “1,750만 달러 SEC 벌금”은 2020년의 별개 과거 사안이지, 2024년 이슈가 아니에요. 시점을 섞으면 안 돼요.
지금 시장은 두 회사를 어떻게 보고 있을까요
여기서부터는 현재 시장 평가를 사실 그대로만 짚을게요. 미리 말하면, 이 글은 어디까지나 산업 구조 해설이라 사라거나 팔라는 얘기는 하지 않아요.
델 시가총액은 2026년 6월 기준 약 2,600억~2,700억 달러예요. 집계처에 따라 약 2,646억(companiesmarketcap)에서 약 2,654억(나스닥 기준) 사이로, 거의 비슷하게 잡혀요. 슈퍼마이크로는 약 150억~200억 달러대인데, 집계처별 편차가 꽤 커요. 같은 6월 안에서도 약 197억에서 약 151억까지 벌어지더라고요. 2026년 6월 초(6월 10일)엔 슈퍼마이크로가 부품 구매 자금을 마련하려고 약 70억 달러 규모의 유상증자(새 주식을 찍어 돈을 모으는 것) 계획을 발표했고, 발표 당일 주가가 약 23~28% 하락했어요(2026년 6월 기준, 서울경제·연합인포맥스 등 한국 매체 보도).
이 차이가 두 회사의 위치를 그대로 보여줘요. 델은 폭넓은 기업 영업망·서비스·긴 백로그로 덩치가 크고, 슈퍼마이크로는 빠른 조립·액체냉각이라는 전문성으로 좁고 깊게 가는 쪽이에요.
💡 한 가지 덧붙이면, 델의 백로그가 약 513억 달러까지 쌓이고 연간 AI 매출 전망을 약 600억으로 올린 건 “AI 서버 수요가 회사가 미리 잡아둔 매출을 크게 키웠다”는 사실까지만 읽으면 돼요. 한국 일부 블로그엔 “서버 수혜주” 식 표현이 흔한데, 저는 그런 식으로는 안 풀어요. 산업이 어떻게 굴러가는지를 보는 게 이 글의 목적이거든요.
그럼 한국은 이 자리에서 어디쯤 있을까요
솔직하게 말하면, 이 ‘서버 조립·대량 납품’ 칸에서 한국은 약해요. 한 분석은 “한국이 데이터센터 공조·산업용 냉각·전력 설비 경험은 있어도, 대만 ODM처럼 대량 납품과 서버 제조를 동시에 쥐지는 못한다”고 짚어요. GB200·GB300급 랙스케일 AI 서버를 직접 통합해 대량으로 납품하는 한국 글로벌 기업은 사실상 없는 셈이에요. 이 칸의 강자는 미국 OEM(델·HPE)과 대만 ODM(폭스콘·콴타·위스트론 등)이에요.
대신 한국은 다른 두 길로 이 흐름에 닿아 있어요. 서버 안에 들어가는 부품, 그리고 서버를 들여 굴리는 데이터센터예요.
부품 쪽은 한국이 강해요. 서버용 D램과 HBM은 삼성전자·SK하이닉스가 핵심이고, AI 서버 폭증이 이 수요를 끌어올리면서 “2027년까지 메모리 슈퍼사이클” 전망까지 나와요. 삼성전기는 AI 서버용 고사양 기판으로 엔비디아·브로드컴에 신규 공급사로 들어갔다는 보도도 있고요. 메모리값 얘기는 예전 글에서 깊이 다뤘으니 여기선 가볍게만 짚을게요.
데이터센터를 짓고 굴리는 쪽도 한국 자리가 있어요. LG유플러스가 파주에 수도권 유일 200MW급 하이퍼스케일 AIDC를 추진하고, 통신3사·네이버클라우드 같은 곳이 구축·운영을 맡아요. 외산 AI도 한국 데이터센터에서 돌기 시작했는데, 앤트로픽이 한국 데이터센터에서 클로드 오퍼스 4.8을 구동한다는 보도(2026.6)가 그 예예요.
정리하면, 칩과 서버 조립은 한국이 직접 못 쥐어요. 그래도 서버에 들어가는 메모리·기판, 그리고 서버를 들여 굴리는 데이터센터에서 한국이 닿아 있어요.
결국 내가 쓰는 AI가 이 서버 위에서 돌아요
이 얘기가 멀게 느껴질 수도 있는데요. 제가 매일 쓰는 챗봇·검색·번역 한 번이 사실 이 랙 서버 위에서 도는 거예요. 델이나 슈퍼마이크로가 조립한 랙 → 그 안의 엔비디아 GPU와 HBM → 전력과 냉각을 한 바퀴 돌아서 제 화면에 답이 떠요.
그리고 이 서버 증설 규모가 결국 내 지갑으로도 번져요. 빅테크들이 2026년에 서버·데이터센터에 쏟는 돈이 합쳐서 7,000억 달러대로 거론될 만큼 증설이 폭발하고 있거든요. 이게 서버용 메모리를 싹쓸이하면서 노트북·PC 메모리값을 밀어올리고, 데이터센터 전력 수요로 이어져 전기요금에도 압력을 줘요. 메모리값과 전기요금은 예전 글에서 따로 다뤘으니, 여기선 “내가 쓰는 AI = 누군가 조립한 서버 위에서 돈다”는 그림만 기억하면 돼요.
깅글렛 한줄평
💬 엔비디아 GPU만 본다면 AI 산업의 절반만 보는 거예요. 그 칩을 한 덩어리 컴퓨터로 묶어 데이터센터에 넣어주는 자리, 그리고 거기에 메모리·기판으로 닿아 있는 한국까지 같이 봐야 그림이 완성돼요.
마무리
오늘은 데이터센터를 채우는 AI 서버, 델과 슈퍼마이크로를 풀어봤어요. 칩 옆자리도 이렇게 한 산업이라는 게 보이면 다음 뉴스가 좀 다르게 읽히실 거예요.
다음 글에선 또 다른 병목 칸을 줌인해서 찾아올게요.
※ 이 글은 AI 산업 구조를 쉽게 푼 해설이며, 특정 종목 추천이나 투자 권유가 아니에요. 투자 판단과 책임은 본인에게 있어요. ※ 본 글의 시총·매출·점유율 수치는 2026년 6월 기준이며, 출처(IDC·델/슈퍼마이크로 발표·companiesmarketcap 등)에 따라 달라질 수 있어요.