같은 나라에서 자란 두 장군, 왜 길이 갈렸나
같은 나라에서 나고 자란 두 장군이 있습니다. 한때는 실력이 비슷했고, 세계 최고 수준이라는 평가를 함께 받았어요. 그런데 어느 순간부터 두 사람의 길이 완전히 갈립니다.
한 명은 "모든 무기를 혼자서 다 만들겠다"고 선언했고, 다른 한 명은 "최강의 동맹을 빠르게 엮겠다"고 했어요. 지금 이 두 장군은 같은 전장에서 전혀 다른 방식으로 싸우고 있습니다.
삼성전자와 SK하이닉스 이야기입니다. 그런데 오늘은 단순한 실적 비교가 아니에요. AI 메모리 반도체의 판 자체가 뒤집어지고 있거든요.
왜 "AI 시대는 메모리가 지배한다"는 말이 나오는가
AI 하면 보통 GPU나 엔비디아 이야기부터 나오죠. 그런데 반도체 업계에서는 요즘 다른 이야기가 나와요.
"PC 시대의 핵심이 CPU였다면, AI 시대는 메모리가 지배한다."
— KAIST 김정호 교수 연구팀
AI가 연산을 하려면 엄청난 양의 데이터를 아주 빠르게 꺼내 써야 해요. 아무리 GPU가 빠르게 계산해도, 데이터를 꺼내오는 속도가 따라가지 못하면 GPU는 기다려야 합니다. 요리사가 아무리 빨라도 재료를 가져오는 사람이 느리면 주방이 멈추는 것처럼요. 이걸 '메모리 병목현상'이라고 하는데, 이 문제를 해결하기 위해 등장한 게 바로 HBM(High Bandwidth Memory, 고대역폭 메모리)입니다.
기존 메모리는 데이터가 한 줄로 이동했어요. 마치 외길 도로처럼요. 하지만 AI가 필요로 하는 데이터량은 외길로는 어림도 없습니다.
그래서 메모리를 햄버거 패티처럼 여러 겹 쌓아 올려 데이터 이동 경로를 수십 개로 늘린 거예요. 기존 메모리보다 수십 배 빠른 속도로 데이터를 처리합니다.
여러분이 챗GPT에 질문을 던지는 순간, 그 답을 만드는 데 HBM이 작동하고 있어요.
그리고 이 시장을 지금 SK하이닉스가 점유율 50% 이상으로 장악하고 있습니다.
세계 최대 반도체 기업 삼성이, 왜 뒤처진 걸까
삼성전자 내부에서 중요한 결정이 내려집니다. HBM 개발팀을 사실상 해체한 거예요. 경영진의 판단은 이랬어요. "HBM은 일부 특수 고객만 쓰는 니치 마켓이다. 우리가 집중해야 할 건 대량으로 팔리는 범용 D램이다."
챗GPT가 등장합니다. AI 반도체 수요가 폭발했고, 엔비디아는 HBM이 달린 칩이 절실히 필요해졌어요. 그 자리에 이미 준비를 마친 SK하이닉스가 있었습니다.
삼성은 다시 HBM에 자원을 쏟기 시작했지만, 그 사이 기술 격차가 생겨버린 상황입니다.
틀린 판단이라고 하기는 어려워요. 2019년의 시장만 봤을 때는 충분히 합리적인 결정이었으니까요. 하지만 그 결정이 지금의 격차를 만들었습니다.
삼성이 꺼내든 카드 — "우리는 혼자서 다 할 수 있다"
그렇다고 삼성이 손을 놓고 있는 건 아니에요. 오히려 지금 삼성이 꺼내든 카드가 은근히 무서운 게 있습니다.
| SK하이닉스 | 삼성전자 | |
|---|---|---|
| 비유 | 세계 최고의 문을 만드는 장인 | 그 문을 포함해 집 전체를 짓는 종합 건설사 |
| 강점 | HBM 특화, 빠른 기술 집중 | D램 + 낸드플래시 + 파운드리 내재화 |
| 전략 키워드 | 동맹·표준 선점 | 턴키(Turn-Key) 역량 |
반도체 업계에서 이걸 '턴키(Turn-Key) 역량'이라고 해요. 고객이 설계도만 던져주면, 생산부터 패키징까지 삼성이 혼자 처리해 준다는 거예요. 고객 입장에선 한 곳에서 다 해결할 수 있으니까요.
지금 삼성은 HBM의 차세대 버전인 HBM4에 전사적 자원을 쏟고 있습니다. HBM4는 단순히 메모리 칩 하나를 만드는 게 아니라, 칩과 칩을 연결하고 패키징하는 고난도 공정이 필요한데, 삼성은 이 전 과정을 외부 파트너 없이 혼자서 처리할 수 있어요.
진짜 새로운 전장 — HBM 다음의 HBF
HBM 싸움이 이렇게 치열한데, 왜 두 회사 모두 눈을 완전히 새로운 영역으로 돌리고 있을까요?
AI는 크게 두 단계로 나뉩니다. 학습과 추론이에요. 지금까지의 AI 반도체 전쟁은 학습 단계에 초점이 맞춰져 있었어요. 그런데 이제 전선이 바뀌고 있습니다. 학습이 끝난 AI를 실제 서비스로 만드는 '추론' 단계로요.
의사가 환자 수십 년치 기록을 기억하면서 진단하고, AI가 수백만 개 법률 문서를 동시에 검토하고, 공장 AI가 수천 개 센서를 실시간으로 분석하는 세상. 이게 추론의 시대입니다. 그리고 이 추론을 제대로 하려면, HBM만으로는 부족해요.
📚 HBM — 책상 옆 작은 책장. 지금 당장 필요한 책을 아주 빠르게 꺼낼 수 있지만, 용량이 작고 비쌉니다.
🏛 HBF(고대역폭 플래시, High Bandwidth Flash) — 동네 대형 도서관. 속도는 HBM보다 조금 느리지만, 용량을 HBM 대비 10배~최대 100배까지 늘릴 수 있고 단가도 훨씬 저렴합니다.
빠른 책장(HBM)엔 지금 당장 쓸 것만 올려두고, 나머지는 도서관(HBF)에 보관해 두다가 필요할 때 꺼내 쓰는 혼합 구조가 핵심입니다.
18.8배 — HBM+HBF 혼합 구조의 충격적인 성능
데이터센터를 운영하는 기업 입장에선 이게 엄청난 이야기예요. 지금 AI 서비스 운영 비용이 천문학적입니다. 챗GPT 하나가 답변하는 데 드는 비용이 구글 검색보다 수십 배 비싸다는 통계도 있어요.
HBF는 AI를 더 빠르게 만드는 게 아니라, AI를 더 많은 사람이 더 싸게 쓸 수 있게 만드는 기술입니다.
두 회사의 HBF 전략 — 표준 선점 vs 생산력
SK하이닉스의 전략 — '표준을 내가 만든다'
2025년 8월, 미국 샌디스크와 HBF 표준화를 위한 파트너십을 맺었어요. 2026년 2월에는 캘리포니아에서 글로벌 표준화 컨소시엄 킥오프 행사를 열었고, 같은 달 차세대 AI 서버 설계도 'H3 아키텍처'를 공개했습니다. GPU 옆에 HBM(속도)과 HBF(용량)를 함께 배치하는 구조예요.
반도체 업계에서 표준을 선점한다는 건 USB 규격을 만든 회사가 수십 년간 USB 시장 전체를 설계한 것과 같아요. 경쟁에서 이기는 게 아니라, 경쟁의 룰 자체를 만드는 것입니다.
삼성전자의 전략 — '규모와 내재화'
삼성도 2027년 HBF 상용화를 목표로 전력을 투구하고 있어요. 삼성은 낸드플래시 생산 능력, HBM 기술, 파운드리를 모두 내재화한 세계 유일의 회사입니다. 표준화 경쟁에서는 SK하이닉스가 먼저 움직였지만, 고객이 원하는 건 표준만이 아니에요. "누가 실제로 만들어줄 수 있냐"가 결국 관건이거든요. HBF 시대가 열리면, 세계 최대의 낸드 생산력이 삼성의 반격 카드가 됩니다.
2038년, HBF가 HBM을 역전한다
이 싸움이 어디로 흘러가는지를 보여주는 예측이 있습니다.
KAIST 연구팀은 "2038년을 기점으로 HBF의 시장 규모가 HBM을 역전할 것"으로 내다봤습니다. 지금이 2026년이니, 12년 뒤에 판이 완전히 뒤집힌다는 얘기예요.
국내외 금융투자업계도 비슷한 분석을 내놓고 있어요. HBF 상용화가 본격화되면 낸드플래시 산업 전체가 단순 저장장치라는 취급을 벗어나 AI 인프라의 핵심 부품으로 재평가받게 됩니다. 낸드 가격이 오르고, 낸드를 만드는 회사들의 위상이 달라지는 거예요.
그 핵심 플레이어가 바로 삼성전자와 SK하이닉스입니다. 이 전쟁의 진짜 출발선이 바로 지금이에요.
AI가 '학습'에서 '추론'으로 진화한다는 건, AI가 이제 실험실 밖으로 나와 우리 일상 속으로 들어온다는 뜻입니다. 병원에서 AI가 진단을 돕고, 법률사무소에서 계약서를 검토하고, 공장에서 불량을 잡아내는 세상. 그 세상을 움직이는 심장이 메모리 반도체이고, 그 심장의 두 박동이 HBM과 HBF입니다. 그리고 그 두 기술 모두에서 지금 한국이 세계 최전선에 있어요.