๐จHBM ๋๋ฌผ ์ ํธ? ์ผ์ฑ·ํ์ด๋์ค๋ฅผ ํ๋ค “์ฐจ์ธ๋ ๋ฐ๋์ฒด ๊ธฐ์ ” ์ด์ ๋ฆฌ
๐จHBM ๋๋ฌผ ์ ํธ? ์ผ์ฑ·ํ์ด๋์ค๋ฅผ ํ๋ค “์ฐจ์ธ๋ ๋ฐ๋์ฒด ๊ธฐ์ ” ์ด์ ๋ฆฌ
๋ชฉ์ฐจ
์ ์ง๊ธ HBM(HBM, High Bandwidth Memory)์ด ๋ฌธ์ ์ธ๊ฐ
AI ์๋์ ์ง์ง ๋ณ๋ชฉ(Bottleneck)์ ๋ฌด์์ธ๊ฐ
HBM์ ๋์ฒดํ๋ ค๋ 3๊ฐ์ง ํต์ฌ ๊ธฐ์
๋ฐ๋์ ์์์ผ ํ ๊ธ๋ก๋ฒ ํต์ฌ ๊ธฐ์ ์ ๋ฆฌ
์ค์ ํฌ์ ์ ์ฐจ (์ด๋ณด๋ ๊ฐ๋ฅํ ๋งค๋ด์ผ)
์์ผ๋ก ์์ฅ ํ๋ฆ (์ค์ ์ธ์ฌ์ดํธ)
์ถ๊ฐ ์ค๋ช (๋ณด๊ฐ ๋ด์ฉ)
์ฐธ๊ณ ์ฌ์ดํธ ๋ฐ ์ฐธ๊ณ ๋ฌธํ
ํต์ฌ ์์ฝ
ํ๊ทธ ๋ฐ ๊ฒ์ ์ค๋ช
์ ์ง๊ธ HBM(High Bandwidth Memory)์ด ๋ฌธ์ ์ธ๊ฐ
ํ์ฌ AI ์์ฅ์ ํญ๋ฐ์ ์ผ๋ก ์ฑ์ฅ ์ค์
๋๋ค.
ํ์ง๋ง ๊ทธ ์ค์ฌ์๋ HBM(๊ณ ๋์ญํญ ๋ฉ๋ชจ๋ฆฌ)์ด๋ผ๋ ๋ฌธ์ ๊ฐ ์กด์ฌํฉ๋๋ค.
✔ HBM์ด๋?
→ GPU ์์ ๋ถ๋ ์ด๊ณ ์ ๋ฉ๋ชจ๋ฆฌ
✔ ๋ฌธ์ ์
๊ฐ๊ฒฉ์ด ๊ทน๋๋ก ๋น์
AI ๊ธฐ์ ๋ค์ ๋น์ฉ ๋ถ๋ด ์ฆ๊ฐ
“๊ฐ๊ฒฉ์ด ๋๋ฌด ๋น์ธ์ง๋ฉด, ์์ฅ์ ๋ฐ๋์ ๋์ฒด ๊ธฐ์ ์ ์ฐพ๋๋ค.”¹
AI ์๋์ ์ง์ง ๋ณ๋ชฉ(Bottleneck)
AI ์ฑ๋ฅ์ด ๋๋ ค์ง๋ ์ด์ ๋ ๋จ์ํฉ๋๋ค.
✔ ์ ๋ ฅ ๋ถ์กฑ (Power)
✔ ๋ฉ๋ชจ๋ฆฌ ๋ถ์กฑ (Memory)
✔ ๋ฐ์ดํฐ ์ด๋ ๋ฌธ์ (Data Transfer)
ํนํ ํต์ฌ์:
๐ ๋ฉ๋ชจ๋ฆฌ ๋น์ฉ + ํจ์จ ๋ฌธ์
๐ ํต์ฌ ์ดํด ๋ฐ์ค
[AI ๋ณ๋ชฉ ์ ๋ฆฌ]
GPU ์ฑ๋ฅ → ์ถฉ๋ถ
๋ฌธ์ → ๋ฉ๋ชจ๋ฆฌ ๋น์ฉ + ๋ฐ์ดํฐ ์ฒ๋ฆฌ
ํด๊ฒฐ ๋ฐฉํฅ → “๋ ์ฐ๊ณ ๋ ํจ์จ์ ์ผ๋ก”
HBM์ ๋์ฒดํ๋ ค๋ 3๊ฐ์ง ํต์ฌ ๊ธฐ์
1. S๋จ(SRAM, Static RAM)
✔ ํน์ง
๋น ๋ฆ (๊ณ ์)
๋น์
GPU ๋ด๋ถ์์ ์ง์ ์ฌ์ฉ
✔ ํต์ฌ ๋ณํ
๐ “HBM ๋์ S๋จ ํ์ฉ ์ฆ๊ฐ”
2. CXL (Compute Express Link)
✔ ๊ฐ๋
→ ๋ฉ๋ชจ๋ฆฌ๋ฅผ ๊ณต์ ํ๋ ๊ธฐ์
✔ ์ฝ๊ฒ ์ค๋ช ํ๋ฉด
๊ธฐ์กด: ๊ฐ์ ๋ฉ๋ชจ๋ฆฌ ์ฌ์ฉ
CXL: ํ๋์ ๋ฉ๋ชจ๋ฆฌ๋ฅผ ๊ฐ์ด ์ฌ์ฉ
๐ ์คํ ์ดํด ๋ฐ์ค
[๊ธฐ์กด ๊ตฌ์กฐ]
CPU → ๋ฉ๋ชจ๋ฆฌ
GPU → ๋ฉ๋ชจ๋ฆฌ
[๋ณ๊ฒฝ ๊ตฌ์กฐ]
CPU + GPU → ํ๋์ ๋ฉ๋ชจ๋ฆฌ ๊ณต์
3. ์ํํธ์จ์ด ์ต์ ํ (Software Optimization)
✔ ๋ํ ๊ธฐ์
์คํ์ค ์ปดํจํ (Sparse Computing)
→ ํ์ ์๋ ๊ณ์ฐ ์ ๊ฑฐํํ์ด์ ์ด์ (Quantization)
→ ๋ฐ์ดํฐ ์์ถ๋์คํธ๋ ์ด์ (Distillation)
→ ์์ ๋ชจ๋ธ ํ์ฉ
“๋ชจ๋ ๊ฒ์ ๊ณ์ฐํ์ง ๋ง๊ณ , ํ์ํ ๊ฒ๋ง ๊ณ์ฐํ๋ผ.”²
๋ฐ๋์ ์์์ผ ํ ํต์ฌ ๊ธฐ์ ์ ๋ฆฌ
๐ฅ ๋งค์ฐ ์ค์: ์ค์ ์์ฅ ํ๋ฆ ๋ฐ์
✅ 1. ๋ธ๋ก๋์ปด (Broadcom)
✔ ์ญํ
๋ฐ๋์ฒด ์ฐ๊ฒฐ (Interconnect)
AI ์์คํ ํต์ฌ ์นฉ
๐ ํต์ฌ: ๋ฐ์ดํฐ ์ฐ๊ฒฐ์ ์ค์ฌ ๊ธฐ์
✅ 2. ๋ง๋ฒจ ํ ํฌ๋๋ก์ง (Marvell Technology)
✔ ์ญํ
๋ฐ์ดํฐ ํ๋ฆ ์ ์ด
AI ๋ฐ๋์ฒด ์ค๊ณ
๐ ํต์ฌ: AI ์ธํ๋ผ ํต์ฌ ๊ธฐ์
✅ 3. ๋จ๋ฒ์ค (Rambus)
✔ ์ญํ
๊ณ ์ ์ธํฐํ์ด์ค
๋ฐ์ดํฐ ๋ณ๋ชฉ ํด๊ฒฐ
๐ ํต์ฌ: ์๋ ๊ฐ์ ํต์ฌ ๊ธฐ์
✅ 4. ์์คํธ๋ผ์ค (Astera Labs)
✔ ์ญํ
๋ฐ์ดํฐ ๋ณต์ (Retimer)
๐ ํต์ฌ: ๋ฐ์ดํฐ ์์ ์ฑ ํต์ฌ
✅ 5. ์๋ฒ์ฝ์ด (Evercore / Pure Storage ๊ด๋ จ ํ๋ฆ)
✔ ์ญํ
๋ฐ์ดํฐ ์ ์ฅ + ์ด๋
๐ ํต์ฌ: ๋ฐ์ดํฐ ๊ด๋ฆฌ ํต์ฌ
✅ 6. ๋ฒํฐ๋ธ (Vertiv)
✔ ์ญํ
๋ฐ์ดํฐ์ผํฐ ์ธํ๋ผ
๋๊ฐ ์์คํ
๐ ํต์ฌ: AI ์ ๋ ฅ + ์ด ๋ฌธ์ ํด๊ฒฐ
๐ ํฌ์ ํต์ฌ ๋ฐ์ค
[๋ฐ๋์ ์ฒดํฌํ ์ข ๋ชฉ]
๋ธ๋ก๋์ปด (Broadcom)
๋ง๋ฒจ (Marvell)
๋จ๋ฒ์ค (Rambus)
์์คํธ๋ผ์ค (Astera Labs)
๋ฒํฐ๋ธ (Vertiv)
์ค์ ํฌ์ ์ ์ฐจ (์์ ์คํ ๋งค๋ด์ผ)
์๋ ์์๋๋ก ์งํํ๋ฉด ์์ ์ ์ผ๋ก ์ ๊ทผ ๊ฐ๋ฅํฉ๋๋ค.
๐ ์คํ ์ ์ฐจ ๋ฐ์ค
1๋จ๊ณ: ์์ฅ ๋ฐฉํฅ ํ์ธ
AI → ๋ฐ๋์ฒด → “๋์ฒด ๊ธฐ์ ” ํ๋ฆ ์ฒดํฌ
์ฐธ๊ณ : https://www.nvidia.com
2๋จ๊ณ: ์ข ๋ชฉ ์ ์
๊ธฐ์กด: ์ผ์ฑ์ ์, SKํ์ด๋์ค
์ถ๊ฐ: ์ ํต์ฌ ๊ธฐ์
3๋จ๊ณ: ์ง์ ํ์ด๋ฐ
๊ธ๋ฑ ์ ์ง์ ๊ธ์ง
์กฐ์ ๊ตฌ๊ฐ ๋ถํ ๋งค์
4๋จ๊ณ: ๋น์ค ๊ด๋ฆฌ
ํ ์ข ๋ชฉ 20% ์ดํ
์ต์ 3์ข ๋ชฉ ๋ถ์ฐ
5๋จ๊ณ: ๋ฆฌ์คํฌ ๊ด๋ฆฌ
-10% ์์
๋ด์ค ๊ธฐ๋ฐ ๋์ ๊ธ์ง
์์ผ๋ก ์์ฅ ํ๋ฆ (์ค์ ์ธ์ฌ์ดํธ)
✔ ์ง๊ธ ์ํฉ
HBM → ๊ณผ๋ํ ์ง์ค
✔ ์์ผ๋ก
S๋จ + CXL + ์ํํธ์จ์ด
✔ ๊ฒฐ๋ก
๐ ๋ฉ๋ชจ๋ฆฌ → ๋น๋ฉ๋ชจ๋ฆฌ ์ค์ฌ ์ด๋
๐ ํต์ฌ ๋ณํ ๋ฐ์ค
[์์ฅ ๋ณํ]
๊ณผ๊ฑฐ: ๋ฉ๋ชจ๋ฆฌ ์ค์ฌ
ํ์ฌ: HBM ์ค์ฌ
๋ฏธ๋: ๊ตฌ์กฐ ์ต์ ํ + ์ฐ๊ฒฐ ๊ธฐ์
์ถ๊ฐ ์ค๋ช (๋ณด๊ฐ ๋ด์ฉ)
※ ์ถ๊ฐ๋ ๋ด์ฉ์ ๋๋ค
CXL ๋ณธ๊ฒฉํ ์์: 2028๋
์ ๋ฆฌ๊ธฐํ(Glass Substrate) ๊ธฐ์ ๋ฑ์ฅ
๋๊ฐ ๊ธฐ์ ์ค์์ฑ ์ฆ๊ฐ
์ฐธ๊ณ ์ฌ์ดํธ
NVIDIA: https://www.nvidia.com
KRX: https://www.krx.co.kr
DART: https://dart.fss.or.kr
Bloomberg: https://www.bloomberg.com
์ฐธ๊ณ ๋ฌธํ
AI ๋ฐ๋์ฒด ์์ฅ ๋ถ์ ๋ณด๊ณ ์
๋ฐ๋์ฒด ๊ตฌ์กฐ ํ์ ์ฐ๊ตฌ
๊ธ๋ก๋ฒ ํฌ์ ๋ฆฌํฌํธ
๋ฐ์ดํฐ์ผํฐ ์ธํ๋ผ ๋ถ์
ํต์ฌ ์์ฝ
HBM์ ํ์ฌ ํต์ฌ์ด์ง๋ง ๋น์ฉ ๋ฌธ์ ์กด์ฌ
๋์ฒด ๊ธฐ์ :
S๋จ
CXL
์ํํธ์จ์ด ์ต์ ํ
ํต์ฌ ํฌ์ ๋ฐฉํฅ:
์ฐ๊ฒฐ
๋ฐ์ดํฐ
์ธํ๋ผ
ํต์ฌ ์ข ๋ชฉ:
๋ธ๋ก๋์ปด
๋ง๋ฒจ
๋จ๋ฒ์ค
๋ฒํฐ๋ธ
ํ๊ทธ
#HBM #๋ฐ๋์ฒดํฌ์ #AI๋ฐ๋์ฒด #CXL #SRAM #๋ธ๋ก๋์ปด #๋ง๋ฒจ #๋จ๋ฒ์ค #๋ฒํฐ๋ธ #๋ฐ์ดํฐ์ผํฐ #AIํฌ์ #๋ฏธ๊ตญ์ฃผ์ #์ผ์ฑ์ ์ #ํ์ด๋์ค
๊ฒ์ ์ค๋ช (150์)
HBM ๋๋ฌด ๋น์ธ ๊ณ ๋ฏผ๋์๋์? 3๊ฐ์ง ๋์ฒด ๊ธฐ์ ๊ณผ 5๊ฐ ํต์ฌ ์ข ๋ชฉ์ผ๋ก ์์ต ๊ธฐํ๋ฅผ ์ก๋ ๋ฐฉ๋ฒ์ ์ง๊ธ ํ์ธํ์ธ์.
๋๊ธ
๋๊ธ ์ฐ๊ธฐ