홈 > 실시간 > 실시간
실시간

현재 램 부족 사태의 원흉

불량우유 4 4514 16 0


# 베라 루빈 NVL72 상세 요약
- CPU: Vera CPU 36개 (88코어 Arm 기반 Olympus 커스텀 코어, LPDDR5X 메모리 최대 1.5TB 지원)
- GPU: Rubin GPU 72개 (HBM4 메모리 탑재, GPU당 288GB, Transformer Engine 지원)
- 슈퍼칩 단위: Vera CPU 1개 + Rubin GPU 2개 결합
- 기타 칩: NVLink 6 스위치, ConnectX-9 SuperNIC, BlueField-4 DPU, Spectrum-6 Ethernet 스위치 등 6개 칩 극한 공동 설계
## 성능 (Blackwell 대비)
- 추론(Inference): 5배 향상 (NVFP4 기준 3.6 EFLOPS, GPU당 50 PFLOPS)
- 훈련(Training): 3.5배 향상 (NVFP4 기준 2.5 EFLOPS)
- 토큰당 비용: MoE 모델 기준 10분의 1 수준 (추론 비용 대폭 절감)
- MoE 모델 훈련: 필요한 GPU 수 4분의 1로 감소
- 메모리: HBM4 20.7TB + LPDDR5X 54TB
- 대역폭: NVLink 6로 GPU당 3.6 TB/s, 랙 전체 260 TB/s (인터넷 전체 대역폭 초과)

 

 램을 몇층씩 적층으로 쌓은 HBM4를 '테라'단위로 씀.시스템 구조라 1GPU당은 288GB,

 

 이런데 램이 안부족하면 그게 더 신기할 지경임

4 Comments
BooU 18시간전  
288GB 짜리 램을 생산해 그냥 나도램좀 사자

럭키포인트 837 개이득

아뒷목 18시간전  
[@BooU] 다 사놓고 램만 못사고있음...
근데 프사뭔가요....좋네요

럭키포인트 9,422 개이득

생각없는오리 14시간전  
램 싹쓸이해서 gpu 만들고 그 gpu를 또 싹쓸이 하는 중인거잔어?

럭키포인트 20,653 개이득

내마음속에사나요 12시간전  
이래놓고 지금은

"아 맞다 여러분 저장장치도 많이 필요하고 중요해요! ㅎㅎㅎ"

그러면서 SSD 랑 HDD 값 올리고 앉아 있음..

럭키포인트 14,101 개이득

제목
🌙