NVidia DGX H100이 출시되면서 많은 고객들이 물량 주문후 대기 중입니다. NVidia는 DGX A100을 성공하면서 차기 모델까지 고객을 줄세우고 있습니다.
이를 통해서 수해를 입는 회사들이 있는데, 이번 posting에서는 고대역폭 메모리(이하 HBM)를 얘기하려고 합니다. AI 서버 출하량이 크게 증가하면서 HBM에 대한 수요가 증가했습니다. 공급업체 상위업체는 SK Hynix, Samsung, Micron이며 시장 점유율이 50:40:10 정도입니다.
NVidia DGX H100의 경우 HBM2e 사양을 사용중이며, 가장 빠른 HBM3의 경우 SK Hynix만 양산하였고, 나머지 업체는 2024년초쯤 양산이 된다고 합니다.
고성능을 위해서 PCI express gen5에 대한 글을 posting했었습니다. 이런 흐름은 결국 HPC 전반의 세대교체를 필요로 하게 될 것입니다.
반응형
'Things that inspire me' 카테고리의 다른 글
| James Webb(제임스 웹) 우주 망원경 이야기 - 언노운: 우주를 보는 타임머신 (0) | 2023.09.12 |
|---|---|
| NVidia GPU 이야기 - DGX, HGX, SuperPods (0) | 2023.08.31 |
| PCI Express gen5 (0) | 2023.02.26 |
| 고성능 네트워크 연결 기술 - InfiniBand (0) | 2023.02.26 |
| AI모델 개발을 위한 GPU서버 (0) | 2023.02.26 |
