이런 질문을 받아왔습니다. GPU 컴퓨팅 파워를 통한 AI분석 시장에서 다른 벤더들도 많은데 왜 NVIDIA에 줄 서있는가? 다른 대안 GPU서버는 무엇인가?
현재 여러 GPU서버들이 존재하지만 public cloud 기준으로 서비스하는 GPU 종류는 NVIDIA와 AMD가 대표적입니다.
물론 산업군 안으로 들어가면 GPU가 아닌 ASIC로 자체 설계하는 회사들은 더 많아집니다. Tesla도 Google도 자체 설계하니까요.
왜 NVIDIA가 이 AI분석 시장을 리딩할까요?
OpenCL, AMD ROCm 및 Intel oneAPI와 같은 GPU 컴퓨팅용 프로그래밍 모델과 라이브러리가 다른 공급업체와 유사하지만 NVIDIA의 CUDA는 GPU 컴퓨팅 및 딥 러닝을 위한 최고의 플랫폼으로 널리 알려져 있습니다.
NVIDIA가 AI 시장의 선두주자로 자리매김할 수 있었던 몇 가지 이유가 있습니다.
- GPU 기술에 대한 초기 투자: NVIDIA는 GPU 기술의 초기 선구자였으며 20년 이상 GPU를 개발하고 개선해 왔습니다. 이를 통해 회사는 현장에서 유리한 출발을 할 수 있었고 GPU 컴퓨팅의 과제와 기회에 대한 깊은 이해를 발전시킬 수 있었습니다.
- 업계 리더와의 강력한 파트너십: NVIDIA는 선도적인 기술 회사 및 연구 기관과 강력한 파트너십을 구축했습니다. 이를 통해 회사는 최첨단 프로젝트에서 협력하고 GPU로 가능한 것의 한계를 뛰어넘는 새로운 기술을 개발할 수 있었습니다.
- 광범위한 소프트웨어 에코시스템: NVIDIA는 CUDA 프로그래밍 모델 및 라이브러리는 물론 TensorFlow 및 PyTorch와 같은 프레임워크를 포함하여 GPU 주변에 강력한 소프트웨어 에코시스템을 구축했습니다. 이를 통해 개발자는 딥 러닝 및 기타 AI 애플리케이션에 GPU의 성능을 더 쉽게 활용할 수 있습니다.
- 강력한 커뮤니티 지원: NVIDIA에는 GPU를 딥 러닝 및 기타 AI 애플리케이션에 사용하는 강력한 개발자 및 연구원 커뮤니티가 있습니다. 이 커뮤니티는 NVIDIA에 귀중한 피드백을 제공하고 현장에서 혁신을 주도하는 데 도움이 됩니다.
전체적으로 GPU 기술에 대한 NVIDIA의 투자, 강력한 파트너십, 광범위한 소프트웨어 에코시스템 및 커뮤니티 지원을 통해 NVIDIA는 AI 시장의 리더로 자리매김할 수 있었습니다. 그러나 AI 시장은 여전히 진화하고 있으며 향후 다른 공급업체가 중요한 플레이어로 부상할 수 있다는 점은 주목할 가치가 있습니다.
NVIDIA는 단순히 HW만 개발한 것이 아니라 저변에 AI분석에 필요한 라이브러리/프레임워크 및 고성능 연산에 필요 주변 기술과 협업/투자를 엄청나게 하였습니다. 예를 들면 Network 대역폭을 포화시키는 고성능 분석을 위해서 InfiniBand 독점 기술을 가진 Mellanox라는 회사를 인수하는 등의 투자입니다.
다음 post에서는 고성능 컴퓨팅(HPC)에 대해서 알아 보겠습니다.
'Things that inspire me' 카테고리의 다른 글
고성능 네트워크 연결 기술 - InfiniBand (0) | 2023.02.26 |
---|---|
AI모델 개발을 위한 GPU서버 (0) | 2023.02.26 |
정보검색의 새로운 패러다임 - ChatGPT (0) | 2023.02.13 |
[인물탐구] 짐 켈러(Jim Keller) (0) | 2023.02.12 |
회사소개 - AWS (Amazon Web Services) (0) | 2023.01.30 |