본문 바로가기

Things that inspire me26

Daily talk 20240102 오늘의 대화 캡처 : 질문에 대답 못하고 횡설수설하는 나에게 이렇게 영업해보는게 어떠냐고 가이드를 해주는 녀석. 기특하다. One effective angle could be to emphasize the time and cost savings your clients can achieve with high-performance storage. Share specific instances where faster data processing led to quicker decision-making or improved overall efficiency. Also, consider illustrating the scalability aspect – how it adapts seamlessly to growing.. 2024. 1. 2.
[유머] 삼성전자 반도체의 굴욕 검증직원 익명사이트 Blind에 올라온 글 Fact check 관점에서는 - SK Hynix가 HBM3가 현재 Nvidia H100에 납품하고 있고, Micron과 삼성은 내년초에 대량 생산 예정 - 즉, SK Hynix가 HBM 메모리에서 앞서있고, 삼성과 Micron이 추격중. 핸드폰/PC 메모리 수요가 크게 늘지 안을 것 같은 상황에서 생성형 AI 분야에 공성능 HPC용 고성능 메모리 패키징 투자 강화가 필요한 상황 - Nvidia H100의 대항마로 AMD MI300X 에 삼성의 HBM3를 탑재한다고 발표 - HBM의 규격이 어지러워지고 있음 (HBM3, HBM3P, HBM3E, HBM3 Gen2 등등) 등은 맞지만, 검색해봐도 아래 내용이 공식적인 기사로는 안보입니다. 링크의 찌라시 같은 내용의.. 2023. 10. 7.
James Webb(제임스 웹) 우주 망원경 이야기 - 언노운: 우주를 보는 타임머신 넷플릭스는 다큐멘터리 때문에 구독을 끊을 수 없다. 우연히 "언노운: 우주를 보는 타임머신"을 시청하였고, 제임스 웹이라는 우주망원경을 우주 궤도에 올리는 프로젝트를 일반인의 시선에서 풀어냈다. 정말 경이로운 프로젝트이다. 미국은 쓸데없는 짓거리도 많이하지만 이런 미래를 위한 투자, 바로 어떤 결과가 나올지 모르는 프로젝트에 어마어마한 투자를 할 수 있는 나라이다. 제임스웹 프로젝트가 너무 경이롭고, 놀라웠기 때문에 Hubble(허블) 우주망원경 프로젝트도 궁금해졌다. 허블 프로젝트는 더욱 놀라움에 연속이었다. 허블 프로젝트 는 1970년대에 투자를 받았지만 당시의 기술문제로 계속 지연되고, 우주 왕복선 폭발문제로 프로젝트가 난항을 겪고 1990년에 최종적으로 발사되었다. 이후 화질이 좋지안아 망원경 수.. 2023. 9. 12.
NVidia GPU 이야기 - DGX, HGX, SuperPods 이 회사가 이렇게 AI시장을 주도할지 누가 알았을까요? 5년전만 해도 고사양게임 하려면 필요한 Graphic card 업체로 알고있었습니다. 5년전 즈음해서 Deep Learning을 하는데 CPU power보다는 core가 많은 GPU power를 고려하는 프로젝트를 하면서 NVidia가 무슨 일을 벌이는가를 인지하게 되었습니다. 당시에 알게된 것은 CUDA(Compute Unified Device Architecture)를 통해서 NVidia GPU의 성능을 활용하여 병렬 컴퓨팅 처리를 할 수 있게하는 Toolkit과 프로그램 모델을 제공하는 것이 핵심 차별점이었습니다. 예를들면, 단지 HW만 제공하는 것이 아니라, 유전체역학을 모델링하여 렌더링할 수 있는 프로그램 모델을 제공해 주는 것입니다. 본 .. 2023. 8. 31.
HBM 고대역폭 초고속 메모리 (High-Bandwidth Memory) NVidia DGX H100이 출시되면서 많은 고객들이 물량 주문후 대기 중입니다. NVidia는 DGX A100을 성공하면서 차기 모델까지 고객을 줄세우고 있습니다. 이를 통해서 수해를 입는 회사들이 있는데, 이번 posting에서는 고대역폭 메모리(이하 HBM)를 얘기하려고 합니다. AI 서버 출하량이 크게 증가하면서 HBM에 대한 수요가 증가했습니다. 공급업체 상위업체는 SK Hynix, Samsung, Micron이며 시장 점유율이 50:40:10 정도입니다. NVidia DGX H100의 경우 HBM2e 사양을 사용중이며, 가장 빠른 HBM3의 경우 SK Hynix만 양산하였고, 나머지 업체는 2024년초쯤 양산이 된다고 합니다. 고성능을 위해서 PCI express gen5에 대한 글을 pos.. 2023. 8. 31.
PCI Express gen5 고성능 컴퓨팅(HPC) 영역에서는 최대성능치를 끌어쓰는 영역이라서 다양한 제품에 성능이 다 중요합니다. 그중에서도 고성능을 사용하는 부품들이 고속 인터페이스로 PCI Express(이하 PCIe)를 사용합니다. AI분석 영역에서 GPU, NVME SSD, 네트워크 카드 등의 고성능 데이터 전송에 큰 영향을 주고 있습니다. PCI Express(PCIe)는 일반적으로 GPU, 네트워크 카드 및 저장 장치와 같은 주변 장치를 컴퓨터의 마더보드에 연결하는 데 사용되는 고속 직렬 인터페이스입니다. PCIe Gen 5는 PCIe 인터페이스의 최신 버전이며 이전 버전에 비해 크게 개선되었습니다. PCIe Gen 5는 PCIe Gen 4의 레인당 16GT/s에 비해 레인당 32GT/s(초당 기가전송)의 원시 데이터 .. 2023. 2. 26.
반응형