본문 바로가기

Things that inspire me26

고성능 네트워크 연결 기술 - InfiniBand AI모델 학습을 위한 고성능 컴퓨팅 기능에 대해서 연재를 하려고 합니다. HPC라고 하는 영역에서 고성능을 내기위해서는 다양한 기술들이 받쳐줘야 합니다. CPU, GPU, 메모리, 저장장치 그리고, 오늘 얘기하려는 네트워크 기술입니다. AI환경에서는 NVIDIA가 주도하면서 InfiniBand를 권장하고 있습니다. InfiniBand는 AI 및 기계 학습 워크로드에 사용되는 것을 포함하여 고성능 컴퓨팅(HPC) 환경에서 자주 사용되는 고속 상호 연결 기술입니다. InfiniBand가 이더넷 또는 파이버 채널과 같은 다른 상호 연결 기술보다 선호되는 몇 가지 이유가 있습니다. - 높은 대역폭: InfiniBand는 방향당 포트당 최대 200Gbps의 속도를 지원하는 최신 세대의 InfiniBand(HDR).. 2023. 2. 26.
AI모델 개발을 위한 GPU서버 GPU 집약적인 AI 모델의 경우 이상적인 GPU 서버는 데이터 세트의 크기, 모델 아키텍처의 복잡성 및 원하는 교육 시간과 같은 모델의 특정 요구 사항에 따라 달라집니다. GPU 집약적인 AI 모델을 위해 GPU 서버를 선택할 때 고려해야 할 몇 가지 일반적인 지침은 다음과 같습니다. - GPU 성능: GPU는 AI 모델 훈련에 가장 중요한 구성 요소입니다. NVIDIA A100(최신 모델은 H100) 또는 AMD Radeon Instinct MI100과 같이 고성능을 제공하는 최신 GPU가 장착된 서버를 찾으십시오. 이 GPU는 메모리 대역폭이 높고 고정밀 계산을 지원하므로 딥 러닝 애플리케이션에 이상적입니다. - 메모리: 많은 메모리가 필요한 AI 모델은 메모리 용량이 큰 서버가 유리할 수 있습니다.. 2023. 2. 26.
왜 NVIDIA가 AI시장을 리딩하는가? 이런 질문을 받아왔습니다. GPU 컴퓨팅 파워를 통한 AI분석 시장에서 다른 벤더들도 많은데 왜 NVIDIA에 줄 서있는가? 다른 대안 GPU서버는 무엇인가? 현재 여러 GPU서버들이 존재하지만 public cloud 기준으로 서비스하는 GPU 종류는 NVIDIA와 AMD가 대표적입니다. 물론 산업군 안으로 들어가면 GPU가 아닌 ASIC로 자체 설계하는 회사들은 더 많아집니다. Tesla도 Google도 자체 설계하니까요. 왜 NVIDIA가 이 AI분석 시장을 리딩할까요? OpenCL, AMD ROCm 및 Intel oneAPI와 같은 GPU 컴퓨팅용 프로그래밍 모델과 라이브러리가 다른 공급업체와 유사하지만 NVIDIA의 CUDA는 GPU 컴퓨팅 및 딥 러닝을 위한 최고의 플랫폼으로 널리 알려져 있습니.. 2023. 2. 26.
정보검색의 새로운 패러다임 - ChatGPT ChatGPT는 OpenAI에서 개발한 대화형 AI 모델입니다. 딥러닝을 사용하여 텍스트 입력에 대해 인간과 유사한 응답을 생성하는 대규모 언어 모델입니다. 이 모델은 인터넷의 방대한 텍스트 데이터 세트에서 훈련되어 질문에 답하고, 설명을 제공하고, 소설과 시를 쓰는 등의 작업을 수행할 수 있습니다. ChatGPT는 일반 지식, 엔터테인먼트, 역사, 과학 등 다양한 주제에 대응하도록 설계되어 고객 서비스에서 콘텐츠 제작에 이르기까지 다양한 애플리케이션에 유용한 도구입니다. OpenAI는 캘리포니아주 샌프란시스코에 본사를 둔 연구 조직 및 기술 회사입니다. 2015년 Elon Musk, Sam Altman, Greg Brockman, Ilya Sutskever, Wojciech Zaremba, John S.. 2023. 2. 13.
[인물탐구] 짐 켈러(Jim Keller) Jim Keller는 기술 산업에 상당한 공헌을 한 저명한 마이크로프로세서 설계자이자 엔지니어입니다. 그는 AMD, Apple, Tesla를 비롯한 여러 기술 회사에서 핵심 직책을 맡았습니다. 그의 가장 큰 업적 중 하나는 AMD K7 및 K8 마이크로프로세서 설계 작업으로 AMD를 마이크로프로세서 시장의 주요 업체로 만들고 Intel의 지배력에 도전했습니다. Apple에서 그는 iPhone 및 iPad를 구동하는 A4 및 A5 칩 개발에 중요한 역할을 했으며 모바일 장치 시장의 성장을 주도했습니다. Tesla에서 그는 Tesla의 고급 운전자 지원 시스템 및 자율 주행 기술을 가능하게 하는 핵심 요소인 회사의 맞춤형 Autopilot 하드웨어 개발을 이끌었습니다. Jim Keller는 그의 세대에서 가.. 2023. 2. 12.
회사소개 - AWS (Amazon Web Services) Amazon Web Services(AWS)는 Amazon.com, Inc.의 자회사이며 컴퓨팅, 스토리지, 데이터베이스 및 분석을 포함한 광범위한 서비스를 제공하는 클라우드 컴퓨팅 플랫폼입니다. AWS는 2006년에 출시된 이후 빠르게 성장하여 세계에서 가장 크고 성공적인 클라우드 컴퓨팅 플랫폼 중 하나로 성장했습니다. AWS의 주요 전략은 고객에게 고도로 확장 가능하고 유연하며 비용 효율적인 클라우드 컴퓨팅 서비스를 제공하는 것입니다. AWS는 스타트업에서 대기업에 이르기까지 크고 다양한 고객 기반을 보유하고 있으며 회사의 서비스는 모든 규모의 고객 요구를 충족하도록 설계되었습니다. AWS의 주요 캐시카우(cash-cow)는 컴퓨팅, 스토리지, 데이터베이스 및 분석을 포함하는 클라우드 컴퓨팅 서비스입.. 2023. 1. 30.
반응형

티스토리툴바