본문 바로가기

전체 글68

자동차보험 할인 특별약관 (티맵 안전운전 할인 특약) 자동차보험 할인을 받을 수 있는 특별약관은 다음의 종류가 있다. 자녀, 블랙박스장착, 마일리지, 차선이탈경고장치, 고령자안전운전이수, 서민우대 등의 할인이 있고, 오늘 소개할 티맵 안전운전 할인이 보험사별로 제공한다. 올해들어 티맵 안전운전 할인 정보를 알아서 사용중이었는데, 보험사 등록중에 조건이 안맞아 할인에 실패했다. 보험사마다 기준이 다른데 삼성화재의 경우, 마일리지 5천km 이상을 티맵으로 안전운전 평가를 받아야 하고, 그 점수가 70점 이상이어야 한다. 티맵안전 운전을 받으려면 이 조건을 보험 갱신 전에 미리 맞추고 진행하는 것이 좋다. 그리고, 보험사에게 티맵의 OTP 번호를 줘야 그들이 내 티맵 운전점수를 조회할 수 있는데, 내 핸드폰에 있는 티맵 앱에서 OTP번호를 찾는 tip으로 포스팅.. 2023. 9. 5.
NVidia GPU 이야기 - DGX, HGX, SuperPods 이 회사가 이렇게 AI시장을 주도할지 누가 알았을까요? 예전에는 고사양게임 하려면 필요한 Graphic card 제조 업체로 알고있었습니다. 7년전 즈음해서 Deep Learning을 하는데 CPU power보다는 core가 많은 GPU power를 고려하는 프로젝트를 하면서 NVidia가 무슨 일을 벌이는가를 인지하게 되었습니다.당시에 알게된 것은 CUDA(Compute Unified Device Architecture)를 통해서 NVidia GPU의 성능을 활용하여 병렬 컴퓨팅 처리를 할 수 있게하는 Toolkit과 프로그램 모델을 제공하는 것이 핵심 차별점이었습니다. 예를들면, 단지 HW만 제공하는 것이 아니라, 유전체역학을 모델링하여 렌더링할 수 있는 프로그램 모델을 제공해 주는 것입니다.본 po.. 2023. 8. 31.
HBM 고대역폭 초고속 메모리 (High-Bandwidth Memory) NVidia DGX H100이 출시되면서 많은 고객들이 물량 주문후 대기 중입니다. NVidia는 DGX A100을 성공하면서 차기 모델까지 고객을 줄세우고 있습니다. 이를 통해서 수해를 입는 회사들이 있는데, 이번 posting에서는 고대역폭 메모리(이하 HBM)를 얘기하려고 합니다. AI 서버 출하량이 크게 증가하면서 HBM에 대한 수요가 증가했습니다. 공급업체 상위업체는 SK Hynix, Samsung, Micron이며 시장 점유율이 50:40:10 정도입니다. NVidia DGX H100의 경우 HBM2e 사양을 사용중이며, 가장 빠른 HBM3의 경우 SK Hynix만 양산하였고, 나머지 업체는 2024년초쯤 양산이 된다고 합니다. 고성능을 위해서 PCI express gen5에 대한 글을 pos.. 2023. 8. 31.
LLM 이란 무엇이고, 그 활용사례는? 최근에 고객사에서 LLM(Large Language Model)의 요건으로 project가 진행되거나 계획중입니다. 이것은 OpenAI에서 제공한 ChatGPT라는 서비스가 준 파급력으로 보입니다. ChatGPT는 GPT-3.5 아키텍처를 기반으로 한 Large Language Model (LLM)입니다. LLM은 다양한 자연어 처리(NLP) 작업을 수행할 수 있는 딥러닝 알고리즘 입니다 . 대규모 언어 모델은 변환기 모델을 사용하며 대규모 데이터 세트를 사용하여 학습됩니다. 이를 통해 자연어 이해 및 생성 작업에 탁월한 성능을 가지게 되며, 다양한 언어 관련 작업을 수행할 수 있는 능력을 가지고 됩니다. 사용자의 입력에 따라 자연스러운 대화를 생성하고 응답하는 데 사용될 수 있습니다. LLM(Large.. 2023. 8. 31.
PCI Express gen5 고성능 컴퓨팅(HPC) 영역에서는 최대성능치를 끌어쓰는 영역이라서 다양한 제품에 성능이 다 중요합니다. 그중에서도 고성능을 사용하는 부품들이 고속 인터페이스로 PCI Express(이하 PCIe)를 사용합니다. AI분석 영역에서 GPU, NVME SSD, 네트워크 카드 등의 고성능 데이터 전송에 큰 영향을 주고 있습니다. PCI Express(PCIe)는 일반적으로 GPU, 네트워크 카드 및 저장 장치와 같은 주변 장치를 컴퓨터의 마더보드에 연결하는 데 사용되는 고속 직렬 인터페이스입니다. PCIe Gen 5는 PCIe 인터페이스의 최신 버전이며 이전 버전에 비해 크게 개선되었습니다. PCIe Gen 5는 PCIe Gen 4의 레인당 16GT/s에 비해 레인당 32GT/s(초당 기가전송)의 원시 데이터 .. 2023. 2. 26.
고성능 네트워크 연결 기술 - InfiniBand AI모델 학습을 위한 고성능 컴퓨팅 기능에 대해서 연재를 하려고 합니다. HPC라고 하는 영역에서 고성능을 내기위해서는 다양한 기술들이 받쳐줘야 합니다. CPU, GPU, 메모리, 저장장치 그리고, 오늘 얘기하려는 네트워크 기술입니다. AI환경에서는 NVIDIA가 주도하면서 InfiniBand를 권장하고 있습니다. InfiniBand는 AI 및 기계 학습 워크로드에 사용되는 것을 포함하여 고성능 컴퓨팅(HPC) 환경에서 자주 사용되는 고속 상호 연결 기술입니다. InfiniBand가 이더넷 또는 파이버 채널과 같은 다른 상호 연결 기술보다 선호되는 몇 가지 이유가 있습니다. - 높은 대역폭: InfiniBand는 방향당 포트당 최대 200Gbps의 속도를 지원하는 최신 세대의 InfiniBand(HDR).. 2023. 2. 26.
반응형