AI 스토리지⑤ — GPUDirect Storage: 저장장치에서 GPU로 바로 데이터를 보내는 기술
NVIDIA GPUDirect Storage가 CPU bounce buffer를 줄이고 NVMe·NVMe-oF에서 GPU 메모리로 직접 데이터를 이동시키는 원리를 설명하고 AI 학습·체크포인트·추론에서의 의미를 정리한다.
본문 읽기 →ARCHIVE
GPU
AI 스토리지① — AI는 왜 저장장치까지 빨라야 할까?
AI 학습과 추론에서 저장장치가 왜 병목이 되는지 데이터셋, 체크포인트, 모델 로딩, GPU feeding 관점에서 쉽게 설명하고 AI 스토리지의 전체 구조를 정리한다.
본문 읽기 →
AI 전력① — AI 데이터센터는 왜 기존 전력 구조로 부족할까?
AI 랙의 전력밀도가 수십 kW에서 수백 kW, MW급으로 올라가면서 기존 데이터센터 전력 구조가 왜 한계에 부딪히는지 그리드부터 GPU까지의 전력 경로를 쉽게 설명한다.
본문 읽기 →
엔비디아(NVDA) 실적 분석 — 매출 962억 달러·106% 증가, 데이터센터는 117% 성장
엔비디아 FY2027 2분기 전체 매출은 962억 달러로 전년 대비 106% 증가했고 데이터센터 매출은 890억 달러로 117% 증가했다. 1,080억 달러 가이던스, Vera Rubin, 마진 압박과…
본문 읽기 →
AI 데이터센터① — AI는 왜 이렇게 많은 전기를 먹을까?
GPU, 고밀도 랙, 전력 변환과 냉각 구조를 통해 AI 데이터센터가 많은 전기를 사용하는 이유를 설명합니다.
본문 읽기 →
AI 반도체 기술③ 첨단 패키징 — GPU와 HBM은 어떻게 하나의 AI 반도체가 될까?
GPU와 HBM을 하나의 AI 가속기로 연결하는 첨단 패키징을 쉽게 설명합니다. 2.5D 패키징, 인터포저, TSMC CoWoS, 칩렛과 패키징 병목을 살펴봅니다.
본문 읽기 →
AI 반도체 기술② HBM — GPU 옆에 붙은 초고속 메모리는 왜 중요할까?
GPU가 아무리 빨라도 데이터를 제때 공급받지 못하면 기다릴 수밖에 없습니다. HBM의 대역폭, TSV 적층 구조와 첨단 패키징으로 이어지는 AI 메모리 산업을 초보자 눈높이에서 설명합니다.
본문 읽기 →