산업·기술
EDITORIAL HUB
산업·기술
INDUSTRY & TECHNOLOGY
AI 데이터센터를 칩이 아니라 하나의 시스템으로 읽습니다
GPU와 HBM의 성능이 높아져도 네트워크가 데이터를 옮기지 못하거나 냉각과 전력이 따라오지 못하면 AI 인프라는 작동하지 않습니다. 불마켓은 각 기술을 따로 설명하는 대신 반도체 → 네트워크 → 냉각 → 전력 → 현장발전으로 이어지는 시스템 흐름 안에서 봅니다. 각 글은 이 기술이 왜 필요한가, 누가 돈을 벌 수 있는가, 무엇이 다음 병목이 되는가라는 세 질문에 답합니다.
왜 필요한가누가 돈을 버는가무엇이 병목인가
GPU·HBM→네트워크→냉각→전력→원전·가스·백업전원
CURATED READING
대표 시리즈 시작점
산업·기술
AI 네트워크① — AI 데이터센터는 왜 일반 네트워크로 부족할까?
수천 개 GPU를 하나처럼 묶는 AI 네트워크에서 대역폭·지연시간·혼잡 제어와 RDMA가 중요한 이유를 설명합니다.
산업·기술
AI 냉각② — Direct-to-Chip: GPU에 냉각판을 직접 붙이는 시대
AI GPU에 Cold Plate를 직접 붙이는 Direct-to-Chip Liquid Cooling의 원리와 CDU·Manifold·Coolant Loop 구조를 설명합니다.
산업·기술
AI 전력① — AI 데이터센터는 왜 기존 전력 구조로 부족할까?
AI 랙의 전력밀도가 수십 kW에서 수백 kW, MW급으로 올라가면서 기존 데이터센터 전력 구조가 왜 한계에…전체 산업·기술 글
최신순
휴머노이드·Physical AI① — AI가 화면 밖으로 나온다
Physical AI란 무엇이고 휴머노이드 로봇은 왜 지금 빠르게 발전할까? 센서, AI 두뇌, 액추에이터, 배터리, 시뮬레이션과 Figure의 대규모 AI 컴퓨팅 사례까지 초보자도 이해하기 쉽게 설명한다.
본문 읽기 →
AI 스토리지⑥ — AI 스토리지 공급망: 누가 GPU에 데이터를 먹여 살리나?
AI 스토리지 공급망을 NAND·NVMe SSD·컨트롤러·스토리지 플랫폼·파일시스템·AI 데이터 관리로 나눠 Micron, Marvell, Pure Storage, NetApp 등 주요 기업의 역할을 정리한다.
본문 읽기 →
AI 스토리지⑤ — GPUDirect Storage: 저장장치에서 GPU로 바로 데이터를 보내는 기술
NVIDIA GPUDirect Storage가 CPU bounce buffer를 줄이고 NVMe·NVMe-oF에서 GPU 메모리로 직접 데이터를 이동시키는 원리를 설명하고 AI 학습·체크포인트·추론에서의 의미를 정리한다.
본문 읽기 →
AI 스토리지④ — KV Cache: AI 추론 시대의 새로운 메모리 병목
LLM 추론에서 KV Cache가 왜 커지는지, context length와 동시사용자 증가가 GPU 메모리에 어떤 부담을 주는지, NVIDIA Dynamo의 CPU·SSD offloading과 계층형 캐시를 쉽게 설명한다.
본문 읽기 →
AI 스토리지③ — CXL 메모리: 서버의 메모리를 풀처럼 공유할 수 있을까?
CXL 4.0과 memory expansion·pooling의 원리를 설명하고 CPU DRAM, HBM, CXL memory tier가 AI 데이터센터에서 어떤 역할을 하는지 쉽게 정리한다.
본문 읽기 →
AI 스토리지② — NVMe·NVMe-oF: AI 서버는 왜 SATA를 넘어섰나?
NVMe와 NVMe over Fabrics가 왜 AI 데이터센터의 핵심 스토리지 기술인지 PCIe, RDMA, NVMe 2.4, PCIe Gen6 SSD까지 최신 구조를 쉽게 설명한다.
본문 읽기 →
AI 스토리지① — AI는 왜 저장장치까지 빨라야 할까?
AI 학습과 추론에서 저장장치가 왜 병목이 되는지 데이터셋, 체크포인트, 모델 로딩, GPU feeding 관점에서 쉽게 설명하고 AI 스토리지의 전체 구조를 정리한다.
본문 읽기 →
AI 전력⑥ — AI 전력 공급망: 누가 AI 팩토리에 전기를 넣는가?
AI 데이터센터 전력 공급망을 발전, 변압기, 스위치기어, UPS, 800VDC, 배터리, 전력반도체로 나눠 주요 기업의 역할을 정리한다.
본문 읽기 →
AI 전력⑤ — 현장발전·마이크로그리드: 데이터센터가 발전소를 직접 짓는 이유
전력망 연결 지연 때문에 AI 데이터센터가 Behind-the-Meter 가스터빈, 연료전지, BESS, 마이크로그리드를 선택하는 이유와 장단점을 설명한다.
본문 읽기 →
AI 전력④ — UPS·BESS: 수십만 GPU를 정전 1초에서 지키는 기술
AI 데이터센터의 UPS와 배터리 에너지저장장치(BESS)가 정전, 전압강하, 피크부하에서 어떤 역할을 하는지, 리튬이온·그리드 인터랙티브 UPS와 최신 구조를 설명한다.
본문 읽기 →