NVIDIA DGX B200 총정리 — Blackwell 8기 탑재, H100 대비 훈련 3배·추론 15배, AI 팩토리의 새 기준
AI 모델의 규모가 수조 개의 파라미터로 확장되는 시대, 이를 학습하고 서빙할 인프라 없이는 아무것도 시작할 수 없습니다. OpenAI가 GPT-5.3-Codex를 NVIDIA GB200 NVL72 시스템에서 학습·서빙했고, 주요 클라우드 사업자들이 Blackwell 기반 인프라를 경쟁적으로 확충하는 현재, 그 핵심에 있는 것이 바로 NVIDIA DGX B200 입니다. DGX B200이란 무엇인가 NVIDIA DGX B200은 8개의 NVIDIA Blackwell GPU 를 5세대 NVLink로 상호 연결한 통합 AI 플랫폼입니다. NVIDIA 공식 페이지에 따르면, 데이터 준비부터 훈련, 파인튜닝, 추론에 이르는 AI 파이프라인의 모든 단계를 단일 시스템에서 처리할 수 있도록 설계되었습니다. 이전 세대 시스템인 DGX H100 대비 훈련 성능 3배, 추론 성능 최대 15배 를 제공한다고 NVIDIA는 밝히고 있습니다. Blackwell B200 GPU: 단일 칩 사양 DGX B200의 핵심인 개별 B200 GPU는 NVIDIA의 Blackwell 아키텍처 를 기반으로 합니다. TSMC의 커스텀 4NP 프로세스로 제조되며, 두 개의 레티클 한계 다이(die)를 하나의 통합 GPU로 연결한 혁신적인 듀얼 칩렛 설계를 채택했습니다. 주요 사양은 다음과 같습니다. 트랜지스터: 2,080억 개(H100의 800억 개 대비 약 2.6배). 메모리: GPU당 180GB HBM3e(일부 구성에서 192GB로 표기), 메모리 대역폭 약 8TB/s. 연산 성능: FP8 기준 약 9 PFLOPS(희소), FP4 기준 약 18 PFLOPS(희소). 새로운 기능: FP4 Tensor 코어가 최초 도입되어, FP8 대비 추론 처리량을 사실상 2배로 늘릴 수 있습니다. 또한 2세대...