윈디하나의 누리사랑방. 이런 저런 얘기

글쓴시간
분류 기술,IT
nVidia GB200 NVL72

GB200 의 이야기는 많은데 구체적으로 어떤건지는 잘 몰라서 찾아봤습니다.

GB200 은 1개의 Grace CPU 와 2개의 Blackwell GPU 로 이루어진 일종의 보드입니다.

사용자 삽입 이미지

nVidia GB200


이걸 NVL 을 사용해 36개 연결해 총 72 개의 Blackwell GPU 을 내장한게 GB200 NVL72 입니다.

사용자 삽입 이미지

nVidia GB200 NVL72


스펙은 아래와 같습니다. FP16 이 360PFLOPS 라는게 인상깊네요. 여기에 그 유명한 HBM3e 가 들어갑니다. 하나 가지고는 싶습니다.

사용자 삽입 이미지

스펙에는 안 나와있지만 GB200 NVL72의 TDP 가 140kW 으로 알려져 있습니다. 보통의 1U 서버 1대의 소비전력이 1kW 정도이고 1Rack(24U) 를 모두 채운다고 해도 24kW 인데, 140kW 라면 소비 전력이 높긴 하네요. 그래도 이전 세대보드 전성비는 좋습니다.