NVSwitch가 연결된 NVIDIA Volta GPU는 세계에서 가장 큰 'GPU'

실제로 총 81920 개의 CUDA 코어와 Tensor 코어 컴퓨팅을 갖춘 최대 2K TFLOP을 가진 클러스터 인 'GPU'는 사실 NVSwitch로 연결된 16 개의 Tesla V100 32GB GPU 클러스터이다.

이 시스템에는 512GB의 HBM2 메모리와 최대 14.4TB / s의 총 대역폭이 있다. 'GPU'는 엔비디아 DGX2 시스템에서 제공되며 젠슨 (Jensen)은 '세계에서 가장 큰 그래픽 카드'라고 부른다.

NVSwitch : 혁신적인 인터커넥트 패브릭
NVSwitch는 최상의 PCIe 스위치보다 5 배 더 높은 대역폭을 제공하므로 개발자는 더 많은 GPU가 서로 하이퍼 커넥트 된 시스템을 구축 할 수 있다. 개발자가 이전 시스템 제한 사항을 깨고 훨씬 더 큰 데이터 세트를 실행할 수 있다. 또한 신경 네트워크의 병렬 교육 모델링을 포함하여 더 크고 복잡한 작업 부하를 열어준다.

NVSwitch는 NVIDIA가 개발 한 최초의 고속 상호 연결 기술인 NVIDIA NVLink ™를 통해 제공되는 혁신을 확장한다. NVSwitch를 통해 시스템 설계자는 NVLink 기반 GPU의 모든 토폴로지에 유연하게 연결할 수있는 더욱 발전된 시스템을 구축 할 수 있다.

NVIDIA DGX-2 : 세계 최초의 두 페타 플롭 시스템
NVIDIA의 새로운 DGX-2 시스템은 컴퓨팅 스택의 모든 레벨에서 NVIDIA가 개발 한 업계 선도적 인 기술 발전의 폭을 넓혀 두 개의 페타 플롭 이정표를 달성했다.

DGX-2는 NVSwitch를 처음으로 선보이는 시스템으로 시스템의 모든 16 개의 GPU가 통합 메모리 공간을 공유 할 수있게한다. 개발자는 이제 가장 큰 데이터 세트와 가장 복잡한 심층 학습 모델을 다루기 위해 깊은 학습 능력을 습득했다.

DGX-2는 완전히 최적화되고 업데이트 된 NVIDIA 심층 학습 소프트웨어 세트와 결합되어 심층 학습 연구 및 컴퓨팅의 한계를 넘는 데이터 과학자들을 위해 특별히 제작되었다.

DGX-2는 9 월에 소개 된 Volta의 DGX-1 성능보다 10 배 향상된 최단의 신경 기계 번역 모델 인 FAIRSeq를 2 일 이내에 훈련시킬 수 있다.

출처 : videocardz