NVIDIA 호퍼 아키텍처를 쓴 첫 GPU인 GH100의 다이어그램입니다. 공식은 아니고 NVIDIA 서버를 해킹해서 나온 자료를 토대로 만든 것입니다. 

TSMC 5nm 공정으로 제조, 8개의 GPC 엔진 중 1개에만 3D 그래픽 엔진이 있습니다. 데이터센터용 GPU니 불필요한 기능은 뺐나 봅니다. 그리고 48MB의 L2 캐시가 있는데 이건 GA100과 같습니다. 

각각의 클러스터마다 9개의 TPC가 있고, TPC에는 2개의 스트리밍 멀티프로세서가 있습니다. 쿠다 코어의 비율이 변하지 않았다면 144개의 SM, 9216개의 쿠다 코어가 나옵니다. 

GH100은 1개의 거대한 다이로 만들어졌지만 이를 2개 이어붙여 MCM 패키징한 GH202가 나온다고 합니다. 물론 이 경우에는 144개의 SM이 다 활성화된건 아니고 15~20% 정도는 꺼져 있을 겁니다.