▶ AMD, 3rd CDNA GPU 마이크로아키텍처 기반 'Instinct MI300(인스팅트 MI300)' GPU 가속기의 세부 정보 공개

 

① AMD 인스팅트 MI300 데이터센터 APU 제원(AMD CES 2023에서 소개함)
- 정식 제품 모델명 : AMD Instinct(인스팅트) MI300A
- CPU 마이크로아키텍처 : ZEN 4(4세대 ZEN) 24 코어(48 스레드)
- CPU 코어 다이 구성 : 3개 'ZEN 4' CCD[CCD 당 '8 코어(16 스레드)' 탑재]
- GPU 마이크로아키텍처 : 3rd CDNA(3세대 CDNA)
- GPU 코어 다이 구성 : 2개 '3rd CDNA' GCD를 컷팅하여 'ZEN 4 CCD'로 교체
- 캐시 메모리 : L2 캐시 메모리(코어당 1MB) / 별도 캐시 메모리(CCD 당 32MB)
- 메모리 : 128GB HBM3
- 통합 공유(메모리) : CPU + GPU
- 트랜지스터 : 1460억개 탑재
- 제조공정 : 고급 3D 칩렛 패키징으로 제조(5nm & 6nm)
※ 세계 최초 서버(데이터센터) APU 가속기(AI & HPC 특화)

 

② AMD 인스팅트 MI300 서버(데이터센터) GPU(GPU 코어 전용 모델) 세부내용
- 정식 제품 모델명 : AMD Instinct(인스팅트) MI300X
- GPU 마이크로아키텍처 : 3rd CDNA(3세대 CDNA)
- GPU 코어(3rd CDNA) : 1개 GCD(40개 CU * 64 = 2560개) * 8개 = [320개 CU * 64 ☞ 20,480개)]
- 인터포저 구성 : 8개 HBM3 메모리 패키지, 12개 HBM 패키지 사이 다이(16개 더미 다이, 4개 활성 다이 포함) = 총 28개

(활성 다이는 2개 컴퓨팅 다이를 보유함)

- 메모리(용량) : 192GB HBM3
- 메모리 대역폭 : 최대 5.2TB/s(인피니티 패브릭 대역폭 : 896GB/s)
- 메모리 스택 : HBM3 스택(8개) 장착[각 스택(12-Hi), IC(1개당 2GB) 혹은 스택(1개당 24GB 용량) 용량을 제공하는 16GB IC를 통합]
- 제조공정 및 트랜지스터 : 5nm & 6nm(IP 혼합제조) & '1530억개'
- 메인 인터포저 : 차세대 인피니티 패브릭 솔루션 사용 → 인터커넥트 레이어를 수용하는 패시브 다이로 설계
- TDP(소모 전력) : 750W(이전 '인스팅트 MI250X' TDP인 500W보다 50% 증가 / 엔비디아 H200 GPU보다 50W 더 높음) 
※" CPU + GPU" 혼합 APU 형태가 아닌 단일 서버(데이터센터) GPU 타입 반도체!
※ 생성 AI 및 모델 가속기 리더쉽의 서버(데이터센터) GPU

 

③ AMD 인스팅트 MI300X GPU 플랫폼
- GPU : AMD Instinct(인스팅트) MI300X 서버(데이터센터) GPU * 8개
- 메모리 : HBM3 규격 1.5TB
- 폼팩터 디자인 : SXM 폼팩터(8 방향 구성) & 'Mezzanine' 커넥터
- 산업 표준 규격 디자인
 

 

https://wccftech.com/amd-instinct-mi300x-mi300a-ai-accelerators-detailed-cdna-3-zen-4-come-advanced-packaging-marvel/