컴퓨터/노트북/인터넷
IT 컴퓨터 기기를 좋아하는 사람들의 모임방
조회 수 1576 추천 수 0 댓글 0
단축키
Prev이전 문서
Next다음 문서
단축키
Prev이전 문서
Next다음 문서
인텔의 4세대 제온 스케일러블 프로세서인 사파이어 래피드에는 AMX(Advanced Matrix Extension) 라는 딥러닝 가속 하드웨어 기능 세트가 탑재됩니다. 이걸 잘 사용하면 스테이블 디퓨전 같은 AI 작업을 빠르게 처리할 수 있다네요.
아이스레이크의 경우 45초가 필요한 작업을 사파이어 래피드는 32.3초만에 처리하며, 여기에 최적화를 더하면 4.7초까지 줄일 수 있습니다.
https://huggingface.co/blog/stable-diffusion-inference-intel