🗨️ Microsoft, 실시간 AI용 액셀러레이터를 개발

Project Brainwave

미국 Microsoft는 22일(현지 시간), 딥 러닝용 액세라레ー션 플랫폼"Project Brainwave"을 발표했다.

클라우드 기반의 딥 러닝용 성능과 유연성을 갖춘 시스템의 요구와 수신을 같은 속도로 실현하는 초저 지연을 달성 가능하다며 앞으로 클라우드 시대를 위한 " 실시간 AI"용으로 설계되고 있다고 한다.

Project Brainwave는 FPGA인프라 스트럭처를 이용했으며, Microsoft의 데이터 센터 네트워크에 FPGA을 직접 접속하는 형태를 잡는다이로써 CPU가 요청을 처리할 필요가 없어지고 산출량을 실현 가능하게 한다.

또 FPGA에 통합한 강력한 소프트형 DNN처리 유닛(DPU)를 사용.기존의 AI액셀러레이터는 연산자와 데이터형 디자인을 선택해야 하는 유연성이 결여된 DPU을 쓰고 있지만 Project Brainwave에서는 다양한 데이터형을 이용할 수 있다는.

또 일반에 보급된 딥 러닝 프레임워크를 지원하는 소프트웨어 스택을 내장한 것도 특징.Microsoft Cognitive Toolkit나 Google의 Tensorflow에 대응하고 있으며 앞으로 더 지원하는 프레임워크를 확대 예정으로 있다.

Project Brainwave는 Intel의 Stratix 10 TX FPGA을 탑재. 1ms이하에서 각 요구를 실행한 상태에서 39.5TFLOPS의 처리 성능을 유지 가능. 각각 10사이클마다 1회 매크로 명령이 발효됨으로써 1사이클당 130,000회 이상의 연산 처리를 할 수 있다.이에 의한 실시간 AI에 필요한 성능을 실현 가능이라고 한다.

Project Brainwave는 Azure를 통해서 제공할 예정.Project Brainwave에 의해서 상당히 복잡한 딥 러닝 모델을 실행할 수 있게 되고 있다.