인텔, AI 가속기 '너바나(Intel Nervana)' 신경망 프로세서 세부 정보 공개

인텔은 핫칩스 2019 (Hot Chips 2019)에서 곧 출시를 앞둔 고성능 인공지능(AI) 가속기 인텔 너바나(Intel Nervana) 신경망 프로세서에 대한 세부 정보를 공개했다. 해당 제품군에는 트레이닝용 프로세서인 NNP-T와 추론용 프로세서인 NNP-I가 포함된다. 또한 이날 인텔 기술진들은 하이브리드 칩 패키징 기술, 인텔 옵테인 DC (Optane DC) 퍼시스턴트 메모리 및 광학 입출력용 칩렛 기술에 대해 발표했다.

인텔 너바나 NNP-T (Neural Network Processor)는 딥러닝 트레이닝 경계를 확장한다. 실제 세계에서 두 가지 주요 고려 사항을 우선시 하기 위함이다. 첫 번째는 네트워크를 가능한 빨리 트시키고, 두 번째는 주어진 전력 범위 내에서 수행하는 것이다. 이 딥러닝 트레이닝 프로세서는 유연성을 염두에 두고 구축되어 컴퓨팅, 통신 및 메모리 간의 균형을 유지한다.

인텔 제온 스케일러블 프로세서(Xeon Scalable processors)는 특수한 인공지능 지침을 제공하고 인공지능을 위한 훌륭한 토대를 제공하지만, NNP-T는 처음부터 레거시 기술을 지원하는 데 필요한 고정경비 없이 대형 모델을 해결하는 데 필요한 기능과 요구 사항을 내재하도록 설계되었다. 미래의 딥러닝 요구를 충족하기 위해 인텔 너바나 NNP-T는 유연성과 프로그래머블 기능으로 구축되어 기존 워크로드와 추후에 나타날 새로운 워크로드 모두에서 다양한 워크로드를 가속화하도록 설계되었다. 인텔 너바나 NNP-T (코드명 스프링 크레스트(Spring Crest))의 기능 및 아키텍처에 대한 추가 기술 정보는 발표자료를 통해 확인할 수 있다.

인텔 너바나 NNP-I는 추론을 위해 특수 제작되어 대규모로 딥러닝 구축을 가속화하도록 설계되었으며, 모든 주요 데이터 센터 워크로드에 걸쳐 와트 당 업계 최고의 성능을 제공하기 위해 아이스 레이크(Ice Lake) 코어를 이용한 인텔의 10나노미터(nm) 공정 기술을 활용한다. 

또한 인텔 너바나 NNP-I는 성능이나 전력 효율성 저하 없이 높은 수준의 프로그래머블 기능을 제공한다. 인공지능이 모든 워크로드에서 보편화됨에 따라 쉬운 프로그래밍, 짧은 지연 시간, 빠른 코드 포팅 및 모든 주요 딥러닝 프레임워크 지원을 포함하는 전용 추론 가속기를 사용하여 기업은 데이터의 모든 잠재력을 실행 가능한 통찰력으로 활용할 수 있다. 인텔 너바나 NNP-I (코드명 스프링 힐(Spring Hill))의 설계 및 아키텍처에 대한 추가 기술 정보는 발표자료를 통해 확인할 수 있다.

레이크필드는 새로운 차원의 모바일 디바이스를 위한 3D 스태킹 및 IA 하이브리드 컴퓨팅 아키텍처를 갖춘 업계 최초 제품이다. 레이크필드는 인텔의 최신 10나노 공정 및 포베로스(Foveros) 첨단 패키징 기술을 활용하여 이전 세대 기술에 비해 대기 전력, 코어 영역 및 패키지 높이를 극적으로 감소시킨다. 동급 최강의 컴퓨팅 성능과 초저열 설계 성능을 통해 새로운 얇은 폼팩터 디바이스, 투인원 및 듀얼 디스플레이 디바이스는 아주 낮은 대기 전력에서 상시 켜진 상태와 연결된 상태로 작동할 수 있다. 레이크필드의 아키텍처 및 전력 특성에 대한 추가 기술 정보는 발표자료를 통해 확인할 수 있다.

인텔과 아야 랩(Ayar Lab)은 업계 최초 고성능 시스템-온-칩(SOC)과 일체형 패키지 내 광학(MIPO)의 통합을 시연했다. 아야 랩 테라피(Ayar Labs TeraPHY) 광학 I/O 칩렛은 인텔 임베디드 멀티-다이 인터커넥트 브릿지 기술(Intel Embedded Multi-die Interconnect Bridge technology, EMIB)을 사용하여 인텔 스트라틱스 10 FPGA (Stratix 10 FPGA)가 통합 패키징 되었으며, 높은 대역폭, 저전력 데이터 통신을 제공해 최대 2km 거리까지 낮은 지연 속도를 지원한다.

이러한 협력은 데이터 이동 시 전통적인 성능, 전력 및 비용 병목 현상을 제거하여 무어의 법칙(Moore’s Law)의 다음 단계를 위한 컴퓨팅 시스템 설계에 대한 새로운 접근 방식을 제공한다. 광학 입출력을 사용한 프로세서 생성에 대한 추가 기술 세부 및 설계 사항에 대해서는 발표자료를 통해 확인할 수 있다.

인텔 옵테인 DC 퍼시스턴트 메모리(persistent memory)는 다양한 메모리 및 스토리지 티어 중에서도 새로운 개념의 퍼시스턴트 메모리 티어의 첫 제품이다. 인텔 3D 크로스포인트 (XPoint) 기술 및 메모리 모듈 폼 팩터 기반으로 메모리와 가까운 속도, 나노 초 단위 짧은 지연시간, 그리고 대용량을 제공하며 스토리지의 지속성도 지원한다.

성능에 대한 예시로 두 가지 작동 모드(메모리 모드, 앱 다이렉트 모드)를 보여주며, 해당 메모리와 같은 새로운 티어가 완전히 재설계된 데이터 공급 서브시스템을 지원해 새로운 워크로드를 더욱 빠르게 지원한다. 인텔 옵테인 DC 퍼시스턴트 메모리에 대해 더 자세한 설계 내용, 메모리 컨트롤러 디자인, 정전 상태에서의 구현, 그리고 성능 결과에 대한 추가 사항에 대해서는 발표자료를 통해 확인할 수 있다.