온디바이스 AI PC, NPU 성능만 최소 40 TOPS 이상 필요

 

마이크로소프트의 코파일럿 AI가 40 TOPS의 NPU 성능을 필요로 한다는 것이 사실로 확인됐다. 현재 서비스 중인 코파일럿 AI는 클라우드 기반으로 작동하지만 차세대 AI PC에는 로컬 실행이 가능해 지는데 이에 필요한 성능이 40 TOPS라는 것이다.

이 사실은 대만 타이페이에서 개최된 인텔 AI 서밋을 통해 확인되었으며 인텔 부사장인 토드 르웰렌(Todd Lewellen)가 직접 관련 사실을 언급한 것으로 전해졌다.

토드 르웰렌는 마이크로소프트의 코파일럿 외에도 로컬에서 실행되는 더 많은 AI 작업들을 보게 될 것이라고 덧붙였다. 코파일럿 처럼 클라우드 서비스가 병행되는지는 확실하지 않지만 로컬에서 NPU로 처리되는 AI 기능들이 늘어날 것은 분명해 보인다.

하지만, 이런 기능들이 40 TOPS에 못미치는 메테오 레이크로 확대 적용될지는 미지수다. 최소 기준에 미달한 성능으론 정상 서비스가 불가능하거나 범위나 기능에 제약이 있을 수 밖에 없고 최악의 경우 지원 자체가 배제될 수도 있다.

다행히 데스크탑 PC는 그래픽카드가 이미 40 TOPS를 넘어선지 오래라서 별다른 문제가 없겠지만 AI를 강조하고 등장한 최근 노트북들이 문제인데 정상적인 AI 노트북을 원한다면 하반기나 내년 초 투입될 신형 모델을 기다리는 것이 합리적인 선택이다.

참고로, 인텔 메테오 레이크의 순수 NPU 성능은 10 TOPS, AMD 라이젠 Hawk Point 플랫폼은 16 TOPS로 알려졌다. CPU나 GPU까지 함께 처리하면 30 TOPS가 넘지만 이 경우 배터리 소모가 심해 NPU로만 AI 작업을 처리하는 것을 목표로 차세대 AI PC 기준을 정한 것으로 전해졌다.