미디어텍, 차세대 플래그십 프로세서 AI에 메타의 대형 언어 모델 Llama 2 지원

 

미디어텍(MediaTek)이 메타(Meta)의 인공지능(AI)을 활용한다고 발표했다. 

미디어텍은 23일 보도자료를 통해 차세대 오픈 소스 대형 언어 모델(LLM)인 메타의 Liama 2과 긴밀히 협력해 메타의 LLM과 미디어텍의 최신 APU 및 NeuroPiolt AI 플랫폼을 활용하여 스마트폰, IoT, 차량, 스마트홈 및 기타 엣지 장치에서 AI 애플리케이션 개발을 가속화하도록 설계된 완전한 엣지 컴퓨팅 생태계 구축을 목표로 한다고 밝혔다. 

미디어텍은 현재 대부분의 생성 AI 처리는 클라우드 컴퓨팅을 통해 수행되지만, 미디어텍의 Llama 2 모델을 사용하면 생성 AI 애플리케이션을 장치에서 직접 실행할 수도 있으며, 이를 통해 원활한 성능, 개인 정보 보호 강화, 보안 및 안정성 향상, 대기 시간 단축, 연결이 거의 또는 전혀 없는 영역에서 작업할 수 있는 기능, 운영 비용 절감 등 개발자와 사용자에게 여러 이점을 제공한다고 설명했다. 

미디어텍은 온 디바이스 생성 AI 기술을 실제로 활용하려면 엣지 디바이스 제조업체는 고성능 컴퓨팅, 저전력 AI 프로세서, 더 빠르고 안정적인 연결을 채택하여 컴퓨팅 기능을 향상시켜야 한다면서, 현재 출시된 미디어텍 기반 5G 스마트폰 SoC에는 AI 노이즈 감소, AI 초해상도, AI MEMC 등과 같은 다양한 생성 AI 기능을 수행하도록 설계된 APU가 장착되어 있다고 밝혔다. 

또한 올해 후반에 출시될 미디어텍의 차세대 플래그십 칩셋은 Llama 2 실행에 최적화된 소프트웨어 스택은 물론 트랜스퍼 밴복 가속 기능을 갖춘 업그레이드 된 APU, 줄어든 설치 공간 액세스 및 D램 대역폭 사용을 특징으로 하며 LLM 및 AIGC를 더욱 향상시킬 거라고 언급했다. 

미디어텍은 Llama 2 기반 AI 애플리케이션이 연말까지 시장에 출시될 예정인 차세대 플래그십 SoC로 구동되는 스마트폰에 제공될 것으로 기대했다.