MediaTek은 대형 모델 모바일 칩을 위해 Alibaba Cloud와 파트너십을 맺었습니다.

원천:www.ichunt.com

Sci-Tech Innovation Board Daily에 따르면 스마트폰 칩 제조업체인 MediaTek은 Dimensity 9300과 같은 주력 칩에 18억 및 40억 개의 매개변수를 가진 대형 모델을 성공적으로 배치하여 모바일 칩 및 모바일 칩에 대형 모델을 심층적으로 적용했습니다. Tongyi Qianwen은 오프라인 상황에서도 여러 라운드의 AI 대화를 실행할 수 있습니다. 앞으로 두 당사자는 Dimensity 칩을 기반으로 하는 70억 개의 매개변수를 포함하는 다양한 크기의 더 큰 모델을 채택할 것입니다.

Alibaba Cloud는 MediaTek과 긴밀히 협력하여 글로벌 휴대폰 제조업체에 최종 대형 모델 솔루션을 제공할 것이라고 밝혔습니다.

현재 미디어텍은 전 세계적으로 스마트폰 칩 출하량이 가장 많은 반도체 회사다. Canalys의 최신 데이터에 따르면 2023년 4분기에 1억 1700만 대 이상을 출하해 1위를 차지했으며, 애플이 7800만 대, 퀄컴이 6900만 대를 출하하며 뒤를 이었습니다. Tongyi Qianwen은 Alibaba Cloud가 개발한 기본 대형 모델입니다. 지금까지 최대 1,000억 개의 매개변수를 포함하는 버전과 720억, 140억, 70억, 40억, 18억, 5억 개의 매개변수를 포함하는 오픈 소스 버전과 다음과 같은 다중 모드 대형 모델을 출시했습니다. 시각적 이해 모델 Qwen-VL 및 오디오 대형 모델 Qwen-Audio.

MWC2024에서 MediaTek은 Dimensity 9300 및 8300 칩을 포함한 다양한 인공 지능 애플리케이션을 선보였습니다. Dimensity 9300 칩은 이미 해외에서 Meta Llama 2의 70억 매개변수 대형 모델 적용을 지원했으며, 중국에서는 70억 매개변수 대형 언어 모델을 탑재한 중국의 vivo X100 시리즈 휴대폰에 구현된 것으로 파악됩니다. 엔드 측 실험 환경에서 130억 매개변수 모델을 성공적으로 실행했습니다.

MediaTek과 Alibaba Cloud의 협력은 Tongyi 대형 모델이 칩 수준의 하드웨어 및 소프트웨어 적용을 달성한 최초의 사례입니다. Alibaba의 Tongyi Lab 비즈니스 책임자인 Xu Dong은 "엔드사이드 AI는 대형 모델을 적용하는 중요한 시나리오 중 하나이지만 하드웨어 및 소프트웨어 적응의 어려움, 불완전한 개발 환경 등 많은 과제에 직면해 있습니다."라고 설명했습니다. Cloud와 MediaTek은 기본 적응 및 상위 수준 개발과 관련된 일련의 기술 및 엔지니어링 문제를 극복하여 대형 모델을 모바일 칩에 통합하고 최종 AI를 위한 Model-on-Chip의 새로운 배포 모델을 탐색했습니다."

MediaTek 외에도 Qualcomm도 모바일 장치에서 대형 모델 구현을 적극적으로 추진하고 있습니다. 3월 18일, Qualcomm은 최대 100억 개의 매개변수를 갖춘 대규모 언어 모델을 지원하고 Baichuan-7B, Gemini Nano, Llama 2를 포함한 다중 모드 생성 AI 모델도 지원할 수 있는 3세대 Snapdragon 8s 모바일 플랫폼 출시를 발표했습니다. , Baidu Xiriver, Google 및 META와 같은 회사의 Zhipu ChatGLM. Xiaomi Civi 4 Pro에는 Snapdragon 8s 모바일 플랫폼이 최초로 탑재될 것으로 알려졌습니다.

가전업계의 한 분석가는 알리바바 클라우드와 미디어텍의 협력으로 국내 휴대전화 제조사들이 이제 바이두를 대체할 수 있게 됐다고 말했다.

기자의 이해에 따르면 Honor와 삼성은 이전에 Baidu Wenxin Yiyan과의 협력을 발표한 바 있습니다. 예를 들어, 삼성의 최신 주력 휴대폰인 Galaxy S24 시리즈는 통화, 번역, 스마트 요약을 포함하여 Wenxin 대형 모델의 다양한 기능을 통합합니다. 또 한 소식통에 따르면 애플은 현재 바이두의 인공지능 기술 활용을 희망하며 바이두와 접촉하고 있으며, 양측 간 사전 협의가 이미 이뤄졌다고 한다.

상하이 인공 지능 연구소(Shanghai Artificial Intelligence Laboratory)의 수석 과학자 Lin Dahua는 클라우드 기반 대형 모델이 기하급수적으로 성장함에 따라 최종 단계가 황금 성장기에 진입할 것이라고 말했습니다. 클라우드 엔드 협업은 클라우드 측 컴퓨팅이 천장을 설정하고 대규모 사용자 채택을 지원하는 엔드 측 컴퓨팅을 통해 미래에 중요한 추세가 될 것입니다.

컨설팅업체 IDC의 전망에 따르면 2024년 중국 시장 스마트폰 출하량은 전년 대비 2.3% 증가해 2억7700만대에 이를 것으로 전망된다. 이 중 AI폰 출하량은 3660만대에 달해 전년 대비 성장률이 세 자릿수를 넘을 전망이다. 휴대폰에 대형 AI 모델을 적용하는 것은 더욱 광범위해질 것이다.