월스트리트저널에 따르면, 모바일 기기 온디바이스 모델의 파라미터 규모가 빠르게 팽창하고 있습니다. 9월 22일, 퀄컴은 스텝스타즈(阶跃星辰) 등과 협력하여 30B MoE 모델을 6세대 스냅드래곤 8 슈퍼 울트라 에디션 모바일 플랫폼에 완전히 배포하여 로컬 추론을 구현했습니다. 이에 앞서 9월 16일, 비보는 블루하트 30B MoE 온디바이스 모델의 사전 연구를 발표했습니다. 10월 13일, 멘비 AI(面壁智能)는 35B-A3B 오픈소스 모델 MiniCPM-V 4.7을 출시하고 아이폰 17 Pro Max에서 실제 구동했습니다. 이는 수백억 파라미터 모델이 모바일 기기 온디바이스에 적용되기 시작했음을 의미하며, 주로 MoE(혼합 전문가)와 같은 기술 덕분에 모델의 총 파라미터 규모와 단일 추론 계산량이 부분적으로 분리될 수 있었습니다.