进入 2026 年 10 月，端侧 AI（Edge AI）密集释放产业化信号：模型持续小型化、芯片本地算力跃升，二者共振把端侧 AI 从“能跑模型”推向“被用户需要”。
要点
- 模型侧：同等智能的 Dense 模型 17 个月内被压缩至 1/8，MoE 仅 6 个月压到 1/6；公开演示已能在本地运行 120B 量级模型（2024 年前后端侧仅能跑 7B）。
- 芯片侧：阿里云透露通义千问 125B 模型可覆盖 80%–85% Agent 场景、27B 可承担 50%–60% 编程；端侧 NPU、大容量高速存储、高精度传感器正成为智能设备标配。
- 架构拐点：十几瓦甚至几瓦功耗预算内跑百亿参数模型，传统“计算—存储分离”架构撞墙，存算一体（in-memory computing）从实验室走向产业主线。
- 落地实证：后摩智能 M50 采用存算一体，10W 功耗下实现 160 TOPS，可本地运行 30B–120B 模型；联想 AI 主机 P7 搭载 M50 可离线运行最高 1220 亿参数模型，本地推理约 50 tokens/s。
- 市场：Counterpoint 预计 2027 年生成式 AI 手机渗透率 52%；Gartner 预计 AIPC 出货占比从 2024 年 15.6% 升至 2026 年 54.7%。
影响
- 产业链（芯片—模型—终端）同频推进，端侧 AI 将快速渗透消费电子、智能制造、车载出行，IoT 模组成为下一风口。
- 存算一体等近存/存内计算路线，成为突破端侧能效瓶颈的关键技术方向。
来源