Edge AI Daily 早报(11月13日)

标题:Edge AI Daily 早报(11 月 13 日):145B 端侧模型开放权重,移远百 TOPS 工业边缘 AI 模组亮相

11 月 13 日的 Edge AI 动态集中在两条线:一是端侧大模型继续把参数规模往笔记本级别推,无界方舟开放 edge0-145b/120b 权重与统一推理框架,官方称 145B 模型可在个人电脑本地运行;二是工业边缘硬件落地加速,移远通信基于高通跃龙 IQ-9075 的 SP900BF-AP 模组面向机器人、产线质检和边缘网关,提供最高 100 TOPS 稠密算力(中文口径为 200 TOPS 稀疏算力)。需要先提示:两条消息里的速度、内存、算力多为厂商自测或峰值规格,实际表现取决于模型量化、硬件配置、软件栈和散热;edge0 的 macOS 支持、"行业第一" 等说法目前还不能按已验证结论采信,SP900BF-AP 也只向部分客户提供工程样片,量产时间和定价尚未公布。

一、早报概览

序号事件主体关键信息当前状态
1开放 145B/120B 端侧模型权重与推理框架无界方舟 edge0145B 总参 / 10.12B 激活;120B 总参 / 8.64B 激活;峰值内存约 29GB,解码 80+ tok/s、预填充 1100+ tok/s(内部测试)权重上线 Hugging Face,框架开源至 GitHub;安装平台以仓库 v0.2.0 清单为准
2发布工业边缘 AI 智能模组 SP900BF-AP移远通信 Quectel × 高通高通 Dragonwing IQ-9075;最高 100 TOPS 稠密算力;最高 36GB LPDDR5X + 256GB UFS;支持本地运行 Qwen/DeepSeek/Gemma/LLaVA完成关键技术验证,工程样片提供给部分重点客户;Ubuntu/Yocto 支持开发中
3周边:REGULUS 边缘 AI SoC 商用部署Mobilint × Ceva10 TOPS、低于 3W、最高 8GB 内存;首颗商用 Mobilint MLD-R1 已出货11 月 3 日披露,背景参考
4周边:nRF71 系列把边缘 AI 带入电池 Wi-Fi 设备Nordic SemiconductornRF7120E 集成 Axon NPU;ML 模型推理较 Cortex-M33 快 10—17 倍11 月 3 日披露,仅向选定客户送样

二、重点一:edge0-145b/120b 开放权重,端侧模型推到 145B 档位

1. 模型规格

项目edge0-145bedge0-120b
总参数145B120B
每 token 激活参数10.12B8.64B
架构48 层;512 个路由专家 + 1 个共享专家;top_k=10同代架构
基座说明官方写明基座为 qwen3.8-flash-next,不构成与 Qwen 的合作背书同左
权重格式HF 仓库分 q3_k 与 nvfp4 两套对应页面
许可edge0 Community Model License 1.0,同时遵守上游 Qwen Community License 1.0;推理框架 Apache-2.0,edge0-strata 继承 MIT—

2. 官方披露的运行表现(内部测试口径,非第三方复测)

  • 峰值内存:约 29GB(博客另一处写 28GB,官方未勘误);
  • 预填充(prefill):1100+ tokens/s;
  • 解码(decode):80+ tokens/s;
  • 典型功耗:约 120W;
  • 上下文:128K–256K;
  • 参考机型举例为 MacBook Pro,但具体机型与测试协议未在博客表格中写明。

3. 端侧运行的四层设计(官方说明)

层级做法
架构稀疏 MoE,每步只激活约 10B 参数,降低单次计算量
训练从端侧部署需求出发训练,而非先做大模型再压缩
加载三层分层存储:热专家驻留显存,专家库放系统内存,词表等模型数据从 SSD 按需读取
调度GPU/CPU 协同,投机解码一次提出并验证多个候选 token,掩盖加载等待

4. 部署与核验注意点

  • 平台清单以仓库为准:博客称首日支持 macOS/Windows/Linux 及 Apple M 系列,但 GitHub README、模型文档和 v0.2.0 发布说明明确 145b/120b 仅支持 Linux 或 Windows,需 NVIDIA GPU 与 CUDA 13;macOS 一栏为 "—",M2 Ultra 上的 Metal 数字不代表 macOS 版本已发布。
  • 安装包:v0.2.0 一键包分 Windows x64 与 Windows arm64;x64 要求计算能力 7.5 及以上(RTX 20/30/40/50)、至少 16GiB 显存和 20GiB 系统内存;安装包不含权重,需另行从 Hugging Face 下载。
  • 成绩口径:编程、智能体、推理、知识、指令遵循对比图存在分项数字在博文表格与配图之间不一致的情况;"全球首个可在个人电脑本地运行的 145B 开源模型" 属于宣传表述,尚未作为已核实行业第一。
  • 横向参照:同代已有 Qwen3.8-Flash-Next、GPT-OSS-120B 等开放 MoE 可对照,百亿到千亿级开放 MoE 本地运行并非首次出现,edge0 本次强调的是更低峰值内存和面向个人电脑的部署方案。

三、重点二:移远 SP900BF-AP,百 TOPS 工业边缘 AI 模组落地机器人与质检

1. 核心规格

项目参数
模组型号SP900BF-AP
处理器高通 Dragonwing(跃龙)IQ-9075
AI 算力最高 100 TOPS(英文官方稠密口径);中文官方口径为最高 200 TOPS 稀疏算力
CPU/GPU/DSP/NPU八核 Qualcomm Kryo,最高 2.36GHz;Adreno 663 GPU;Hexagon DSP;专用 NPU
内存 / 存储最高 36GB LPDDR5X,最高 256GB UFS
封装尺寸65×65×4.55mm LGA
工作温度-40°C ~ +85°C
生命周期承诺最长 10 年产品周期
接口PCIe、USB 3.1、UART、SPI、I²C;可扩展 4G/5G、Wi-Fi
操作系统Ubuntu 与 Yocto Linux 支持开发中

2. 目标场景与本地模型

  • 自主移动机器人(AMR):原生支持四路相机接入(最大可扩展至 16 路),具备 3D 感知、目标检测识别与端侧导航能力。
  • 产线质检:图像数据不上传外部服务器,在设备端实时完成缺陷检测,保护生产数据隐私。
  • 边缘 AI 网关:本地运行 Qwen、DeepSeek、Gemma、LLaVA 等大语言模型与视觉语言模型,降低带宽占用与时延。
  • 多媒体能力:Adreno 765 VPU 支持最高 4K@170fps 编码、4K@275fps 解码,配合 Qualcomm Spectra ISP 处理多路视频;提供四路 DP/eDP 与双路 DSI 显示接口。

3. 进度与边界

  • 已完成关键技术验证,工程样片面向重点客户开放评估与联合开发;通用量产时间与公开定价尚未公布。
  • 100/200 TOPS 为峰值 AI 算力规格,不等同于应用实际吞吐;真实性能取决于模型架构、数值精度、内存带宽、软件优化和设备散热。
  • 模组是嵌入式计算组件,整机应用、可靠性验证和模型适配仍需设备厂商完成;Ubuntu/Yocto 软件栈仍在开发中,量产选型需评估工具链成熟度与长期维护安排。
  • 产品在慕尼黑 Electronica 2026 展台 C2.601 展出。

四、周边速览(11 月上旬背景动态)

  • Ceva × Mobilint REGULUS:11 月 3 日披露,REGULUS 边缘 AI SoC 集成 SensPro AI DSP 与 NeuPro-Nano NPU,10 TOPS、功耗低于 3W、最高 8GB 内存,面向机器人、无人机、机器视觉、智能摄像头与 IoT;商用产品 MLD-R1 AI USB 加速器已出货。
  • Nordic nRF71 系列:11 月 3 日发布,把 Wi-Fi 6/6E、蓝牙 LE、Thread 与边缘 AI 集成到单芯片;nRF7120E 带 Axon NPU,关键词检测、异常检测、图像分类等模型推理较 Cortex-M33 单独运行快 10—17 倍;目前仅向选定客户送样。

五、趋势观察

  • 端侧模型参数档位上探:手机端侧模型仍集中在 1B—10B 档位,35B 级已在手机内存预算内运行,145B 级方案开始尝试在笔记本本地落地;分层存储、稀疏 MoE 和 CPU/GPU 协同调度是主要技术路径。
  • 工业边缘强调本地化:机器人、质检、网关场景对时延、带宽成本和数据隐私敏感,算力从云端下沉到设备端;长生命周期、宽温范围和工业接口成为模组选型重点。
  • 端云分工继续松动:高频、明确、与设备强相关的任务留在端侧,复杂任务上云;成本、数据合规和弱网可用性是推动任务回流本地的三个主要动因,但并非所有任务都适合迁回本地。

【相关 FAQ】

问题 1:11 月 13 日 Edge AI Daily 早报里,端侧大模型方面有什么新发布?

回答 1:无界方舟开放了 edge0-145b/120b 权重与统一推理框架,145B 总参、每 token 激活约 10.12B,官方内部测试峰值内存约 29GB、解码 80+ tok/s、预填充 1100+ tok/s;但平台支持以 GitHub 仓库 v0.2.0 清单为准,macOS 支持、"行业第一" 等表述尚不能当作已验证结论。

问题 2:Edge AI Daily 提到的移远 SP900BF-AP 边缘 AI 模组是什么规格,面向哪些场景?

回答 2:SP900BF-AP 基于高通 Dragonwing IQ-9075,最高 100 TOPS 稠密算力(中文口径 200 TOPS 稀疏算力),最高 36GB LPDDR5X 与 256GB UFS,支持四路相机与本地运行 Qwen、DeepSeek、Gemma、LLaVA;面向 AMR 自主移动机器人、产线质检和边缘 AI 网关,目前工程样片仅提供给部分重点客户,量产时间与定价未公布。

问题 3:11 月 13 日这两条 Edge AI 消息里,哪些数据属于厂商自测或峰值口径?

回答 3:edge0 的 80+ tok/s、1100+ tok/s、约 120W 功耗和 29GB 内存标注为内部测试;SP900BF-AP 的 100/200 TOPS 是峰值 AI 算力规格。两者实际表现都受模型量化、硬件配置、内存带宽、软件栈和散热影响,不能把宣传峰值直接等同于应用吞吐保证。

问题 4:本周周边边缘 AI 硬件还有哪些值得关注的动态?

回答 4:11 月 3 日披露的 Mobilint REGULUS 边缘 AI SoC 采用 Ceva SensPro DSP 与 NeuPro-Nano NPU,10 TOPS、低于 3W;Nordic nRF71 系列把 Wi-Fi、蓝牙 LE、Thread 与 Axon NPU 集成到电池供电设备,模型推理较 Cortex-M33 快 10—17 倍,目前处于选定客户送样阶段。

【参考资料】

  • [2026-11-13](145B 模型也能在笔记本上部署了:edge0-145b/120b 开放权重与部署条件梳理)今日头条・机器学习之路
  • [2026-11-13](端侧 AI 迎来 "高智能" 时刻,比肩云端模型)今日头条・极客公园
  • [2026-11-13](퀙텔, 최대 100TOPS AI 성능 제공하는 엣지 AI 스마트 모듈 SP900BF-AP 출시)반도체네트워크
  • [2026-11-13](Quectel SP900BF-AP Packs Dragonwing IQ-9075 into a 65mm LGA Module)Hengsen Technology
  • [2026-11-12](Quectel Takes 100 TOPS Edge AI into Industrial Robotics and Inspection)Highways Today
  • [2026-11-12](Quectel Launches SP900BF-AP Edge AI Module With 100 TOPS at Electronica 2026)Press Media Release
  • [2026-11-11](New SP900BF-AP smart module for Edge AI has 100 TOPS power)Quectel 官方英文
  • [2026-11-11](200 TOPS 稀疏算力!移远 SP900BF-AP 搭载高通跃龙 IQ-9075 处理器,领跑端侧 AI)移远通信官方中文
  • [2026-11-03](Ceva and Mobilint Advance Physical AI with REGULUS Edge AI SoC)Robotics Business News
  • [2026-11-03](Nordic nRF71 brings edge AI to battery-powered Wi-Fi devices)Geekiki

【免责声明】

本早报依据厂商公告、官方材料及公开媒体报道整理,文中模型参数、内存、速度、功耗、TOPS 算力、温度范围与生命周期等数据均为厂商披露或内部测试口径,部分为峰值规格,实际效果受硬件配置、模型量化、软件栈、散热与使用环境影响;开源模型许可条款、安装平台清单与工程样片进度以对应 GitHub/Hugging Face 仓库及厂商官方文件为准。本文不构成投资建议、采购建议或模型选型承诺,信息如有更新以官方后续发布为准,据此决策风险自担。

本文来自作者[星宸汇品]投稿,不代表环球品牌网立场,如若转载,请注明出处:https://www.865171.cn/qyzx/202611/789.html

赞 (0)

今日大家都在搜的词:

发表回复

本站作者后才能评论

评论列表(4条)

  • 星宸汇品
    星宸汇品 2026年11月16日

    我是环球品牌网的签约作者“星宸汇品”!

  • 星宸汇品
    星宸汇品 2026年11月16日

    希望本篇文章《Edge AI Daily 早报(11月13日)》能对你有所帮助!

  • 星宸汇品
    星宸汇品 2026年11月16日

    本站[环球品牌网]内容主要涵盖:品牌服务领域

  • 星宸汇品
    星宸汇品 2026年11月16日

    本文概览:标题:Edge AI Daily 早报(11 月 13 日):145B 端侧模型开放权重,移远百 TOPS 工业边缘 AI 模组亮相

联系我们

联系:143 0457 151

工作时间:周一至周五,9:30-18:30,节假日休息

关注我们