把 350 亿参数模型放进车里：离线语音助手为什么非要不上云

几乎所有用过车载语音助手的人都遇到过同一个瞬间：车开进隧道、地库或山区，网络信号掉下去，刚才还在应答的助手突然安静。功能列表再长，也挡不住这一刻的失效。2026 年 11 月 3 日公布的 PATEO AI Box，针对的正是这个不太体面却很真实的问题。

这套方案的思路不是替换车辆已有的主控芯片，而是在旁边加一个模块化算力单元。PATEO 把它建在 NVIDIA DRIVE AGX Thor 平台之上，与原车主控并存。这个设计决定的分量不亚于模型本身：车企不必为一次 AI 升级重新设计整车电子电气架构，已经进入开发管线的项目也有机会加装。

盒子里跑着两项主要负载：NVIDIA 的 Nemotron 3.5 自动语音识别模型负责实时听写，字节跳动的豆包语言模型负责自然语言理解与上下文推理，后者是总参数约 350 亿的混合专家模型。语音进、语义出，整条链路在座舱内闭环，不依赖蜂窝网络即可工作。

把 350 亿参数放进车里，难点并不只在峰值算力。DRIVE AGX Thor 提供最高 1000 INT8 TOPS 与 273 GB/s 内存带宽，而官方特别强调后者：随着对话变长，键值缓存持续膨胀，真正先被压住的是带宽而不是算力。一块跑分漂亮但带宽不足的芯片，会在对话后半段暴露成可感知的迟滞。

混合专家架构在这里不是营销词。它不必为每个请求激活全部参数，而是把输入路由到内部的一小组专用网络，单次计算量下降，却保留了大模型的表达深度。对一座既要控制功耗又要控制热的座舱来说，按需激活比一味堆算力更接近工程现实。

离线并不等于拒绝云。更准确的描述是分层：唤醒、识别、座舱控制与基础理解放在本地，模型迭代、软件更新与扩展服务仍走云端。网络在时是增强层，网络断时不再是开关。这种把可用性从网络质量里解耦的做法，比单纯比较本地与云端谁更聪明更有意义。

AI Agent 平台把语音输入、面向驾驶员的摄像头画面与车辆传感器数据汇成一张实时座舱图景。系统能从摄像头里读出疲劳的早期迹象，不必等一句指令就主动提议调整通风或开启座椅按摩；城市行驶中，空气质量传感器也能在污染升高时自动关窗并切换内循环。

更外一层的 Sentinel AI 把感知范围推向车外：提示可能的违停风险、附近积水或周边火情，都不需要驾驶员另外打开应用。这些能力的共同点不是新奇，而是触发时机——它们发生在用户还没意识到要开口之前，这恰是本地低延迟推理最有价值的位置。

用户还可以授权助手在本地学习个人的空调与路线习惯，形成不上传服务器的推理画像。把行为数据留在车里，既减轻带宽压力，也让隐私边界更容易解释。当然，授权是否清晰、数据能否被彻底删除，仍取决于产品实现，而不是架构本身。

商业化进度上，一家新能源车企已给出下一代车型的量产定点，目标指向 2027 年第二季度，合作方名称未披露。模块化设计是拿下定点的关键：它与车企已经选定的主控芯片共存，既能进新平台，也能补进开发到一半的项目，显著降低了导入门槛。

更值得玩味的是 PATEO 对这门生意的定义。它并不把 AI Box 当成一次性硬件零件，而是在推进所谓车载 Tokenomics——按 AI 算力消耗持续计费，类似云服务按用量结算。硬件于是变成 recurring revenue 的入口，车卖出去之后，智能仍是一项可运营的服务。

对车企而言，这种结构减轻了另一重顾虑：智能化升级不必与整车改款绑定。过去座舱体验的迭代节奏被车型周期拖着走，如今至少有一个可以独立加装、独立升级的算力层。硬件预埋与软件付费的边界因此被重新划了一次。

风险也集中在物理层面。持续本地推理带来的功耗与散热，需要座舱环境里额外解决；高性能算力单元的成本，会直接传导到整车定价；同时运行语音、视觉与车辆数据，还要求更清晰的权限与隔离设计。把服务器级负载搬进一辆暴晒后可达高温的车，从来不只是模型问题。

从用户视角看，衡量这套系统的标准会很朴素：进隧道时能不能继续把话说完，长对话后半程会不会变慢，断网时的功能是否仍然完整。这些指标不上发布会，却决定一项智能是被信任还是被绕过。

11 月 3 日这条消息的价值，因此不在于又一笔车端算力升级，而在于它把一个问题摆到了台面上：智能的上限由模型决定，可用性却由最弱的一环决定。当那一环是网络，把模型放进车里，就是最直接的答案。