世界杯官方认证平台 小米造车计算团队的新冲突:让自动驾驶AI“边想边开”,速率却快得像“只管开”
这项由小米具身智能团队主导开展的计算,以arXiv预印本形式于2026年4月20日公斥地布,编号为arXiv:2604.18486v1,计算目的涵盖臆测机视觉与自动驾驶推理筹划。有敬爱敬爱深入了解的读者不错通过该编号在arXiv平台上查阅完竣论文。
**开车时,大脑在作念什么?**
每次你开车拐弯,你的大脑皆在马上运转:前边那辆车在减慢吗?路口的红灯快变了吗?左边那辆车会不会一会儿并说念?你要综合悉数这些信息,才调决定踩油门、踩刹车,照旧打目的盘。这个想考过程看起来很当然,但关于一台自动驾驶的汽车AI来说,想作念到相通的事情,却要付出浩瀚的代价——时刻代价。
传统的自动驾驶AI在作念决策时,会先把脑子里的"想法"一字一板地写出来,就像一个学生磨砺时先在草稿纸上列出解题要领,然后再在答题纸上写谜底。这种"先想清亮重新动"的方式,学术上叫作念"链式推理"(Chain-of-Thought,简称CoT),它的刚正是准确,但问题也很显著:太慢了。一辆车在高速公路上跑,如果AI每次决策皆要先写几十个字的"想考过程",那等它想好了,可能依然追向前边的车了。
恰是为了科罚这个矛盾,小米具身智能团队提倡了一个名为OneVL的新框架。它的中枢想想不错用一句话空洞:**把"写草稿"的过程压缩成"脑子里一闪而过的念头",但同期确保这个念头弥散智谋、弥散准确。** 更神奇的是,OneVL还能在过后"翻译"出我方的推理过程,让东说念主类工程师看懂它在想什么。
---
**一、为什么"想得慢"是个要命的问题**
先来搞清亮现存方法的逆境。现时主流的自动驾驶AI,在预计下一步轨迹之前,会生成一大段笔墨推理,比如"前线左侧车说念有一辆大货车正在以较快速率蚁集,右侧有行东说念主行将进入斑马线,现时绿灯还有8秒……总而言之,应当减慢并保捏车说念"。这段推理很有风趣,对晋升驾驶准确性也如实有匡助,但生成它需要破耗格外长的时刻。
计算团队在测试中发现,聘任完竣笔墨推理的AI(也便是"AR CoT+Answer"这种模式),在NAVSIM这个主流自动驾驶测评平台上,每次决策平均需要6.58秒。而如果径直跳过推理、只输出谜底("AR Answer"模式),则只需要4.49秒。两者差了快要两秒钟。在真实驾驶场景里,两秒钟不错让一辆车行驶快要60米,足以发生严重事故。
于是有东说念主猜测了一个折中决策:既然显式写出推理太慢,那能不可把推理过程"藏起来",让AI在里面暗暗想一想,不把想考过程写出来,径直输出谜底?这类方法被称为"隐式推理"或"潜在链式推理"(Latent CoT)。已有几个代表性方法,包括COCONUT、CODI和SIM-CoT,皆在尝试这条路。
可是问题来了:这些隐式推理方法在自动驾驶场景下,阐扬反而比什么皆不想的"径直输出谜底"还要差。在NAVSIM测试中,COCONUT得了84.84分,CODI得了83.92分,SIM-CoT得了84.21分,而什么推理皆不作念的径直预计得了87.47分。换句话说,这些"偷懒的想考者"不但没帮上忙,还帮了倒忙。
为什么会这么?小米团队给出了一个潜入的会诊:这些方法把推理压缩成了语言的压缩,而语言自己就依然是对真实宇宙的一层抽象。用语言来姿首"前线有车",跟实在看到一辆车比较,丢失了太多空间和动态信息。用压缩后的语言来进行自动驾驶决策,就像是让一个从未开过车的东说念主,仅凭听别东说念主姿首路况来限度目的盘——听上去没问题,但细节全丢了。
---
**二、OneVL的中枢想路:给AI配两个"会谈话的翻译官"**
OneVL的联想想路,不错用一个厨师的譬如来通晓。一位顶级厨师在烹调时,并不会每次切菜皆停驻来高声背诵菜谱——他的技能依然融入了肌肉记忆和直观之中。但如果你问他"你刚才为什么要加这一勺盐",他能坐窝给你一个清亮的讲授。何况,他在烹调过程中,脑子里其实依然"看见"了这说念菜作念好之后的花样。
OneVL便是要让AI作念到相通的事情。它给AI配备了两种特殊的"代号牌":一种叫视觉潜变量(Visual Latent Token),另一种叫语言潜变量(Language Latent Token)。这些代号牌自己不是完竣的笔墨,更像是大脑里一闪而过的"念头编码"——相配紧凑,却包含了丰富的信息。
为了确保这些"念头编码"里简直装了有效的东西,OneVL配备了两个"翻译官"。第一个翻译官是**语言提拔解码器**,它的职责是把语言潜变量里的信息解码成东说念主类能读懂的笔墨推理。第二个翻译官更专诚想,叫作念**视觉提拔解码器**,它的职责是把视觉潜变量里的信息解码成将来0.5秒和1秒之后的路面画面——也便是说,AI需要"脑补"出随即要发生的场景长什么样。
这第二个翻译官,恰是悉数这个词联想的精髓场地。因为要预计出将来的画面,AI就必须实在通晓面前的路况:前边那辆车开得有多快?它会不会变说念?路面是不是在弯说念上?悉数这些动态的、空间的信息,皆必须被压缩进那些"视觉念头编码"里,不然画面就根蒂画不出来。这就像是,唯有你实在通晓了一齐数学题的解法,你才调预计出下一步算式的完毕——没观念靠蒙。
缺陷在于,这两个翻译官只在闇练阶段存在,在践诺起程时会被径直丢弃。AI起程后,只需要把那些经过充分闇练的"念头编码"径直填入推理进程,然后一步输出驾驶轨迹。这种方式叫作念"预填推理"(Prefill Inference),悉数这个词过程的速率和什么皆不想就径直给谜底的方式险些一样快,在NAVSIM测试中仅需4.46秒,与径直预计的4.49秒险些莫得区别。
---
**三、AI怎么学会"想"而不说出来:三阶段闇练进程**
通晓了OneVL的联想想路之后,还有一个缺陷问题:怎么把它闇练出来?这就像培养那位顶级厨师——你不可第一天就让他在比赛级别的压力下完成一齐顶级菜肴,而是需要循序渐进地打磨本领。
OneVL的闇练分为三个主要阶段,在厚爱进入这三个阶段之前,还有一个筹划要领。
筹划要领是让视觉提拔解码器"自学看宇宙"。在这一步,这个解码器十足平稳于悉数这个词AI系统,只靠现时帧的画面特征来预计下一帧画面。它要学会:给我看面前的路况,我来猜接下来路面会造成什么花样。这一步用了约13040个优化要领,批量大小为256。这就像是让一个学生先反复看交通视频,培养他对说念路动态的基本直观,才调在后续闇练中更好地互助悉数这个词系统。
第零阶段(Stage 0)是主模子热身。在这个阶段,中枢的视觉语言模子(基于Qwen3-VL-4B-Instruct构建)发轫学习把那些"念头编码"镶嵌到推理进程中,同期完成轨迹预计任务。这一步的目的是让模子培植起基础才略:当你看到那些代号牌时,你要学着用它们来想考,而不是无视它们。这个阶段闇练了2个完竣的数据轮次,学习率为4×10??。
第一阶段(Stage 1)是两个翻译官的专门培训。在这个阶段,主模子被冻结——也便是说,中枢AI暂时罢手更新,保捏领略景色。唯有两个提拔解码器在闇练:语言提拔解码器学着把编码解读成笔墨,视觉提拔解码器学着把编码解读成将来画面。这就像是先把厨师的技能固定下来,然后专门闇练两个纪录员如何把他的操作准确纪录下来,而不会因为纪录过程自己影响厨师的判断。这个阶段闇练了1个数据轮次,学习率为1×10??。
第二阶段(Stage 2)是全面并吞微调。三个部分——主模子、语言解码器、视觉解码器——同期更新,互相影响。来自两个解码器的"翻译质地"响应,会倒流回主模子,让主模子进一步优化那些"念头编码"的质地。这个阶段闇练了5个数据轮次,学习率为1×10??。恰是在这一阶段,视觉提拔解码器施加的"必须能看见将来"的压力,迫使主模子的视觉潜变量实在编码进了时空动态信息。
计算团队迥殊测试了"如果跳过这三个阶段,径直端到端并吞闇练会怎么"。完毕相配惨烈:PDM评分从88.84分跌到了67.13分,着落了进步21分。进一步查验闇练过程发现,径直并吞闇练会导致梯度爆炸,发轫梯度范数高达378.22(而正确的三阶段闇练保捏在0.28),视觉解码器生成的"将来画面"也十足是胡乱的噪声,与输入画面毫无干系。
---
**四、在四个测试局面上,OneVL的收货单是什么样的**
计算团队在四个不同的自动驾驶测评平台上对OneVL进行了全面测试,这四个平台遮蔽了从普通城市说念路到顶点特殊场景的浮浅情况。
第一个测试平台是NAVSIM,这是一个从真实驾驶数据中提真金不怕火的大范围测评平台,使用PDM评分来综合权衡轨迹安全性、舒罢休和行驶着力,分数越高越好。OneVL在这里拿到了88.84分,不仅进步了之前悉数使用隐式推理的方法(COCONUT最高84.84分),还进步了最佳的显式推理方法(88.29分),更进步了此前文件中最强的两个参考模子:AdaThinkDrive(8B参数范围,86.20分)和LaST-VLA(8B参数范围,87.30分)。而OneVL只用了4B参数,却作念到了更好的收货。
第二个测试平台是ROADWork,世界杯官方认证平台这个平台专门测试在说念路施工区域行驶的才略——到处是锥桶、临时符号、不规则车说念远隔,还有衣着荧光背心的工东说念主。这类场景在普通测评中险些看不到,但在真实驾驶中却极为常见。使用ADE(平均位移舛讹,越低越好)和FDE(格外位移舛讹,越低越好)来权衡。OneVL取得了12.49像素的ADE和28.80像素的FDE,而之前的最强专用方法YNet为22.68和80.78,差距相配显耀。
第三个测试平台是Impromptu,它收罗了八个真实驾驶数据麇集的"相配规情景",比如说念路范围不清亮、临时交通规则变更、奇怪的拦阻物出现等。OneVL的ADE为1.34米、FDE为3.70米,进步了该平台原始论文中的自带模子(1.60米和4.28米),以及悉数同等范围的对比方法。在更精良的时序舛讹分析中,OneVL在1秒、2秒、3秒、4秒的预计上均为最优,平均L2舛讹仅为1.01米。
第四个测试平台是APR1,它引入了一种叫作念"因果链属目"(Chain of Causation)的推理标注,条件AI不仅仅预计轨迹,还要通晓决策背后的因果逻辑。OneVL在这里取得了2.62米的ADE,优于对比基准Cosmos-Reason(2.86米,参数目10B,还使用了额外的强化学习闇练)。在FDE目的上,OneVL为7.53米,略逊于Cosmos-Reason的7.42米,这个细微差距计算团队讲授是因为Cosmos-Reason额外使用了强化学习来优化,属于不同量级的插足。
---
**五、AI的"脑补画面"长什么样,推理笔墨又质地如何**
OneVL的一个迥殊之处在于,它能在推理扫尾后让两个提拔解码器输出不错被东说念主类通晓的内容,从而扫尾可讲授性。
在视觉层面,计算团队展示了多个测试场景下,视觉提拔解码器生成的"将来画面"。以NAVSIM的一个弯说念场景为例,现时画面闪现车说念右侧周边不可行驶区域,需要向左微调目的。视觉解码器在0.5秒和1秒青年景的画面,诚笃地呈现了车辆向左偏移后路面应有的视角变化,说念路两侧的建筑物和树木位置干系也相宜物理礼貌,讲解AI如实"看见了"行将发生的事情,而不是在胡乱生成。
比较之下,在莫得进行三阶段闇练的对照组中,辩论输入的将来帧预计十足是与场景绝不有关的图像噪声,讲解模子莫得实在学会动态场景建模,而是走了捷径,记取了某些常见画面的名义特征。
在语言层面,计算团队对NAVSIM测试集的500个样本进行了笔墨推理质地的量化评估,联想了三个目的。第一个是"元举止准确率":每段推理临了会得出一个高层决策,如"保捏速率并保管车说念",这个决策的预计准确率越高越好。第二个是"语义相似度评分"(STS Score),用一个专门用来判断两段话是否道理相近的AI模子来打分。第三个是"AI裁判评分"(LLM-as-Judge Score),让谷歌的Gemini模子饰演裁判,把柄场景图像、法式谜底推理笔墨和模子输出推理笔墨,从感知准确性、动态预计、决策合感性、语言带领性四个维度打分。
在这三项评估中,OneVL的语言提拔解码器在元举止准确率上达到了71.00,进步SIM-CoT的67.20;在语义相似度上达到78.26,在AI裁判评分上达到79.13,均高于SIM-CoT的76.25和78.73。比较之下,完竣显式推理的方法(AR CoT+Answer)仍然保捏最高,三项分别为73.20、79.75和81.86,但这是以慢得多的速率为代价的。
---
**六、视觉监督为什么比语言监督更弥留:一个专诚想的发现**
消融实验(也便是"顺次去掉某个零件,看性能如何变化"的测试)揭示了一个很专诚想的礼貌。
去掉视觉提拔解码器后,PDM评分从88.84跌到87.97,着落了0.87分。去掉语言提拔解码器后,PDM评分从88.84跌到88.53,着落了0.31分。两者皆有孝敬,但视觉监督的孝敬快若是语言监督的三倍。
原因在于,自动驾驶骨子上是一个空间预计任务,而不是一个语言理撤职务。"前线有车"这句话和实在"看到"前线的车,关于筹划轨迹来说,提供的信息密度十足不在一个量级上。视觉解码器条件AI预计出将来场景的像素级阐扬,这意味着潜变量必须编码车辆的位置、速率、目的,说念路的几何体式,以及它们随时刻的变化干系——任何信息的缺失皆会导致"画面分歧"的径直响应。语言推理则更多是提供语义层面的锚点,让模子知说念我方在干什么,但无法替代空间动态信息。
这个发现对悉数这个词隐式推理领域的道理在于,当你试图把一个需要多模态通晓的任务压缩到一个紧凑的暗示空间里,阿谁压缩目的自己的质地决定了最终性能的上限。语言仅仅宇宙的影子,视觉宇宙模子才是更接近因果骨子的压缩目的。
---
**七、面向真实部署:用极小的代价换极快的速率**
计算团队还探索了一个更激进的部署决策:在悉数这个词系统上额外挂载一个轻量级的MLP(多层感知机)预计头,径直从临了一个潜变量的掩饰景色转头出轨迹坐标,十足绕过自转头笔墨生成。
这个决策的蔓延唯有0.24秒,折合成频率约为4.16Hz,达到了车载及时系统的基本条件。代价是PDM评分从88.84降到了86.83,着落了约2分。但这个86.83分的收货,仍然进步了LaST-VLA的87.30分?不,等一下——86.83如实低于LaST-VLA的87.30,但LaST-VLA是一个8B参数的模子,使用的是完竣自转头推理,蔓延远高于0.24秒。在践诺部署中,一个以4Hz捏续领略决策的轻量模子,经常比一个偶尔给出高质地谜底但蔓延不可领受的重型模子更有实用价值。
这也意味着OneVL践诺上提供了两种部署选项:一种是保留自转头轨迹生成、取得最高精度的完竣模式(4.46秒,88.84分);另一种是接上MLP预计头、糟跶约2分精度换取18倍速率晋升的超轻量模式(0.24秒,86.83分)。工程师不错把柄践诺车辆的臆测资源和任务条件活泼取舍。
---
**八、四个测试平台用到的数据和标注是怎么来的**
OneVL在闇练时需要三类监督信号:轨迹标注(来自各数据集自己)、笔墨推理标注(需要额外构建)和将来帧视觉标注(通过IBQ视觉分词器离线生成)。
笔墨推理标注的构建方式因数据集而异。在NAVSIM上,计算团队径直复用了AdaThinkDrive发布的CoT标注,这些标注遮蔽了车说念识别、缺陷对象分析(如车辆、行东说念主)和高层驾驶意图的姿首。在ROADWork上,团队使用里面斥地的活水线,专门针对施工区域场景进行了标注,重心包括危急物识别(锥桶、护栏、临时符号)、非法式车说念解读和速率/侧向撤消决策的情理。在Impromptu上,基于原数据集已有的问答对,添加了明确的决策标签和根因分析。在APR1上,由于官方未发布CoT标注,计算团队使用公开的APR1-10B模子查验点,对全部闇练数据生成了因果链标注,同期对密集的64点轨迹进行了启发式降采样,保留8个缺陷点以适配自转头生成格式。
视觉标注则更为自动化:使用Emu3.5的IBQ分词器,将每个闇练样本的将来两帧图像(+0.5s和+1.0s)离线编码为糟塌视觉词汇序列,码本大小为131072。这个过程十足不需要额外的推理时刻,事前臆测完毕后径直看成闇练标签使用。
---
归根结底,OneVL科罚的问题不错用一句大口语来说清亮:它让自动驾驶AI第一次扫尾了"想考的速率和不想考一样快,但后果比想考更好"。以往的决策要么快但不准,要么准但太慢,要么试图把想考压缩得很小但反而更差。OneVL用"必须能画出将来"这个硬敛迹,将就压缩出来的"念头"里装满了实在有效的时空动态信息,然后在推理时径直用这些念头,两个翻译官静暗暗地褪色,悉数这个词决策过程快得像闪念。
这项计算对普通东说念主的糊口意味着,咱们离那辆实在能安全、带领、及时搪塞复杂路况的自动驾驶汽车,又近了一步。何况这一步并不是靠堆砌更多的臆测资源扫尾的,而是靠一个更智谋的联想想路。
有敬爱敬爱深入了解技术细节的读者,不错通过arXiv编号2604.18486在arXiv.org上查阅完竣论文,悉数实验代码和演示页面也可通过论文中提供的神情主页获取。
---
Q&A
Q1:OneVL的推理速率为什么能和"不推理"一样快?
A:OneVL在推理时,会把经过闇练的"潜变量代号牌"径直填入输入请示词中(也便是预填方式),这些代号牌在预处理阶段被一次性并行处理,不需要像生成笔墨那样逐字逐句恭候。是以悉数这个词过程对蔓延险些莫得额外影响,测试闪现与十足不推理的径直预计方法收支不进步0.03秒。
Q2:OneVL的视觉提拔解码器生成的将来画面,是实在的视频预计吗?
A:不十足是传统道理上的视频预计。视觉提拔解码器预计的是将来0.5秒和1秒时的场景画面,这些画面以糟塌视觉词汇序列的形式暗示,通过IBQ分词器编码。它的主要目的不是生成视频供东说念主不雅看,而是看成闇练阶段的监督信号,将就视觉潜变量编码弥散丰富的时空动态信息。推理时解码器会被丢弃,生成视觉讲授是一个可选的"过后讲授"功能。
Q3:OneVL和普通自动驾驶AI比较,最骨子的区别是什么?
A:最骨子的区别在于OneVL引入了"宇宙模子监督"。普通隐式推理AI试图压缩语言姿首,而语言是对宇宙的二次抽象,丢失了多数空间动态信息。OneVL通过条件AI好像预计出将来的视觉画面世界杯官方认证平台,禁止其压缩出的"念头"实在通晓物理宇宙的因果动态,而不仅仅记取语言姿首的名义礼貌。这是性能晋升的根原本源。
沙巴体育app中国官网下载