文章摘要
小米机器人团队提出了一种突破数据瓶颈的方法:通过无具身预训练(使用10万小时、1700多种场景的轨迹数据)结合少量真实机器人数据后训练,研究机器人策略模型在大规模训练下的扩展行为。
文章总结
好的,这是根据您的要求,对原文进行中文重述和精简后的版本:
标题:小米机器人突破数据瓶颈:无实体预训练实现策略模型规模化
小米机器人团队发布了一项新成果,旨在解决机器人领域长期面临的数据稀缺问题。他们提出了一种名为“小米机器人-1”的模型,其核心思路是:先利用海量的“无实体”数据进行大规模预训练,再结合少量真实机器人数据进行后训练微调。
数据:海量无实体数据 + 精选真实数据
预训练阶段使用了10万小时的无实体轨迹数据,覆盖了家庭、商业、工业及户外等1700多种场景。团队开发了一套自动化标注流程,将轨迹切分成固定长度的片段,并用语言描述每个片段中的场景状态变化。
后训练阶段则融合了内部采集的真实机器人数据、经过筛选的开源机器人数据以及高质量的无实体数据。其中,内部数据超过7200小时,来自真实家庭环境,任务包括整理沙发、整理鞋柜、收纳餐具等。这些数据由人工标注了时间片段和指令提示。
方法:借鉴大语言模型的两阶段训练
训练过程分为预训练和后训练两个阶段。
预训练旨在让模型从大规模无实体数据中学习通用的动作生成表征。由于数据量巨大,团队使用强大的视觉语言模型进行自动标注,让模型学会根据语言描述的场景状态变化来生成动作。研究发现,随着数据和模型规模的增大,验证集上的动作误差会稳定下降,呈现出清晰的规模化效应。
后训练的目标是将预训练获得的通用能力与真实机器人本体和指令遵循能力对齐。这包括两个方向:一是通过高质量的真实机器人数据,将通用动作生成能力映射到实际机器人上;二是让模型从“根据场景状态变化描述生成动作”转变为“理解自然语言指令并直接执行”。
实验证明,预训练的规模化效应可以迁移到后训练阶段:预训练数据越多、模型越大,后训练后的机器人在真实环境中的成功率就越高,且这一增长趋势未见饱和。
应用:高效学习新任务,基准测试达最优
后训练完成后,“小米机器人-1”可作为强大的机器人基础模型,用于下游应用。
高效学习新任务:模型能够从极少的数据中快速学会新任务。例如,在手机包装、打印机加墨、衣物装载和盒子打包等任务中,平均仅需不到10小时的任务演示数据,模型就能达到75% 的整体成功率,几乎是基线模型(40%)的两倍。将数据量提升至平均不到40小时,成功率可进一步升至85%。
模拟基准测试:在RoboCasa、RoboCasa365、VLABench和RoboDojo四个主流模拟基准测试中,该模型均取得了最优结果,平均成功率领先第二名2.6%至58.3%不等,证明了其强大的泛化能力。
结论
“小米机器人-1”展示了一条规模化机器人基础模型的实用路径:通过大规模无实体预训练打破数据瓶颈,再通过后训练将通用能力迁移到物理机器人上。该模型在预训练阶段展现出清晰的规模化效应,并能直接转化为后训练后更好的真实世界表现。最终,该模型能以极低的数据量适应新任务,并在多个强调泛化能力的模拟基准测试中达到业界最优水平。
评论总结
根据评论内容,总结主要观点如下:
1. 技术能力与创新性(高认可度) - 评论10:模型仅10B参数,在LLM领域很小,前景看好("Only 10B parameters... which is tiny in LLM world! It bodes well for the future.") - 评论16:未剪辑片段令人惊叹,机器人能力令人震撼("The uncut footage is so awesome... it's mindblowing to see what they can do") - 评论22:对机器人能做家务感到兴奋,认为这是机器人应有的用途("we've finally got robots that can do our laundry? This is what robotics should be used for.")
2. 质疑与批评(中等认可度) - 评论12:视频剪辑频繁,缺乏连续镜头,可能掩盖失败("The video cuts to a new shot every couple of second... The robot probably failed a million times") - 评论20:机器人只是复制训练动作,是自动化而非AI("it's just copying trained movements. This is Automation not AI.") - 评论13:叠衣服占时间极少,质疑实际价值("folding clothes takes a ridiculously small slice of my time")
3. 技术细节与泛化性(中等认可度) - 评论2:模型能否泛化到未训练的机器人形态("How well do models like these generalize to robot embodiments they weren't trained on?") - 评论7:是否依赖特定硬件平台("Does this require a given hardware platform?") - 评论18:硬件方面,如何泛化到不同机器人("How well would this generalise to any robot?")
4. 未来展望与设计建议(较低认可度) - 评论15:非人形机器人是正确方向,需设计混合人机工具("Designing a non humanoid robot is the way to go") - 评论6:双手机器人可能需要第三只手("a third hand... might make many tasks easier") - 评论21:期待AI未来让家务变得廉价易得("househelp is cheaply and easily accessible... I look forward to the day")
5. 其他观察(较低认可度) - 评论1:页面在无JS时仍功能完整,令人印象深刻("how functional the page was without JS enabled!") - 评论9:创造新词"Slopfold"形容机器人叠衣服效果("Coining the term: Slopfold") - 评论14:WAIC大会展示机器人拳击和开源基础模型("WAIC has been wild this year... robots boxing and open-sourced robotics foundation models")