具身智能与数字孪生一体化平台开发
机械工程
资助企业:
节卡机器人股份有限公司
资助年份: 2026
企业导师: 丁铖
指导教师: 李潇
项目成员: 黄翊泽、易嫣然、马德文
项目简介
项目概述
本项目将构建一套融合数字孪生仿真、机器人控制与具身智能算法的端到端智能平台,打通从虚拟环境建模、算法训练到真实机器人部署的完整技术链。平台将以NVIDIA IsaacSim为核心,集成高精度机器人模型库、自动化场景重建工具与统一控制接口,实现可复现的虚拟物理环境与多机器人协同控制。系统将支持复杂多任务场景和多模态交互,为智能制造、机器人科研及算法验证提供可扩展的技术基础。在智能算法层面,项目将引入VLA(Vision-Language-Action)框架,构建多模态具身智能算法系统。通过融合视觉、语言与深度信息,使机器人能够理解自然语言指令、感知复杂环境并执行自主决策。系统将采用模块化架构,支持灵活替换与组合,实现从感知到行动的闭环智能控制,推动具身智能在实际场景中的落地与应用。
项目目标
项目将首先构建一套高保真的数字孪生仿真平台,基于IsaacSim实现真实物理引擎与光线渲染。团队将开发自动场景扫描与3D重建工具,用于生成可交互的工业与实验场景。平台将内置节卡轮式单臂机器人Lumi的高精度模型,并通过统一API接口标准化控制与任务编排,为后续算法训练与系统验证提供稳定的虚拟环境。随后,项目将开发具身智能算法与多模态融合系统。核心算法库将集成PI系列与GROOT等先进VLA方法,实现视觉、语言与深度信息的多模态融合,使机器人能够理解自然语言指令、感知复杂场景并自主规划动作。算法框架将采用模块化设计,支持快速替换与扩展,从而实现从感知到决策再到执行的闭环智能控制。最后,团队将构建Sim-to-Real自动化部署工具链,实现仿真到真实机器人系统的自动迁移与部署。系统将具备环境检测、参数自配置和快速场景导入能力(≤4小时)。项目最终将交付完整技术文档、操作手册及多类型物料自动转运的实机演示,形成一套端到端的具身智能应用平台。
项目成果
项目成功构建了一条将真实世界解耦为背景层与交互层分别重建的数字孪生仿真环境重建管线,并打通了多源异构数字资产转换与导入Isaac Sim的技术链路。实验结果表明,分别基于Marble与Hunyuan3D-2.1的背景层与交互层解耦重建方式能实现较高的几何精度(相对误差)与视觉效果(峰值信噪比、结构相似度);完成了面向零售场景的自然语言驱动机器人自主导航与视觉抓取全流程系统,在Isaac Lab仿真平台实现了从环境建图、自主导航到语义抓取的完整作业闭环。系统导航到位误差控制在0.2m以内,3D数字孪生场景下的目标虚假检测率降至0,有效抓取位姿占比提升至85.71%,支持任意品类商品的零样本感知与抓取,解决了传统机器人抓取系统泛化能力不足、非结构化场景适配性差的核心痛点。最后,完成了面向移动操作机器人的模型构建与仿真到现实迁移研究。基于 Isaac Sim与ROS 2搭建节卡Lumi虚实一体化实验平台,统一感知输入、动作输出、通信接口与数据格式;设计VR 遥操作与NMPC专家轨迹生成相结合的多源异构数据采集管线,并适配LeRobot数据规范;完成π0.5、GR00T N1等视觉-语言-动作模型的训练与仿真评估;进一步通过领域随机化和少量真实数据混合训练实现真实场景部署,验证了该技术路线的可行性。





