UAV-SwarmAgent:用代码生成与视觉语言推理实现多无人机侦察与任务分配
UAV-SwarmAgent 提出一种层级多智能体系统,操作员用一句自然语言下达任务,地面站智能体生成并执行代码,将其转化为每架无人机的航线。该系统用视觉语言模型在空中地图上定位巡检目标,按路线长度均衡分配给 N 架无人机,再由机上紧凑决策模型核验事件。
站内阅读 ↗PAPERS / 研究文献
具身智能历史论文精选与持续收录的最新研究。
按发表时间浏览论文与研究;新论文沿用日常评分、中文摘要及符合条件的全文翻译规则。历史收藏继续保留原文。
UAV-SwarmAgent 提出一种层级多智能体系统,操作员用一句自然语言下达任务,地面站智能体生成并执行代码,将其转化为每架无人机的航线。该系统用视觉语言模型在空中地图上定位巡检目标,按路线长度均衡分配给 N 架无人机,再由机上紧凑决策模型核验事件。
站内阅读 ↗I-Tak Ieong与Hao Tang提出HGWM,一种分层图引导世界模型,通过类别条件房间-锚点先验与持久空间语义记忆完成零样本目标导航。粗阶段用视觉语言模型给候选朝向打分,细阶段将观测到的物体与关系同目标先验显式比对,再按阶段融合语言模型建议引导局部导航。
站内阅读 ↗Ning Zhou 与 Edmund R. Hunt 在 arXiv 预印本中提出兼性集群(facultative swarming)统一控制框架,主张把集群能力视为一种动态能力而非固定的系统类别。该框架让系统在条件宽松时按集中式规划运行以追求最优性,在环境压力下平滑退化为去中心化集群以保持鲁棒性。作者认为这为兼顾集中式最优性与自组织灵活性的集体机器人系统提供了一条路径。
站内阅读 ↗研究提出解剖锚定的模仿学习框架,将解剖引导的探头放置与学习式超声导航结合,用于自主机器人超声扫描。该框架先由外部视觉确定任务相关的解剖起点并建立初始探头位姿参考系,再由基于流的策略根据锚点相对位姿、超声图像、探头相机视图和接触力生成扫描动作,终止头预测任务完成。
站内阅读 ↗CoCarry 提出一个协同搬运数据集,包含 21 种任务方案、5 种共享物体几何、4 类地形下的 220 条同步双人序列,约 61 分钟运动数据。作者同时提出 Contact-Support-Structured Retargeting,从单人标称动作出发,围绕同一给定物体轨迹联合优化两台人形机器人。
站内阅读 ↗R²E 是一个角色驱动的奖励进化框架,用多个 LLM 角色自动设计强化学习奖励函数。其中 Explorer 负责提升新颖性以扩大搜索空间,Guardian 做保守修正以改善训练稳定性,Evolver 通过交叉和变异重组高性能奖励,动态调度策略让搜索从广泛探索逐步转向集中利用。
站内阅读 ↗作者提出轨迹束图(GTB)方法,用于非线性、黑箱动力学系统的运动规划,将采样运动规划、轨迹优化与图搜索结合。GTB 基于工作空间的凸集图分解,迭代构建轨迹束图以刻画各顶点处的局部动力学,并在图上求解最短路,得到在极限下满足系统动力学及碰撞规避等约束的迭代解。作者称该方法可处理高度非线性、不稳定甚至黑箱动力学以及复杂碰撞与规格约束。
站内阅读 ↗LogLook提出一种执行日志式记忆,让前沿视觉语言模型规划器保留执行记录与先前笔记,并自行决定查看哪些帧。在基准自带运动规划器下,它的成功率与仅用笔记的记忆相当,但token减少43%、图像用量不到一半,因记忆或观察失误导致的失败回合也明显更少;直接控制时在RoboMME测试集上解决93.5%。
站内阅读 ↗DynaSlots 是一个无需动作标签的 3D 动态预训练框架,将每帧点云分解为少量时序一致的 slot,并在 slot 级别而非场景级别建模动态。它通过时序 slot 传播模块保持跨帧分配一致,用逆动力学模型从特征差异中提取每个 slot 的隐动作,再由扩散式前向动力学模型配合自监督交互头预测各 slot 未来状态。
站内阅读 ↗MAST-VLA提出一种面向多技能机器人操作的双重条件框架,在LLM主干中引入技能条件化LoRA-MoE适配器,由技能查询token和路由偏置引导低秩专家分工,并把预测的可供性热图转为动作头的patch级轨迹可供性空间先验。
站内阅读 ↗研究在24关节人形机器人上训练运动跟踪策略,并在独立CPU MuJoCo测试环境中评估指令延迟的影响。训练随机化下每个策略在30次试验中至少26次完成动作,但加入40毫秒恒定延迟后平均存活率降至15%(0%–45%),延迟裕度仅20–30毫秒。
站内阅读 ↗研究在 Unitree Go2 四足机器人搭载 AgileX Piper 机械臂上部署 VLA 模型,实现闭环移动操作。作者报告了使实机部署可行的模型变体、动作时域和演示约定等选择,并针对抓放任务区分数据覆盖与模型容量。结果显示扩大演示覆盖使留出集末端执行器误差降低 30%,加入推而非抓等次级技能引入新行为模式且未降低基线性能。
站内阅读 ↗该研究将ARAIM解分离与保护级计算建立在紧耦合GNSS/IMU因子图优化的后验上,利用当前状态边缘化与Woodbury更新计算无故障、单星、星座级和二阶故障假设下的保护级,无需重复全状态求逆或图重优化。
站内阅读 ↗RoboCode 提出一种共享软门控动作基元接口,把动作块表示为多个学习基元的软组合,而非单一离散编码。该接口在多个任务的动作块上学习后冻结,再训练任务特定的状态编码器映射到共享潜空间。在五个 ManiSkill 操作任务上,动作块平均重建 MSE 为 0.0187,闭环平均成功率为 75.6%,高于 ACT 的 68.8% 和 Diffusion Policy 的 41.6%。
站内阅读 ↗研究显示 OpenVLA 激活的稀疏自编码器(SAE)表征含有结果预测信息,可在机器人进入不可恢复状态前预测任务失败。作者还找出与成功或失败特定阶段相关的单个 SAE 特征,通过定位这些特征激活显著变化的时间区间来归纳重复出现的行为模式,并构建基于 VLM 的解释流程生成行为描述,在留出区间上验证其与特征激活的对应关系。
站内阅读 ↗研究将机器人辅助穿衣表述为几何感知插入问题,用身体部位与衣物开口的空间关系替代完整可变形物体状态,并提出结合分阶段课程与逐指插入软门控的强化学习框架。训练后可变形评估中完整方法成功率为84.7±1.2%,消融显示插入门控贡献最大,叠加课程后得分最高。在假人手模型上,同一完整策略于实机20次试验中成功15次。
站内阅读 ↗TravSUITE 是一个面向越野高速导航的可通行性系统,由利用视觉基础模型构建几何语义局部地图的体素建图器,以及联合预测 BEV 几何、语义、速度与代价的统一神经网络组成。
站内阅读 ↗一项 arXiv 预印本研究指出,流匹配 VLA 策略中数值求解器深度与执行时域存在耦合,且呈现符号反转:快速重规划时粗粒度积分降低精度,而在延长开环执行时反而明显提升任务表现。
站内阅读 ↗作者把测试时训练(TTT)接入 InternVLA-A1 和 Pi0.5,用成对的人类演示与机器人轨迹研究以演示为条件的动作生成。实验显示,在当前规模下加入 TTT 并用成对数据训练,并未带来基于演示的一致目标选择;更短序列、全轨迹梯度连通和对比正则化在测试设置下也未明显提升对演示的响应。
站内阅读 ↗DiscoDemo 提出用强化学习生成多样化机器人演示数据,再导出为静态数据集供下游视觉运动模仿学习使用。该方法训练带特权信息的潜在条件强化学习生成器,结合并行逆向课程与成功门控的多样性目标,产出多条成功的闭环行为并做安全过滤。
站内阅读 ↗一项对比诊断研究在 HandMeThat v2 基准上评测了结构化社交与具身推理框架 FISER 与多模态增强方法 CEMIR,覆盖从 Qwen2.5-Omni-3B 到 GPT-5 的四款大模型。经多重比较校正的统计分析显示,两者在全部十六组模型与难度组合上均无统计显著差异,针对性消融亦如此,性能主要与骨干模型能力和歧义固有难度相关。
站内阅读 ↗研究者提出一种标准化机器人模块,将磁吸对接接口与两个驱动关节结合,可从平面二维构型折叠为三维结构,并组装成三模块“trilobite”和五模块“seal”两种形态。
站内阅读 ↗一项预印本研究指出,人形机器人安全滤波器的碰撞保证只在参数配置正确时成立,而参数配置依赖具体任务与环境,目前没有通用方法确定。作者提出目标插入攻击,并开发自动化工具 SIREN 为给定任务和环境寻找可插入的脆弱目标;在 SPARK 数据集的所有脆弱场景中,SIREN 均能识别攻击,数量是基线方法的三倍,并在真实人形机器人执行任务时触发碰撞。
站内阅读 ↗提出偏差感知高斯过程(Ba-GP)框架,利用已记录GP后验均值梯度将估计的输入偏差与噪声传播为均值与协方差修正,并借助加性协方差结构实现数值高效的一阶校正算法。仿真研究与室内光照强度建图实验显示,Ba-GP相对噪声输入GP基线提升了预测精度与不确定性校准,计算成本比完整GP重训练低一个数量级。
站内阅读 ↗研究提出一个将神经细胞自动机(NCA)与现有站点分配和避碰控制结合的模块化框架,用于机器人通过局部交互组装目标形状。框架引入分散式附着点发现机制,已在编队中的机器人更新并共享局部NCA状态以识别新附着点,部署时无需预定义站点列表。
站内阅读 ↗论文研究以全身近距传感器作为归纳偏置,学习反射式避碰行为,并在强化学习环境中比较八种候选表征,包括隐空间压缩、未来接触预判、有损退化和特权状态估计。作者在刻意受限的样本与算力预算下端到端训练超过200台人形机器人玩简化版躲避球,发现低分辨率有损传感器比高分辨率全覆盖是更强的偏置,而预判接触发生的时间与部位反而降低了学习样本效率。该工作为预印本,结论基于仿真训练环境。
站内阅读 ↗arXiv 论文研究月面机器人集群能否以自身成员作为热屏蔽,用强化学习训练一套由二十台机器人共享的策略。策略只在月夜结束时收到一次奖励,即最冷五台机器人的平均温度,奖励不含位置、间距、暴露或运动信息,集群仍涌现出聚集和在外围与核心间轮换两种行为。
站内阅读 ↗一项 arXiv 预印本研究指出,VLA 模型以 bf16 训练且无 fp32 主副本时,AdamW 会把小于权重 1/512 的更新直接舍入掉;12 个开源 VLA 代码库中有 9 个默认或文档配方这样训练,包括 LeRobot 的 SmolVLA 默认配置及其 π0/π0.5 指南。
站内阅读 ↗论文提出BM2PC,一个用于可变形线性物体敏捷操作的贝叶斯多模态MPC框架,将多模态规划建模为集合优化问题,并加入执行动力学模型补偿快速操作中的执行偏差。在绳索跟踪与避障的仿真和硬件实验中,BM2PC在最长任务上把RMSE降低44.0%,避障性能与现有多模态MPC方法相当,规划时间减少29%至66%。
站内阅读 ↗EgoForesight 提出一种视觉-语言-动作框架,联合利用机器人演示与带噪第一视角视频训练策略,通过可靠性条件加噪、可靠性加权回归和特权未来表征蒸馏降低不可靠动作标签的影响。在 3 万小时预训练数据下,其缩放斜率比基线更陡,真实世界开环动作 MSE 降低 20.5%,RoboCasa 少样本成功率提升 8.1 个百分点。后训练后,该方法在仿真与真实世界的灵巧操作任务上也取得较强的绝对性能。
站内阅读 ↗FORCA 是一个以视觉观测和腕部力/力矩测量为输入、为接触探测与力响应运动编写 Python 程序的编码智能体,无需演示、任务特定训练或仿真。它在五次实机任务中覆盖三类接触密集操作:提升操作精度、适应物体或表面属性变化、在表面变化与物体运动下调节接触。与同一智能体的纯视觉版本相比,FORCA 提升了抓取精度和任务成功率,并减少了擦拭与剥离中的接触丢失。
站内阅读 ↗SAGE(Semantic-to-Action Grounded Execution)是一个读-决策-执行-校验框架,用视觉语言模型的轨迹作为对完整几何候选路径的偏好,并通过排序融合结合几何分数与VLM轨迹一致性。
站内阅读 ↗WorldMirror 是一个智能体式 real-to-sim 框架,可从野外机器人演示构建可交互数字孪生。它把 real-to-sim 构建表述为可执行世界程序的迭代精炼:编码智能体分解场景、规划重建步骤并调度图像与 3D 生成工具,再通过验证反馈修正程序。在 DROID 上的实验显示,该框架能重建视觉忠实、几何一致的可交互世界,并保持所记录机器人轨迹的物理有效性。
站内阅读 ↗作者提出 SEVI 框架,用于真实世界策略在线学习中的可靠性感知安全干预,其 Evidential Safety Critic 在一次前向计算中同时估计未来约束违反风险与认知不确定性。
站内阅读 ↗PrefO2O 提出一种离线到在线潜偏好迁移框架,可在没有人工反馈的情况下对未见目标任务做零样本偏好强化学习。该方法从源任务的少量离线偏好数据中学习任务无关的潜偏好空间,将可迁移偏好结构与任务特定变化解耦,并用置信度加权最优传输对齐生成伪偏好监督用于在线奖励适配。
站内阅读 ↗StackGen3D 提出一种基于给定积木清单与三张正交轮廓图生成稳定积木装配体的两阶段框架:先用物理信息图神经网络(PI-GNN)预测积木间支撑关系并筛选稳定结构数据集,再训练条件流匹配模型学习符合目标轮廓的积木配置分布。
站内阅读 ↗KiRoSe 提出用机器人运动学数据而非原始多路视频来分割机器人演示,以降低多模态大模型的处理成本。该方法借鉴 Huffman 编码思路构建稀疏运动 token(SMT),用带时间分段监督的运动轨迹编码并量化得到离散运动词汇,再以演示子任务标注监督开放语言模型解读 token 序列。
站内阅读 ↗RepresentNav 是一个建立在自构建表征空间上的导航基础模型,该空间由策略自身目标从视觉基础模型中构建。它用三层 transformer 的 Representation Residuals 聚合多个视觉基础模型全深度特征,并在每次动作前通过潜在思维链预测下一时刻场景表征,以 JEPA 方式与策略端到端训练。
站内阅读 ↗Yunfei Xie 等作者提出 Sensorimotor Alignment(S²),一种免训练的离线指标,用于衡量模型感官表征与物理运动几何的对齐程度。作者称 S² 在多个模型家族中与下游机器人任务成功率正相关,可在闭环评测前用于模型优先级排序,也能在将 VLM 微调为 VLA 之前筛选有潜力的视觉语言模型骨干。
站内阅读 ↗OpenTac 提出一种可定制、可扩展的电阻式触觉皮肤及全栈生态,通过结构化可变形覆盖层把切向载荷转为空间变化的压力分布,相邻 taxel 的差分响应可解码局部剪切向量,共模响应编码法向力。
站内阅读 ↗Google Scholar 提醒:待接入邮箱,尚未运行。