跳到正文
arXiv cs.AI· Panagiotis Roditis, Panagiotis P. Filntisis, Petros Maragos·· 9 天前AI 评分22

GeZo-SAC:用 Zonotope 几何表示实现自适应悲观度的 Soft Actor-Critic 运动学习

A Geometric Approach to Soft Actor-Critic with Zonotopes for Locomotion Learning

AI 导读

研究者提出 GeZo-SAC,让每个 critic 在标量价值之外预测一组定义 zonotope 的生成元,通过沿采样方向探测得到几何宽度作为悲观偏移,并用 log-sum-exp 聚合两个 critic 的分歧来动态控制其组合方式。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:离策略 actor--critic 方法通过取两个 critic 的最小值来控制高估偏差。无论 critic 之间如何分歧,处处都使用相同的聚合规则。我们提出 \textbf{GeZo-SAC},它使用辅助几何表示来使 critic 的悲观程度适应状态和动作。除了标量值之外,每个 critic 还预测一组定义 zonotope 的生成元。沿采样方向探测该 zonotope 可得到一个几何宽度,将其从每个 critic 值中减去作为悲观偏移量,并得到两个 critic 之间分歧的度量,用 log-sum-exp 聚合。该分歧控制 critic 如何组合,随着分歧增大,从宽度加权平均转向通常的最小值。在推理时,部署的策略是未经修改的 SAC actor,因为生成元仅在 critic 一侧使用,在 this http URL 四个 MuJoCo-v5 运动基准和六个离策略基线上,GeZo-SAC 在 Ant-v5 和 Hopper-v5 上取得了最高的平均回报,并在其余任务上与其他方法保持竞争力。我们的分析进一步表明,在所评估的方法中,GeZo-SAC 实现了最低的平均执行器功和每米动作努力,同时在所有四个环境中保持接近零的实测高估频率。
学科: 机器学习(cs.LG);人工智能(cs.AI)
引用为: arXiv:2610.12113 [cs.LG]
  (或 arXiv:2610.12113v1 [cs.LG] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.12113

arXiv 颁发的 DOI 通过 DataCite(待注册)

提交历史

来自:Panagiotis Roditis 先生 [查看电子邮件]
[v1] 2026年10月8日星期四 15:11:13 UTC(1,030 KB)

来源:arXiv cs.AI · arxiv.org