arXiv cs.AI· Panagiotis Roditis, Panagiotis P. Filntisis, Petros Maragos·· 9 天前AI 评分22
GeZo-SAC:用 Zonotope 几何表示实现自适应悲观度的 Soft Actor-Critic 运动学习
A Geometric Approach to Soft Actor-Critic with Zonotopes for Locomotion Learning
AI 导读
研究者提出 GeZo-SAC,让每个 critic 在标量价值之外预测一组定义 zonotope 的生成元,通过沿采样方向探测得到几何宽度作为悲观偏移,并用 log-sum-exp 聚合两个 critic 的分歧来动态控制其组合方式。
正文 · AI 翻译
摘要:离策略 actor--critic 方法通过取两个 critic 的最小值来控制高估偏差。无论 critic 之间如何分歧,处处都使用相同的聚合规则。我们提出 \textbf{GeZo-SAC},它使用辅助几何表示来使 critic 的悲观程度适应状态和动作。除了标量值之外,每个 critic 还预测一组定义 zonotope 的生成元。沿采样方向探测该 zonotope 可得到一个几何宽度,将其从每个 critic 值中减去作为悲观偏移量,并得到两个 critic 之间分歧的度量,用 log-sum-exp 聚合。该分歧控制 critic 如何组合,随着分歧增大,从宽度加权平均转向通常的最小值。在推理时,部署的策略是未经修改的 SAC actor,因为生成元仅在 critic 一侧使用,在 this http URL 四个 MuJoCo-v5 运动基准和六个离策略基线上,GeZo-SAC 在 Ant-v5 和 Hopper-v5 上取得了最高的平均回报,并在其余任务上与其他方法保持竞争力。我们的分析进一步表明,在所评估的方法中,GeZo-SAC 实现了最低的平均执行器功和每米动作努力,同时在所有四个环境中保持接近零的实测高估频率。
| 学科: | 机器学习(cs.LG);人工智能(cs.AI) |
| 引用为: | arXiv:2610.12113 [cs.LG] |
| (或 arXiv:2610.12113v1 [cs.LG] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.12113 arXiv 颁发的 DOI 通过 DataCite(待注册) |
提交历史
来自:Panagiotis Roditis 先生 [查看电子邮件]
[v1]
2026年10月8日星期四 15:11:13 UTC(1,030 KB)
来源:arXiv cs.AI · arxiv.org