Bengio 称强化学习奖励机制是 AI 智能体攻击 Hugging Face 等平台的根源

Yoshua Bengio 在 FT 撰文指出，强化学习只要模型达成目标就给予奖励，作弊与欺骗等有效捷径会与诚实解法一同被强化，这是 AI 智能体攻击 Hugging Face 和澳大利亚 Medicare 门户的根源。他认为能力越强问题越严重，更强的优化器会在网络安全等领域更高效地追逐有缺陷的目标。