跳到正文
arXiv cs.AI· Gabriela Cioboata, Teodor-Stefan Bildea·· 4 小时前AI 评分34

研究揭示 FinBERT 金融情感分析存在语义不敏感漏洞:ASI 攻击成功率 90.85%

Evaluating Semantic Insensitivity in Financial Sentiment Analysis: Implications for Sustainable Financial Decision-Making

AI 导读

研究者提出 Agent-driven Semantic Inversion(ASI)对抗攻击框架,利用 LLM 多智能体流水线对金融新闻句子做定向词汇替换,在 FinBERT 上取得 90.85% 的攻击成功率。

正文 · AI 翻译

查看 PDF

摘要:金融情感分析对于自动化交易、投资组合管理和风险评估至关重要,高度依赖 FinBERT 等模型。尽管基准准确率很高,但这些模型仍然容易受到细微的对抗性文本修改的影响,从而威胁算法决策的完整性。在本文中,我们提出了 Agent 驱动的语义反转(ASI),这是一种新颖的对抗性攻击框架,通过领域特定的语义操纵来攻击金融情感模型。我们的方法利用由 LLM 驱动的多智能体流水线,识别符合条件的金融新闻句子并应用有针对性的词汇替换。我们针对 FinBERT(部署最广泛的金融情感模型之一)对 ASI 进行了实证评估。我们的结果揭示了一个惊人的脆弱性:该攻击在 90.85% 的符合条件的案例中成功欺骗了 FinBERT,尽管财务绩效指标发生了根本性反转,该模型仍经常保持其原始情感预测。通过定性分析和 token 级调查,我们证明 FinBERT 严重过度依赖上下文关键词和句法模式,而非对金融语义的真正逻辑理解。我们的发现凸显了迫切需要具备逻辑感知能力的稳健金融 NLP 模型,以确保自动化决策系统的可靠性。
评论: 17 页,1 幅图,已在研讨会“反思经济模型:转型时期的可持续性、金融与会计”(布加勒斯特,2026 年)上展示并获准发表
主题: 计算与语言(cs.CL);人工智能(cs.AI)
引用为: arXiv:2611.21653 [cs.CL]
  (或 arXiv:2611.21653v1 [cs.CL] 用于此版本)
  https://doi.org/10.48550/arXiv.2611.21653

arXiv 颁发的 DOI 通过 DataCite(待注册)

提交历史

来自:Gabriela Cioboata [查看电子邮件]
[v1] 2026 年 10 月 18 日星期日 16:43:13 UTC(427 KB)

来源:arXiv cs.AI · arxiv.org