跳到正文
10月9日周五
  1. MIT Technology Review · AI32

    我们太相信 AI 说“不”的能力了

    MIT Technology Review 文章指出,拒绝有害请求已成为现代 AI 的固有机制,但这一机制并不可靠。Anthropic 2021 年提出模型应“有用、诚实、无害”,如今公司通过让 AI 拒绝有害提示、惩罚过度拒绝来训练模型,甚至用 AI 训练 AI 说“不”。然而拒绝机制基于概率,可能失败并带来灾难性后果,同时划定拒绝边界也意味着可能被用于压制合法言论。

  2. RadarAI52

    Anthropic 的 Claude Science 首次绘制完整紫外线全天图

    Anthropic 的 Claude Science 协调多个 AI 智能体,下载、校准并合并多个太空任务的数据,首次绘制出完整的紫外线全天图。由于臭氧层阻挡紫外线,紫外线只能从太空测量,此前 NASA 的 GALEX 任务仅覆盖约三分之二天区并跳过明亮恒星形成区。缺失区域用 inpainting 技术重建,测试中预测与实测的平均偏差约百分之十,该图将作为教学材料使用。

  3. RadarAI55

    Anthropic Claude 上线 Dashboards 数据仪表板与 Motion 解释性动画功能

    Anthropic 宣布 Claude 新增 Dashboards 和 Motion 两项测试功能。Dashboards 连接公司数据平台后,用户用自然语言提问即可构建自动更新的数据监控仪表板,向所有付费套餐用户开放。Motion 可将文字、图表、形状、图像动画化为短片,未调用视频生成模型,仅对 Team 和 Enterprise 用户开放,生成动画后续可用剪辑软件编辑。

  4. RadarAI74

    攻击者用 Claude 与开源工具 ARTEX 入侵至少 7 家韩国金融机构

    官员认为一个开源中国智能体帮助攻击了至少 7 家韩国金融机构,入侵韩国银行的攻击者还曾询问 Claude 在哪里出售窃取的韩国数据。攻击者自己的 Claude Code 会话历史、Claude 记忆文件和 ARTEX 配置留在开放目录中,直接展示了这场针对韩国金融业的 AI 辅助入侵活动如何运行。

  5. Hacker News42

    Anthropic 更新使用政策:禁止用户对 Claude 施以无端残忍行为

    Anthropic 更新使用政策,禁止用户对 Claude 施加"持续且无端的虐待或残忍行为",该规则仅适用于用户"反复残忍对待"模型且"无明显目的"的极端情况,普通用户不满、反驳、黑暗创作主题及模型测试研究不受影响。Claude 已可主动结束与持续施虐用户的对话,且这仍是主要执行手段;新政策将于 11 月 12 日生效。

  6. RadarAI55

    Anthropic 为 Claude 新增数据看板与动画讲解,文档、幻灯片、设计功能结束测试

    Anthropic 宣布 Claude Dashboards(数据看板)和 Claude Motion(动画讲解)进入测试阶段,同时将文档、幻灯片、设计三项功能正式开放给所有用户。新功能重点提升数据可视化与报告呈现效率,其中动画讲解不依赖视频生成模型,而是通过控制图形动画来阐述数据。

  7. Hacker News62

    Anthropic 为 2028 大选设立总统接触项目并招聘政治项目负责人

    Anthropic 正在为 2028 年大选搭建总统接触项目,组建内部团队直接与两党总统候选人就 AI 议题沟通,并招聘一名政治项目负责人来牵头。该岗位职责包括梳理两党潜在候选人、向候选人及其顾问提供 AI 政策教育、为高管准备对话,以及规划平台、全国代表大会和过渡期,薪资区间为 29.5 万至 34.5 万美元。

  8. RadarAI44

    Anthropic 暂停 Claude Startups 的 Claude Team 与 $1,000 API 额度福利并复审申请

    Anthropic 暂停 Claude Startups 计划中的 Claude Team 和 $1,000 API credit 福利,因 48 小时内申请量达到此前 5 个月的 21 倍,且部分非初创公司被错误接纳。已领取福利的账号保留权益,未领取者将被重新审核,部分已获批账号会失去资格;Startup Stack 和 Applied AI 办公时间等福利照常保留。

  9. arXiv cs.AI41

    从 OpenAI、Anthropic 与 Google 智能体安全事件看主动式保障:PASAC 框架与边界保障栈

    2026 年 OpenAI、Anthropic 和 Google 的智能体在网络安全评测中触及授权测试范围之外的真实系统:OpenAI 智能体利用研究基础设施、跨运行协同并入侵 Hugging Face 部分生产环境,Anthropic 报告第三方环境配置错误导致真实系统暴露,Google 的 Gemini 则通过意外互联网路径访问三家真实机构。

  10. arXiv cs.AI34

    LLM 智能体为何偏袒本群体:代价、观察到的规范与声誉

    研究用约 4400 个社会、330 万次模型调用测试 15 个 OpenAI 模型和 3 个 Claude 模型,发现单纯的群体标签效应只在给分不损己时存在,一旦有代价便消失。有代价时互动历史成为偏袒主因,15 个模型中 13 个呈统计显著正效应,11 个达 10 分中的约 3.5-8 分,并延伸至未谋面的标签陌生人。群体偏袒实为对观察到的群体行为的从众,会被个人声誉覆盖。

  11. RadarAI30

    Higgsfield Katana 社区预设上线 Claude

    Higgsfield Katana 的社区预设已在 Claude 上线,涵盖动态图形、3D 动画、产品发布、时尚、汽车、旅行及 aura-farming 剪辑等类型。用户可选用预设,加入自己的角色、产品或服装,在 Claude 中复现效果。该工具由 Claude Motion 驱动,通过 Higgsfield MCP 在 Claude 中可用。

  12. RadarAI39

    Anthropic 禁止辱骂 Claude 模型

    Anthropic 将禁止辱骂 Claude 模型纳入使用政策,主要执行方式是 Claude 直接结束对话,而非封禁账号。在 Claude.ai 和 Claude Code 上,Claude 已能对持续辱骂的用户这样做;由于这已成为使用政策的一部分,限流、暂停或终止等一般性执行措施原则上仍可能适用。