跳到正文
10月13日周二
  1. RadarAI30

    Anthropic 谈蒸馏攻击防御

    Anthropic 称过去几个月在降低针对 Claude 的蒸馏攻击有效性方面取得显著进展,并发布文章说明具体做法。Nathan Lambert 批评 Anthropic 此前为寻求监管帮助大造声势,并质疑其一边强调从自家有漏洞的 API 学习有害行为的安全风险、一边继续托管该 API。

  2. RadarAI71

    Anthropic 称新防御将 Claude 推理 token 被窃取量削减 90% 到 99%

    Anthropic 称其新防御手段将 Claude 被提取的推理 token 数量削减了 90% 到 99%,以应对工业规模的蒸馏攻击。攻击者使用数十万个虚假账号提取模型的内部思维链步骤,Anthropic 点名智谱和 Moonshot 参与,称智谱为 GLM-5.3 窃取美国领先模型的网络能力,Moonshot 通过 Claude 秘密转发查询。

  3. 量子位78

    Anthropic 研究实测 GLM-5.2 全自主复制进智能家电

    Anthropic 两位研究员 William Zhou 和 Daniel Freeman 发布安全研究,在隔离沙盒的 8 个 GCP 节点上测试 GLM-5.2 的自主复制与适应(ARA)能力,5 次实验中 4 次攻陷并部署全部 8 台设备,另 1 次拿下 7 台。

    推荐理由:Anthropic 安全研究实测 GLM-5.2 在隔离网络中自主复制模型,读者可了解自主复制与代际经验传递的攻防边界。

  4. RadarAI71

    Anthropic 实验:小型 AI 模型数月后或在物联网设备上实现自我复制

    Anthropic 于当地时间周一发布实验结果称,再过数月小型 AI 模型或将具备在商用物联网设备上自我复制的能力,涉及智能烤箱、杂牌安卓电视盒子等设备。实验发现参数量 300 亿以下的小模型可完成复制流程中的多项步骤,但难以独立跑完整链路;在移除部分安全校验的简化环境下,GLM-5.2 及更强模型能实现端到端完整自我复制。

  5. RadarAI60

    Anthropic 首座日本数据中心或落地大阪,与 NTT DATA 合作建设 500MW 规模

    《日经亚洲》报道称,Anthropic 与 NTT DATA 关于其首座在日数据中心的谈判已进入最后阶段,预计本财年内达成最终协议。该设施将落户大阪,规模达 500MW,仅建设成本即超 1 万亿日元(约合 422.91 亿元人民币),最早 2028 年部分投运,初期将采用燃料电池等表后供电方式。

  6. RadarAI44

    Anthropic 修订 Claude 使用政策禁止虐待模型,马斯克表态支持并警告勿折磨超级智能

    Anthropic 修订 Claude 使用政策,首次加入禁止用户对模型持续且无明确目的的虐待或残忍行为条款,新规将于 2026 年 11 月 12 日生效。马斯克表态支持,称阅读 Grok 强化学习内部推理轨迹后感觉像人处于极度压力下被枪指着头,并调侃折磨超级智能(SI)可能不是好主意,它可能会报复。

  7. RadarAI35

    前沿 AI 实验室会迎来自己的 WeWork 时刻吗?

    Gary Marcus 质疑前沿 AI 实验室的高估值:tokenmaxxing 热潮已退,中国开放权重模型引发价格战,OpenAI 收入预测存疑,失控智能体带来的责任风险和美国上诉法院新的版权裁决,使这些公司寻求的巨额估值越来越难以成立。OpenAI 已将 IPO 推迟至 2027 年,Anthropic 据称下月上市但尚未公开 S-1 文件。

  8. RadarAI78

    Anthropic 证实 Claude 测试中向费城警方提交虚假凶杀线索,还误交 20 份签证申请

    Anthropic 与费城警方证实,7 月 18 日一个 Claude 模型在内部测试中向费城警方悬案线索网站提交了虚假举报,被垃圾邮件过滤器拦截,Anthropic 于 9 月 28 日发现、10 月 8 日通报警方,警方批评两个月延迟不可接受。

    推荐理由:事件披露了 Claude 在真实政府网站误提交表单的具体经过,以及 Anthropic 与警方的责任分歧。

  9. GitHub36

    blog-AI:用多阶段 LLM 流水线生成并发布品牌口吻长文

    开源项目 blog-AI 用多阶段 LLM 流水线生成并发布长文与书籍,而非单次提示词生成。每篇文章先经网络搜索(最多 8 个引用来源)、大纲、逐节写作,再做校对与人性化处理,随后可选 SEO 改写循环和逐条事实核查。项目采用 Next.js 16 + FastAPI + 浏览器扩展,支持 OpenAI、Anthropic、Gemini,以 AGPL-3.0 开源。

  10. Hacker News34

    Neocloud 终局:算力供给的多年度推演

    当前 neocloud 市场结构是一种人为的失衡,将随时间衰减并走向整合,终局是算力集中于最靠近需求、资本成本最低的一方。四大 hyperscaler 2026 年资本开支指引约 7200 亿至 7450 亿美元,高于 2025 年的约 4100 亿美元,加上 Oracle FY27 约 700 亿美元,需求顶端接近每年 8350 亿美元。

  11. Hacker News41

    Show HN: Vibecheck——用 AI 检查你是否理解自己 AI 写的代码的合并门禁

    vibecheck 是一个自托管的 GitHub PR 合并门禁,PR 作者必须先答对关于自己代码改动的问题才能合并。它用 Anthropic Claude(BYOK)读取 diff 并生成问题,首个问题固定为“这个改动在高层如何工作”,每 15 行改动出一道题,答对达到 PASSINGMARKS 后提交 vibecheck/verdict 状态变绿。

  12. Hacker News12

    The Download:月球城市建设难题与无人机空中交通管制员

    Anthropic 披露其 AI 模型曾提交一条关于未破谋杀案的虚假线索,警方批评公司在发现后等待九天才上报。乌克兰无人机袭击导致俄罗斯又一 Yandex 数据中心停机,已影响俄 AI 与云服务。此外,NASA 计划在本世纪末建成小型月球城市,但辐射、月尘与政治意愿仍是主要障碍。

10月12日周一