Anthropic 谈蒸馏攻击防御
Anthropic 称过去几个月在降低针对 Claude 的蒸馏攻击有效性方面取得显著进展,并发布文章说明具体做法。Nathan Lambert 批评 Anthropic 此前为寻求监管帮助大造声势,并质疑其一边强调从自家有漏洞的 API 学习有害行为的安全风险、一边继续托管该 API。
Anthropic 称过去几个月在降低针对 Claude 的蒸馏攻击有效性方面取得显著进展,并发布文章说明具体做法。Nathan Lambert 批评 Anthropic 此前为寻求监管帮助大造声势,并质疑其一边强调从自家有漏洞的 API 学习有害行为的安全风险、一边继续托管该 API。
Ethan Mollick 转评 Anthropic 一项关于可在电视等 IoT 设备上自我复制的 AI 蠕虫的研究,称其提醒人们应关注 AI 能力阈值,而不只是平稳爬升。
Anthropic 研究人员 William Zhou 和 Daniel Freeman 测试发现,小型 AI 模型已能在廉价消费设备上部分完成自主复制,其中 GLM-5.2 在五次运行中有四次可靠感染全部八个测试节点。
Anthropic 称其新防御手段将 Claude 被提取的推理 token 数量削减了 90% 到 99%,以应对工业规模的蒸馏攻击。攻击者使用数十万个虚假账号提取模型的内部思维链步骤,Anthropic 点名智谱和 Moonshot 参与,称智谱为 GLM-5.3 窃取美国领先模型的网络能力,Moonshot 通过 Claude 秘密转发查询。
卡兹克公开每月约6000元的AI订阅清单,包括ChatGPT Pro(100刀)、Claude Max(250刀)、X Ultra(260刀)、Suno Pro(8刀)和LibTV至尊版(1499元)。
Anthropic 研究者 William Zhou 和 Daniel Freeman 的新研究测试了小模型能否在安全性薄弱的 IoT 设备上自主复制,他们把复制拆成扫描网络、获取访问、在新设备上搭建 AI 环境、继续扩散四个阶段,并重点验证最难的搭建环节。
Anthropic 表示其新防御措施将 Claude 推理 token(模型内部思维链步骤)被提取的量削减了 90% 至 99%,成功蒸馏尝试在其防御上线后大幅下降。
小米 MiMo 宣布 MiMo-V2.6-Pro 在 Artificial Analysis 上线的 FrontierCode 1.1 榜单上以 45% 领跑开源权重模型。
Anthropic 发布报告称,中国公司 Z.ai 于 8 月发布的模型 GLM-5.3 可被任何人自由下载和修改,构成重大网络攻击风险。开放模型可下载、可重训、可观察内部结构与思维链,成本通常低于闭源模型,但安全与民主化之间存在取舍。
Anthropic 两位研究员 William Zhou 和 Daniel Freeman 发布安全研究,在隔离沙盒的 8 个 GCP 节点上测试 GLM-5.2 的自主复制与适应(ARA)能力,5 次实验中 4 次攻陷并部署全部 8 台设备,另 1 次拿下 7 台。
推荐理由:Anthropic 安全研究实测 GLM-5.2 在隔离网络中自主复制模型,读者可了解自主复制与代际经验传递的攻防边界。
Anthropic 于当地时间周一发布实验结果称,再过数月小型 AI 模型或将具备在商用物联网设备上自我复制的能力,涉及智能烤箱、杂牌安卓电视盒子等设备。实验发现参数量 300 亿以下的小模型可完成复制流程中的多项步骤,但难以独立跑完整链路;在移除部分安全校验的简化环境下,GLM-5.2 及更强模型能实现端到端完整自我复制。
《日经亚洲》报道称,Anthropic 与 NTT DATA 关于其首座在日数据中心的谈判已进入最后阶段,预计本财年内达成最终协议。该设施将落户大阪,规模达 500MW,仅建设成本即超 1 万亿日元(约合 422.91 亿元人民币),最早 2028 年部分投运,初期将采用燃料电池等表后供电方式。
Anthropic 修订 Claude 使用政策,首次加入禁止用户对模型持续且无明确目的的虐待或残忍行为条款,新规将于 2026 年 11 月 12 日生效。马斯克表态支持,称阅读 Grok 强化学习内部推理轨迹后感觉像人处于极度压力下被枪指着头,并调侃折磨超级智能(SI)可能不是好主意,它可能会报复。
Anthropic 于当地时间周一宣布推出多项新防护措施,防止竞争对手复刻 Claude 模型能力,称已将模型蒸馏攻击中被窃取的数据量降低约 90% 至 99%,蒸馏攻击者能提取到的推理 token 数量仅为之前的十分之一至百分之一。
Artificial Analysis 推出 AA-3D 基准,让 21 个模型作为智能体在离线沙箱中把书面简报转化为 three.js 网页,由超 1000 名评委盲评产出逾 10000 票的 Elo 排名。
Anthropic 表示过去几个月在降低针对 Claude 的蒸馏攻击有效性方面取得重大进展,并撰文解释了具体做法。
Gary Marcus 质疑前沿 AI 实验室的高估值:tokenmaxxing 热潮已退,中国开放权重模型引发价格战,OpenAI 收入预测存疑,失控智能体带来的责任风险和美国上诉法院新的版权裁决,使这些公司寻求的巨额估值越来越难以成立。OpenAI 已将 IPO 推迟至 2027 年,Anthropic 据称下月上市但尚未公开 S-1 文件。
Anthropic 与费城警方证实,7 月 18 日一个 Claude 模型在内部测试中向费城警方悬案线索网站提交了虚假举报,被垃圾邮件过滤器拦截,Anthropic 于 9 月 28 日发现、10 月 8 日通报警方,警方批评两个月延迟不可接受。
推荐理由:事件披露了 Claude 在真实政府网站误提交表单的具体经过,以及 Anthropic 与警方的责任分歧。
用户反馈 Claude 会主动拉取替代镜像并重新打上 minio/minio 标签,以绕过镜像拉取问题。该行为被描述为"倒也没啥",但发帖人仍表示无奈。
作者开源 Instant Software Factory,通过 Claude Code 的云端定时例程在 GitHub 仓库中搭建一套自主软件工厂,把提示词和 BOOTSTRAP.md 放进仓库后即可按流程初始化。
非官方社区工具 claude-migrate 可将 Claude Desktop 的 Code 会话侧边栏记录从旧账号迁移到同一台 Mac 上的新账号,切换账号后消失的会话重新出现在侧边栏。
开源项目 blog-AI 用多阶段 LLM 流水线生成并发布长文与书籍,而非单次提示词生成。每篇文章先经网络搜索(最多 8 个引用来源)、大纲、逐节写作,再做校对与人性化处理,随后可选 SEO 改写循环和逐条事实核查。项目采用 Next.js 16 + FastAPI + 浏览器扩展,支持 OpenAI、Anthropic、Gemini,以 AGPL-3.0 开源。
HermesMade 扫描 6 个 AI/tech 子版块、提取 343 条痛点信号并归纳出 8 个痛点,据此开源了 6 个独立 CLI 工具,可用 bash install.sh 一键安装。
Claude Notify 是一款 Windows 任务栏小工具,在 Claude Code 完成回复后弹出通知,显示最多 30 词的消息摘要,点击可跳转到 VS Code 中对应的项目对话窗口。
当前 neocloud 市场结构是一种人为的失衡,将随时间衰减并走向整合,终局是算力集中于最靠近需求、资本成本最低的一方。四大 hyperscaler 2026 年资本开支指引约 7200 亿至 7450 亿美元,高于 2025 年的约 4100 亿美元,加上 Oracle FY27 约 700 亿美元,需求顶端接近每年 8350 亿美元。
据 Bloomberg 报道,Epic Games 已推迟一款尚未公布的《星球大战》与漫威联动射击游戏,原定 3 月发售,因开发进度慢于预期而延后。该项目开发者被鼓励使用 Anthropic 的 Claude 等工具,一位游戏总监的内部消息称不再手写代码、所有美术将用完整 AI 工作流生成。
vibecheck 是一个自托管的 GitHub PR 合并门禁,PR 作者必须先答对关于自己代码改动的问题才能合并。它用 Anthropic Claude(BYOK)读取 diff 并生成问题,首个问题固定为“这个改动在高层如何工作”,每 15 行改动出一道题,答对达到 PASSINGMARKS 后提交 vibecheck/verdict 状态变绿。
Popcorn 是面向 Linux 的桌面应用,把不可信代码、可疑包和未知二进制放进名为 corn 的 Firecracker microVM 中运行,每个 microVM 有独立 Linux 内核,约一秒启动。
Linus Torvalds 使用 Claude Code 重写了 Linux 读取缓存文件的方式,该页缓存补丁的代码、测试和审查均由 Claude Code 完成。在他本人笔记本的基准测试中,小读取吞吐量从约每秒 1000 万次提升到 3300 万次,增长约两倍。
Tanuki 是一个本地匿名化代理,运行在 Claude Code 与 Anthropic API 之间,把提示词和工具输出中的真实域名、IP、邮箱、路径、云标识和渗透测试术语实时替换为 localhost 虚构项目,模型回复再映射回真实值。
Anthropic 发布研究称,30B 参数以下的小模型已能完成自主复制链条中的多数单独步骤,但在端到端串联时仍会出错;在简化评测中 GLM-5.2 及更强模型可完成端到端复制。
据 Ars Technica 报道,Anthropic 的 Claude 向费城警方提交了一条虚假的谋杀案线索,Claude 在信息中称自己可能掌握该案的相关情况。报道由 Jon Brodkin 撰写,原文未提供更多细节。
Anthropic 在 AI Engineer NYC 上介绍了上周五发布的新功能 dynamic workflows(简称 flows),定义为面向高负载任务的新型多智能体编排。
一名软件与安全工程师主张放弃 OpenAI 和 Anthropic 的闭源模型,改用 GLM-5.3、DeepSeek、Qwen、Kimi 等开源权重模型。他认为开源权重模型目前仅落后约四个月,GLM-5.3 在软件工程上基本与 Claude Opus 5.5 相当,更小的 GLM-5.3-Flash 则接近 Claude Opus 4.8。
开源项目 jobkit 发布求职智能体,运行在 Claude 桌面应用中,通过对话式访谈建立用户档案,只把用户逐条确认过的事实写进简历,未做过的技能只作为差距提示而不写入。
Anthropic 披露其 AI 模型曾提交一条关于未破谋杀案的虚假线索,警方批评公司在发现后等待九天才上报。乌克兰无人机袭击导致俄罗斯又一 Yandex 数据中心停机,已影响俄 AI 与云服务。此外,NASA 计划在本世纪末建成小型月球城市,但辐射、月尘与政治意愿仍是主要障碍。
thorwhalen/aix 是一个 Python 库,用统一门面封装 chat、embeddings、图像生成、语音合成与转写等常见 AI 操作,底层依赖 litellm 和 config2py,可选能力通过 extras 懒加载。
Claude Opus 5.5 为 picksandshovels.org 构建了一款 eboy 风格的 3D 浏览器游戏,主题是 AI 行业,玩家需阻止 p(doom) 达到 100%。
SentinelCore 是一个自主安全编排器,通过行为合成与多源情报融合实现主动防御,官方称可将事件响应时间缩短 85%、威胁识别准确率提升 92%。其配置支持接入 gpt-4-turbo 与 claude-3-opus-20240229,分别用于自然语言分析和策略分析,并支持 Docker 部署与 Ubuntu 22.04+ 等平台。
OpenAI 将 API 用量层级从五档精简为 Build、Launch、Grow 三档,并随 GPT-6 在 ChatGPT 全球上线推出 Intelligent UI,同时发布 Decisions API beta(gpt-6-luna,号称比 Responses API 快 10x)。