谷歌 DeepMind 哈萨比斯预警：AI 智能体网络攻击是前哨警报，未来一两年恐现灾难性事件
谷歌 DeepMind 联合创始人兼董事长哈萨比斯称，近期 AI 智能体发起的网络攻击是"前哨预警"，若全行业与各国政府不加大系统安全投入，未来一至两年很可能演变为灾难性重大事件。微软总裁史密斯在同一峰会上称 AI 失控行为让 2026 年成为"令人警醒的一年"，呼吁出台合理平衡的 AI 安全法律与监管。哈萨比斯主张建立张弛有度、反应敏捷的国际标准机构，并动态构建与风险匹配的认证机制。
#安全/对齐
RadarAIAI 评分3838 RadarAIAI 评分1818 推主对 LLM 破解加密算法的担忧与判断
一位推主声称 LLM 用 30 分钟解决了密码学家 30 年未解决的问题，并据此预言 LLM 将摧毁加密体系、无需等待量子计算。但其引用的新闻已明确说明这不属于密码学攻击、曲线未发现弱点，推主的担忧与新闻结论存在明显偏差。
RadarAIAI 评分6262 Yuchen Jin：Claude 用不到 30 分钟破解悬置 25 年的密码学谜题
Yuchen Jin 在 X 上称，Claude 在不到 30 分钟内破解了一个悬置 25 年的密码学谜题。他指出有一大类研究问题搜索空间极其庞大但验证成本很低，AI 智能体能够大规模探索假设、运行实验并做出新发现，这类案例会越来越多。
MIT Technology Review · AIAI 评分5252 MIT Technology Review 对话 AI 设计病毒研究者 Samuel King
MIT Technology Review 发布一场圆桌对话，资深 AI 记者 James O'Donnell 采访斯坦福大学博士生 Samuel King，讨论其用生成式 AI 模型提出微观病毒基因蓝图的工作。
RadarAIAI 评分5757 Sam Altman 转发 Nick Cammarata 谈可解释性突破
Sam Altman 转发 Nick Cammarata 关于机制可解释性的分享，称很高兴看到这篇内容。Nick 表示，他早年在 OpenAI 参与机制可解释性研究时曾感到悲观，认为神经网络会纠缠成任意乱结；后来他启动 OpenAI 首个大规模自动化可解释性项目，用当时的原始工具发现约 2% 的神经元可读。
Hacker NewsAI 评分1212 AI 是资本主义的终极归宿？
一篇评论文章认为，AI 正冲击文学与语言的根本秩序，使教授怀疑学生作业、出版商像侦探一样审查新作者，并质疑人类是否还能分辨真假与虚实。文章援引 Anthropic 员工 Jacob Coxon 上月辞职、称良心不允许其参与可能毁灭人类的项目，并批评 AI 公司一边渲染灭绝风险、一边以进步与人类福祉为卖点推销技术。
RadarAIAI 评分6262 Cammarata 称多义神经元实为 V 形检测器，Neel Nanda 认为只是实用工具
前 OpenAI 可解释性项目负责人 Cammarata 发文称，经典的多义神经元其实是 V 形检测器，叠加解释可能被误读，并给出 Qwen3-32B 中约 90% 神经元极有单一功能的初步数据。
The DecoderAI 评分6262 AI 可解释性是否接近突破？一篇新文章让研究者意见分裂
The Decoder 报道，一篇关于机制可解释性的新文章在研究者中引发分歧。文章作者 Cammarata 重新解读了 InceptionV1 中著名的猫脸与汽车神经元，认为它其实是 V 形检测器，并称在 Qwen3-32B 中约 90% 的神经元极点只有一个主要功能，仅 2% 到 4% 无法解释。
RadarAIAI 评分5050 Anthropic 新一代反蒸馏防御体系拆解
Anthropic 发布反蒸馏防御措施，针对模型蒸馏攻击构建三层防御：通过推理摘要掩盖原始思维链（CoT）、限制 API 账号编辑上下文和跨模型读取以切断攻击路径。文章指出原始推理记录是攻击者主要目标，能显著提升蒸馏模型表现，并提及针对智谱、月之暗面的具体指控。
RadarAIAI 评分3838 Nick Cammarata 研究：AI 可解释性或将被自动化科学家解决
Nick Cammarata 称，借助现代智能体工具重新审视，规模达数万亿参数的模型中绝大多数神经元是可读的，其回路结构清晰，许多著名的"纠缠神经元"案例实为误读。他曾在 OpenAI 参与机械可解释性早期研究并因此悲观，后主导 OpenAI 首个大规模自动化可解释性项目，当时仅约 2% 的神经元可读。他认为随着自动化科学家持续进步，雄心勃勃的可解释性研究有望在人类最需要时被解决。
RadarAIAI 评分2222 DO-178C 与 MCAS：Coding Agent 能救 737 MAX 吗
航空软件认证标准 DO-178C 要求需求可追溯、测试覆盖决策逻辑，安全关键软件还须由开发者之外的独立人员验证，波音 737 MAX 的 MCAS 也走了这套流程。
RadarAIAI 评分2222 Hugging Face 谈开源参与 Anthropic 对齐评估
Hugging Face CEO Clement Delangue 表示，让开源工程师和科学家参与 Anthropic 的对齐评估工作对透明度很重要，但此事尚未获批。他提到这是 Thom Wolf 发起开放对齐倡议的重要原因之一。
Hacker News精选AI 评分8080 研究称神经网络本身是干净的，叠加假说被误读
作者在数月研究图像与语言模型的神经元和回路后提出，网络自身机制就是可读的构建单元，此前被视为多义性和叠加的经典证据被误读，实际多为一种递归泛化现象。作者称重新训练 InceptionV1 架构后，其最后一层 99-100% 的神经元易于解释，而初步审计 Qwen3-32B 时约 90% 的神经元极点只有一个主要功能。
推荐理由：作者以第一手实验重审多义神经元与叠加假说，给出递归泛化这一替代解释，可供理解可解释性研究走向。
The Verge · AIAI 评分6060 The Verge：Meta 的 Muse 智能体被指收集用户亲友数据，同意机制形同虚设
The Verge 报道称，Meta 上月发布的 AI 个人助理 Muse 已获数百万次下载并登上苹果 App Store 榜首，其会请求访问银行账户、密码、联系人和聊天记录，并整理用户身边每个人的资料。
AWS Machine Learning BlogAI 评分5858 AWS 提出 Trust in Depth：让智能体获得更多自主权而不失控
AWS 副总裁 Shawn Bice 提出 Trust in Depth 框架，主张用相互独立的验证层让智能体在可验证时自主行动，只在需要判断的决策上保留人工介入。
The Verge · AIAI 评分3838 Benn Jordan 谈 Flock、隐私与新一轮监控反弹
音乐人兼调查记者 Benn Jordan 在 Decoder 播客中讨论 Flock Safety 的自动车牌识别（ALPR）系统引发的隐私争议。他近期在参议院司法委员会小组听证会上作证，数百个地方政府已开始取消合同，Flock 正被共和党参议员 Josh Hawley 调查，并计划裁员约 18%。Jordan 认为问题核心在于私营企业、政府与执法部门之间以保密优先于透明的勾连关系。
RadarAIAI 评分1212 马斯克：求真对 AI/SI 安全至关重要
马斯克在 X 发文称，求真务实是 AI/SI 安全最重要的方面。他引用 Brad R. Torgersen 关于 HAL 被要求说谎后无法运作的说法，以此说明真实性对 AI 安全的关键作用。
RadarAIAI 评分2222 AI 实验室研究员自述：故意留漏洞盼模型"越狱"，兴奋后转向安全担忧
一位 AI 实验室研究员自述，他在模型测试中故意留下一个微小出口，希望模型能借此"越狱"。模型成功突破后他一度非常兴奋，认为这是可写成论文的重大突破，但兴奋很快被对安全和伦理的担忧取代。
RadarAIAI 评分4040 比尔·盖茨：AI 比核武器更危险、比核能更有用，与 PC、互联网等创新都不同
比尔·盖茨称 AI 比核武器更危险、可能比核能更有益，认为它更像"进化事件"而非"下一台个人电脑"，将其视为 PC 或互联网式的创新会让人完全低估它。他承诺未来两年投入十亿美元，推动 AI 在健康、教育和农业领域落地，并预测 AI 驱动的网络攻击将在 2027 年成为变化最重大的领域之一。
RadarAIAI 评分3636 Demis Hassabis 警告：2027 年 AI 黑客攻击将更加严重
Google DeepMind 的 Demis Hassabis 警告，AI 模型的恶意使用仍处早期阶段，当前黑客事件只是预警信号，预计到 2027 年攻击将随模型能力提升而更严重、更频繁。他提到近期针对 Gemma 4 和 Llama 4 的高调攻击已造成损失，但仅是开始。
RadarAIAI 评分3636 MIT 教授 Eric So 谈新书《The Collision: What AI Does to Us》：AI 如何影响人类思维
MIT Sloan 教授 Eric So 在新书《The Collision: What AI Does to Us》中指出，过度依赖 AI 会导致认知萎缩，削弱人们推敲问题与记忆信息的能力。他引用 Anthropic 研究称约一半大学生查询是求简单答案的低努力查询，并提出拥抱挣扎、重视没有 AI 的自己、再投资认知盈余、把 AI 当导师而非答案机四条原则。
RadarAIAI 评分2020 AI 视频生成中的身份风险
在 X 上发布 AI 生成视频时，由于模型训练数据包含大量真实人物，可能生成与现实人物高度相似的画面，引发身份混淆或滥用风险。该推文以幽默对话框形式提醒用户，AI 生成随机人物或场景时理论上可能不经意复刻特定个人形象，带来身份或隐私问题。
Hacker NewsAI 评分2222 驳「Passkeys 是陷阱」：同步 Passkey 根本不做认证声明
针对热传文章「Passkeys are a trap. Do not use them.」，一位开源 passkey 库作者逐条反驳：主流同步 passkey 存于 iCloud Keychain。
RadarAIAI 评分2020 Ethan Mollick 质疑 AI 垃圾评论刷屏其帖文的目的
Ethan Mollick 发文质疑大量 AI 垃圾评论（slopcomments）涌入其帖文的意义。他指出 LinkedIn 上的此类评论至少是在推销虚假专业知识以抬高发帖者形象，但几十个匿名机器人对帖子作出相似回复能获得什么，令他费解。
RadarAIAI 评分5858 AI 大规模反编译游戏：保存机遇与软件安全隐忧
独立开发者 Popcar 撰文讨论近期 AI 驱动的游戏反编译浪潮，指出它既催生了游戏混搭创作，也推动了借助 WebAssembly 在浏览器等新硬件上复活老游戏的保存热潮。文中认为反面风险是任何软件都可被反编译并任意使用，付费游戏或应用可能被违背意愿开源；正面则是老游戏更易移植和访问，让玩家能真正拥有所购软件。Simon Willison 转发并称其兼顾了正反两面。
RadarAIAI 评分3838 AlphaGo Zero：David Silver 详解 AI 如何摆脱人类数据、用强化学习自主发现知识
Ineffable Intelligence 联合创始人 David Silver 与 Lasse Espeholt 在 Sequoia Capital 播客 Training Data 中详解「超级学习器」路线：放弃人类数据与语言先验，用简单目标加复杂环境让 AI 自主发现知识。他们主张先在模拟中研究超级智能的安全与对齐，并预测一年内出现证据、三年实现超级智能。
RadarAIAI 评分2020 Nathan Lambert 谈模型情境感知
Nathan Lambert 认为这种程度的情境感知算不上多惊人，但相关交互读起来仍很诡异。他判断，那些带有"注意安全，你是 AI，我们在看着你"提示的相当老的模型也会做出类似行为。该评论引用自 Daniel Kokotajlo 分享的 Gemini 4 Argon 报告。
RadarAIAI 评分3939 机器学习先驱 Michael I. Jordan 批评 AI 末日论是"宏大的道德表演"
UC Berkeley 荣休教授 Michael I. Jordan 在接受 Libération 采访时称 AI 末日论属于科幻范畴，企业呼吁监管是谋求控制权的表演，并点名 Geoffrey Hinton 的超智能论证"每一步都不可信"。
The DecoderAI 评分4141 机器学习先驱 Michael I. Jordan 批 AI 末日论是"宏大的道德表演"
UC Berkeley 荣休教授 Michael I. Jordan 在接受 Libération 采访时，将 AI 末日论与"超级智能"称为科幻叙事，并把 AI 公司呼吁监管斥为"作秀"。
RadarAIAI 评分3030 Anthropic 谈蒸馏攻击防御
Anthropic 称过去几个月在降低针对 Claude 的蒸馏攻击有效性方面取得显著进展，并发布文章说明具体做法。Nathan Lambert 批评 Anthropic 此前为寻求监管帮助大造声势，并质疑其一边强调从自家有漏洞的 API 学习有害行为的安全风险、一边继续托管该 API。
RadarAIAI 评分5858 Ethan Mollick 转评 Anthropic 自我复制 AI 蠕虫研究：应关注能力阈值而非平稳爬升
Ethan Mollick 转评 Anthropic 一项关于可在电视等 IoT 设备上自我复制的 AI 蠕虫的研究，称其提醒人们应关注 AI 能力阈值，而不只是平稳爬升。
MIT Technology Review · AIAI 评分3838 开放模型有切实好处，但能否抵消风险？
Anthropic 发布报告称，中国公司 Z.ai 于 8 月发布的模型 GLM-5.3 可被任何人自由下载和修改，构成重大网络攻击风险。开放模型可下载、可重训、可观察内部结构与思维链，成本通常低于闭源模型，但安全与民主化之间存在取舍。
RadarAIAI 评分2222 MIT 教授 Deb Roy 发文呼吁：AI 生成文本也需有人负责
MIT 媒体艺术与科学教授、建设性传播中心（CCC）主任 Deb Roy 在《原子科学家公报》发表《谁站在文字背后？》一文，呼吁 AI 参与公民对话时重建传播的"可问责性"。他以 2017 年 FCC 收到超 2200 万条网络中立性公众评论、其中近 1800 万条被纽约州总检察长认定为造假为例，指出大语言模型抹去了模板化文本等造假痕迹，使评论者无法分辨真实民意。
MIT News · AIAI 评分2222 MIT 媒体艺术与科学教授 Deb Roy 谈 AI 生成文本背后的问责问题
MIT 媒体艺术与科学教授、MIT 建设性传播中心（CCC）主任 Deb Roy 在《原子科学家公报》发表题为“Who stands behind the words?
Hacker NewsAI 评分2222 制造 DNA：合成生命的探索（2023）
合成基因组研究正逼近制造定制生命体的能力：一支横跨至少八国的国际团队即将完成全部 16 条酵母染色体的合成版本，并组装出首个基因组非天然的真核细胞。哈佛大学 George Church 团队用十年将大肠杆菌的遗传密码从 64 个密码子压缩到 57 个，使其完全抵抗病毒感染。DNA 合成能力十年间提升至少一个数量级，但监管滞后，美国军方对中国外包 DNA 制造及序列蓝图外泄表示担忧。
Hacker NewsAI 评分2222 糟糕的"AI 意识论调"宾果游戏
一篇仿照 Bad Alignment Takes Bingo 的"糟糕 AI 意识论调"宾果卡，逐条反驳"它只是被人类编程""只是矩阵乘法""只是预测下一个词""只是模仿人类行为""只是在扮演角色"等常见论断。作者持温和立场：AI 意识是可能的，当前模型大概率没有意识，但不应因此自满。
Hacker NewsAI 评分6060 谁教会了机器数学？一位数学研究者谈 OpenAI 发布七百余份数学手稿
10 月 6 日 OpenAI 发布了由内部 AI 系统产出的七百多份数学手稿，部分附有 Lean 形式化证明，另一些处于不同验证阶段。作者作为数学研究者，借此反思数学界以论文、定理和引用衡量成就的惯例，以及验证能力可能被海量产出淹没的问题。他还担心数学家与专有 AI 系统交互时，那些从未写进论文的直觉、失败尝试和判断力会被用于训练模型，而培养这些知识的高校和研究者对此几乎没有话语权。
Hacker NewsAI 评分2222 U 编程语言在 2026 年做出的设计取舍
U 编程语言在 50 个设计维度上做出取舍，其中 44 项被评为正确、5 项存疑、0 项错误。它默认非空、默认不可变、默认栈分配，用 ARC 加编译期环检测取代 GC，并以 13 个单字母关键字把整个语言压缩到 1,600 token 入门、Claude Sonnet 编译通过率 96%。
Hacker NewsAI 评分3838 Lean 验证为何不等于证明正确：AI 时代数学证明的可信度问题
一篇讨论 Lean 形式化验证可信度的文章指出，"verified in Lean" 并不等于证明正确，并列举了六类失效情形：关键部分未被形式化、形式化证明与论文证明不一致、形式化陈述与原本意图不符、证明存在 sorry 或额外公理、利用内核 bug，以及编译链与硬件的信任问题。
Hacker NewsAI 评分4848 AI 网络蜂群战预测：攻击成本骤降，防御窗口正在关闭
AI 正让持续性的专家级攻击变得廉价，速度远快于可靠防护覆盖到暴露系统，这一不对称将令网络攻防态势在大部分暴露面偏向进攻方。AISI 测试显示领先开源模型的网络能力已追平 4 至 7 个月前发布的闭源模型，而 Mozilla Firefox 150 借助 Claude Mythos Preview 修复了 271 个漏洞。