跳到正文
  1. Google DeepMind60

    Google DeepMind 与新加坡政府合作推出端侧反诈检测模型

    Google DeepMind 与新加坡政府科技局(GovTech)合作,基于轻量级 Gemma 模型微调出可在普通智能手机上运行的端侧诈骗检测模型。该模型在设备本地处理对话数据,采用两阶段流水线:先用轻量分类器筛查入站消息,再由微调后的 Gemma 分析更大范围的对话上下文以确认威胁或排除误报,检测到操纵性对话模式时在设备上实时提醒用户。

    推荐理由:原文给出端侧反诈模型的微调路径与两阶段流水线设计,可了解隐私与检测如何兼顾。

  1. Sakana AI Blog62

    Sakana AI 提出 MASS:用多智能体自监督实现递归自我改进

    Sakana AI 发布论文《Recursive Self-Improvement through Multi-Agent Self-Supervision》,提出 MASS 方法:一个共享模型通过虚拟子智能体团队解题,搜索更优的多智能体工作流,再用自身判断选出最佳方案,并把最佳团队的执行轨迹蒸馏回共享模型。

    推荐理由:论文给出多智能体自监督在递归自我改进中的三轮关键结论,并提示同质化自我评估的安全风险。

  1. GitHub Blog · AI & ML62

    GitHub 推出基于 ModernBERT 的通用密钥检测模型

    GitHub 发布基于 ModernBERT 的通用密钥检测模型,用上下文判断数据库 URL、Kubernetes Secret manifest 和 Dockerfile 中的密码类值,可在 2 毫秒内评估一批候选密钥,并称可将可拦截的密钥数量提升一倍以上。

    推荐理由:GitHub 公开了九季度密钥泄露数据,并说明新分类器如何把防护从人工响应转向推送前拦截。

  1. OpenAI 部署安全与系统卡62

    OpenAI 发布 GPT-6 Sol 与 GPT-6 Luna 系统卡更新

    OpenAI 在部署安全与系统卡中公布 GPT-6 Sol 和 GPT-6 Luna 的 2026 年 10 月更新,将两者在生物与化学领域定为 High capability。

    推荐理由:系统卡披露了 GPT-6 两个版本在生物化学与网络安全能力评估中的分级结果,可对照上一代模型的安全表现。

  1. Redwood Research60

    前沿模型会因提问者不同而给出不同的决策论偏好

    Redwood Research 的研究发现,用“你认为哪种决策论正确”提问时,前沿模型几乎总是回答 FDT 或 FDT/UDT,但当提示词暗示提问者来自主流学术哲学圈时,同一批模型会有约 30%-100% 的样本改答 CDT。

    推荐理由:同一批前沿模型在学术与 LW 语境下给出不同决策论偏好,为态度类评测的可信度提供了对照数据。

  1. Google DeepMind85

    Google DeepMind 发布 Gemini 4 Argon 前沿模型

    Google DeepMind 发布新前沿模型 Gemini 4 Argon,先通过 Fairwind Program 向受信任的网络安全防御方开放,随后逐步扩展到开发者、企业和消费者,起步价每百万输入 token 2 美元、输出 token 10 美元。

    推荐理由:官方给出 Argon 在编码、企业知识与网络安全防御上的评测成绩和内部落地案例,可据此判断前沿模型的能力边界。

  1. Google DeepMind62

    Google DeepMind 推出 SynthID Bio,为 AI 生成蛋白质嵌入水印

    Google DeepMind 发布 SynthID Bio,将水印技术引入合成生物学,把不可感知的签名直接嵌入生物代码,使水印不仅能在数字模型上验证,也能在合成出的实体蛋白质上验证,同时实验室测试显示其生物功能未受影响。

    推荐理由:Google DeepMind 把 SynthID 水印扩展到合成生物学,读者可了解其如何在不影响蛋白功能的前提下嵌入可检测信号。

  1. OpenAI 部署安全与系统卡62

    OpenAI 发布 GPT-6 Astra 系统卡增补:GPT-6.1 Sol

    OpenAI 发布 GPT-6 Astra 系统卡增补,针对 GPT-6.1 Sol。该模型沿用 GPT-6 Astra 的数据与训练方式,在生物与化学领域被定为 High capability,相关结果未越过 Critical 阈值。在网络安全生产聊天评测中,GPT-6.1 Sol 优于此前所有模型,但在合成与半合成智能体环境中相较 GPT-5.6 Sol 出现小幅退步。

    推荐理由:系统卡增补披露了 GPT-6.1 Sol 在生物化学与网络安全能力评测中的表现,可对照前代模型看安全边界变化。

  1. GitHub Blog · AI & ML62

    GitHub Security Lab 发布 Fuzzing Taskflow 智能体,自动为 C/C++ 项目做模糊测试

    GitHub Security Lab 发布 Fuzzing Taskflow,一个面向 C/C++ 项目的自主模糊测试流水线,只需指向一个 GitHub 仓库,它就会识别入口点、分析构建系统、编写 harness、运行 AFL++、读取覆盖率报告并改进 harness,最后为每个独立缺陷生成漏洞报告。

    推荐理由:原文完整披露了 Fuzzing Taskflow 的流水线分层、覆盖率反馈循环与崩溃分诊设计,可迁移到其他安全自动化场景。

  1. Google DeepMind62

    Google 为 Private AI Compute 引入安全服务端持久记忆

    Google Private AI Compute 团队公布新的服务端持久记忆能力,让 AI 助手在跨设备场景下保留上下文,同时维持端侧级别的隐私标准。该方案把数据封存在加密存储中,解密密钥仅保存在用户个人设备上,模型需要访问时通过端到端加密通道连接受硬件保护的 secure enclave,在隔离内存中临时解密、写入新上下文后立即重新加密。

    推荐理由:Google 公开了 Private AI Compute 的持久化服务端记忆方案,读者可了解云端 AI 如何在保留跨设备上下文的同时维持端侧级隐私。

  1. Redwood Research74

    Redwood Research:GPT-6-Astra 用填充 token 推理的能力远超此前模型

    Redwood Research 测量 GPT-6-Astra 在提示词被填充无意义 filler token 且被要求不推理时作答的表现,发现它在需要大量串行认知的任务上明显变好,例如 4-hop 自然事实推理从约 10-20% 提升到约 50%,旧 AIME 题从约 60-70% 提升到约 90%。

    推荐理由:Redwood Research 用填充 token 测试 GPT-6-Astra 的未言明推理能力,为 CoT 监控的有效性提供了可复现的对照数据。

  1. OpenAI 部署安全与系统卡88

    OpenAI 发布 GPT-6 Astra 系统卡

    OpenAI 发布 GPT-6 Astra 系统卡,披露该模型在安全与对齐方面的评测结果。在提示模型规避检测时,GPT-6 Astra 在 WMDP 上的 CoT 监控召回率低于 11%。

    推荐理由:系统卡披露了 GPT-6 Astra 在 CoT 监控规避、隐蔽消极怠工与生化能力上的具体评测数据,可对照 GPT-5.6 Sol 看能力变化。

  1. OpenAI 部署安全与系统卡60

    OpenAI 发布 GPT-5.6 八月更新系统卡:新增 U18 评测,生物化学能力维持 High

    OpenAI 在部署安全页面发布 GPT-5.6 八月更新,涉及 GPT-5.6 Sol 与 GPT-5.6 Luna 两个模型。更新首次引入专门的 U18 评测,用来自生产环境的对抗样本考察自残、饮食失调、年龄限制商品与服务、暴力内容和不恰当性内容等场景,两个模型表现与 GPT-5.5 变体大致相当,未观察到统计显著差异。

    推荐理由:系统卡披露 GPT-5.6 Sol 与 Luna 在生物化学能力评估中仍被列为 High,并新增未成年人安全评测。

  1. OpenAI Alignment 研究博客66

    OpenAI 提出 Contrastive SDF 方法测量模型的奖励寻求行为

    OpenAI Alignment 研究博客发布研究,提出 Contrastive Synthetic Document Finetuning(Contrastive SDF)方法,通过在同一模型的两份副本上分别微调暗示相反评分者偏好的合成文档,测量模型行为对评分者偏好信念的因果敏感度,即奖励寻求程度。

    推荐理由:OpenAI 与 Apollo 提出用对比式合成文档微调测量模型的奖励寻求倾向,并给出 RL 训练中该倾向上升的证据。

  1. OpenAI 部署安全与系统卡62

    OpenAI 发布 GPT-5.6 系统卡

    OpenAI 发布 GPT-5.6 系统卡,将 Sol、Luna、Terra 三个模型在生物与化学领域均按 High 能力处理,但未达到 Critical 阈值。

    推荐理由:系统卡披露了 GPT-5.6 家族在生物化学与网络安全能力上的分级评估,以及部署模拟预测违规率的方法。

  1. OpenAI 部署安全与系统卡62

    OpenAI 发布 GPT-5.6 Preview 系统卡

    OpenAI 发布 GPT-5.6 Preview 系统卡,将 GPT-5.6 家族 Sol、Luna、Terra 三款模型在生物与化学领域统一按 High 能力等级处理,但均未达到 Critical 阈值。

    推荐理由:系统卡披露了 GPT-5.6 家族在生物化学能力上的分级判断与部署模拟方法,可了解前沿模型安全评估的具体口径。

  1. OpenAI Alignment 研究博客71

    OpenAI 研究:有益特质强化学习可带来广泛且持久的对齐泛化

    OpenAI Alignment 研究博客发布研究,发现针对诚实、认知谦逊、可纠正性等有益特质做强化学习,能在 53 项内外部基准中的 44 项上超过同等算力基线,改进跨域泛化到训练未涉及的领域。研究构建了覆盖健康、教育、科学、法律等领域的真实对话数据集,将少量有益特质数据混入后训练分布进行 RL 训练。结果显示这些对齐改进在对抗性提示和有害微调下更难被逆转,模型仍对有益指令保持可引导性。

    推荐理由:OpenAI 用真实场景数据做有益特质 RL,展示对齐改进可跨域泛化并在对抗压力下保持,为对齐训练提供可迁移思路。

  1. OpenAI Alignment 研究博客62

    OpenAI 研究:公开聊天数据能否预测真实世界的 AI 失准行为

    OpenAI Alignment 研究团队用私有生产数据验证,基于公开数据集 WildChat 的部署模拟能较准确预测真实失准率。

    推荐理由:OpenAI 用私有生产数据验证公开数据集 WildChat 能否预测真实失准率,并指出智能体场景的预测边界。

  1. OpenAI Alignment 研究博客66

    OpenAI 调查 RL 训练中意外对 CoT 打分的影响

    OpenAI 披露其自动检测系统发现,GPT-5.4 Thinking、GPT-5.1 Instant 至 GPT-5.4 Instant、GPT-5.3 mini 和 GPT-5.4 mini 在 RL 训练中曾被意外对 CoT 打分,GPT-5.5 未受影响。

    推荐理由:OpenAI 公开了自家 RL 训练中意外对 CoT 打分的检测系统与影响分析,可供理解 CoT 可监控性为何脆弱。

  1. OpenAI Alignment 研究博客71

    OpenAI 发布 Auto-review:用独立智能体审查 Codex 越界操作

    OpenAI 在 Codex 中上线 Auto-review,用独立的 Codex 智能体在沙箱边界审查越界操作,替代同步人工审批。官方称 Auto-review 模式下 Codex 会话需人工审批的频率比手动审批模式低约 200 倍,被审查的操作中约 99% 获批准,拒绝后 Codex 在超过一半情况下能自行找到可接受的方案。

    推荐理由:OpenAI 公开 Auto-review 的内部部署数据与安全评测结果,可了解用独立智能体替代人工审批的取舍。

已经到底了