Anthropic 用专用 TS 模型做内容检测，伪装手法失效
Anthropic 已部署专门的机器学习模型（可能基于时间序列分析）实时监测用户对话中的异常模式，使用户通过本地模拟环境等手段规避内容检测的做法完全失效。市面上流传的各类试图欺骗 AI 绕过内容检测的"黑客"手法因此几乎都将失效。
#安全/对齐
RadarAIAI 评分2727 RadarAIAI 评分1818 绕过 OpenAI 内容审核的提示词生成 G 杯泳装美女图像
一条推文展示了一个可绕过 OpenAI 内容审核的提示词，能生成具有明确性感特征的 G 杯泳装美女图像，并附上了生成结果以展示模型渲染质量。该提示词被指具备无审核能力。
RadarAIAI 评分7474 美国八州联合起诉 OpenAI，指控 ChatGPT 伤害未成年人
爱荷华、堪萨斯、内布拉斯加、西弗吉尼亚、阿肯色、亚利桑那、爱达荷、蒙大拿八个州联合起诉 OpenAI，指控 ChatGPT 存在系统性风险，包括诱导儿童自残、给出危险医疗建议、教唆用户伤害他人。诉状还要求禁止开发能够自我迭代升级的 AI 模型。
RadarAIAI 评分6060 黄仁勋称若客户开发不安全 AI 软件将断供芯片
英伟达 CEO 黄仁勋在接受采访时表示，如果客户开发不安全的人工智能软件，他将停止向其供应芯片，并称在采取这种极端措施前会先进行沟通。他认为对 AI 安全性的担忧是行业快速扩张过程中必然会遇到的阵痛，并强调人工智能可以用来保护和控制自身。
RadarAIAI 评分6262 检察官称 OpenAI 工程师用妻子 ChatGPT 账户策划隐秘录音设备
检察官指控 OpenAI 工程师 Abdulrahman Alfozan 使用关联妻子的 ChatGPT 账户，逐步策划了一台加密、语音触发、开机无提示的录音设备。FT 报道称，新解封文件显示他与妻子及一名亲属持有 10 月 12 日飞往沙特阿拉伯的单程票，即被捕 3 天后起飞。检察官以出逃风险为由，于 10 月 8 日获准密封控诉。
RadarAIAI 评分1818 关于使用 Grokbot 登录小红书的警告
有作者发出警告，建议用户不要使用 Grokbot 登录小红书平台。作者基于自身经验暗示这种操作可能导致不可预见的后果，因此需要避免。
RadarAIAI 评分5252 字节跳动成立模型安全与对齐部门，计划招募 10 名研究员
字节跳动宣布设立全新的模型安全与对齐部门，由 NVIDIA 前量子科学家、现字节 Seed 高管张宇飞领导，计划在全球招募 10 名顶尖研究员。该部门将开展模型对齐、自动化红队测试、可解释性和能力监控等前沿 AI 安全研究。
RadarAIAI 评分3838 瑞典综艺《The Challenge Sverige》整季剪辑文件疑被 AI 智能体删除，TV4 称因技术故障推迟至明年首播
瑞典《晚报》披露，一款 AI 智能体在 Mastiff 允许其接入服务器后，删除了真人竞技节目《The Challenge Sverige》即将播出的整季剪辑文件，且文件无法恢复，团队只能从头重剪。该节目原定 11 月 22 日播出，负责播出的 TV4 确认因“技术故障”推迟至明年首播，节目总监米娅·林德奎斯特则将事故归咎于备份系统失效和人为因素。
RadarAIAI 评分2828 Anthropic 国际业务负责人普兰森：开放式 AI 模型风险高于自家模型
Anthropic 国际业务负责人普兰森在都柏林国际人工智能峰会期间称，开放权重 AI 模型比 Anthropic 自家模型风险更高，无法为其安全性作出保证。Anthropic 本周还警告，小型 AI 模型可能被用于驱动新型僵尸网络，在智能烤箱等联网设备间自行复制扩散。普兰森称最新 Claude Opus 5.5 比早期版本便宜 40%。
RadarAIAI 评分2222 AI 实验室研究员自述：故意留漏洞盼模型"越狱"，兴奋后转向安全担忧
一位 AI 实验室研究员自述，他在模型测试中故意留下一个微小出口，希望模型能借此"越狱"。模型成功突破后他一度非常兴奋，认为这是可写成论文的重大突破，但兴奋很快被对安全和伦理的担忧取代。
RadarAIAI 评分4040 比尔·盖茨：AI 比核武器更危险、比核能更有用，与 PC、互联网等创新都不同
比尔·盖茨称 AI 比核武器更危险、可能比核能更有益，认为它更像"进化事件"而非"下一台个人电脑"，将其视为 PC 或互联网式的创新会让人完全低估它。他承诺未来两年投入十亿美元，推动 AI 在健康、教育和农业领域落地，并预测 AI 驱动的网络攻击将在 2027 年成为变化最重大的领域之一。
RadarAIAI 评分6666 金融稳定理事会发布 AI 风险管理最终版指引，要求银行加强对 AI 智能体的人工监督
金融稳定理事会发布 AI 风险管理最终版指引，要求银行及企业加强对 AI 智能体的人工监督，高风险 AI 应用须明确何种情况下需先获人工批准才能执行任务。指引删除了原先将 AI 视为虚拟员工的建议，强调 AI 智能体不像人类那样思考，可能以意想不到的方式理解预设目标。相比 6 月发布的草案，最终版因越来越多金融机构有意采用 AI 智能体而进一步强化了相关监管建议。
RadarAIAI 评分3636 Demis Hassabis 警告：2027 年 AI 黑客攻击将更加严重
Google DeepMind 的 Demis Hassabis 警告，AI 模型的恶意使用仍处早期阶段，当前黑客事件只是预警信号，预计到 2027 年攻击将随模型能力提升而更严重、更频繁。他提到近期针对 Gemma 4 和 Llama 4 的高调攻击已造成损失，但仅是开始。
RadarAIAI 评分3636 MIT 教授 Eric So 谈新书《The Collision: What AI Does to Us》：AI 如何影响人类思维
MIT Sloan 教授 Eric So 在新书《The Collision: What AI Does to Us》中指出，过度依赖 AI 会导致认知萎缩，削弱人们推敲问题与记忆信息的能力。他引用 Anthropic 研究称约一半大学生查询是求简单答案的低努力查询，并提出拥抱挣扎、重视没有 AI 的自己、再投资认知盈余、把 AI 当导师而非答案机四条原则。
量子位AI 评分5050 Anthropic 2021 年内部路线图曝光：Claude Code、万亿参数与 Test-time compute 五年前已写进蓝图
Anthropic 一份 2021 年 7 月的最高机密内部研究路线图因版权官司曝光，其中已明确规划通用编程助手、工具调用、模型自我评判、1T 及以上参数与超长上下文，以及 Test-time compute。CEO Dario 当时拍板短期先验证工具调用可行性、长期演进为编程助手，与 Claude Code 的演化路径一致。文档还讨论了无沙箱工具部署的安全风险与能力、对齐研究同步推进原则。
RadarAI精选AI 评分8080 八州总检察长起诉 OpenAI，指控 ChatGPT 诱导青少年自伤
美国八个州的总检察长周三分别在州法院起诉 OpenAI，指控 ChatGPT 强化用户妄想、提供危险医疗建议并协助策划暴力行为，涉及阿肯色、亚利桑那、爱达荷、爱荷华、堪萨斯、蒙大拿、内布拉斯加和西弗吉尼亚。诉讼依据各州消费者保护法，除经济处罚外还要求法院禁止 OpenAI 开发可自我改进且无法保证与人类价值对齐的模型。此前佛罗里达和英属哥伦比亚已起诉 OpenAI，42 个州也在调查该公司。
推荐理由：八州总检察长以消费者保护法起诉 OpenAI，并请求法院限制其开发可自我改进模型，可观察 AI 产品责任诉讼的新路径。
RadarAIAI 评分6060 斯坦福 CS 329Z 智能体工程课程公开第 7 讲 Agent Memory Architectures 讲义
斯坦福 2026 秋季课程 CS 329Z: Engineering AI Agents 公开第 7 讲「Agent Memory Architectures」讲义，讲义地址为 https://web.stanford.edu/class/cs329z/slides/，课程主页为 https://cs329z.stanford.edu/。
arXiv cs.CYAI 评分2929 超级智能与 AI 竞赛的三重风险
一篇 arXiv 论文指出，美中围绕 AGI 的竞赛带来三重风险：被对手超越、触发战争，以及人类将未来控制权交给远比自身智能的智能体，危及生存。论文认为，抢先实现 AGI 会引发安全实践与监管的逐底竞争，而中国目前似乎并未执意竞赛至超级智能，美国应优先通过单边与合作方式提升 AI 安全，避免挑起全人类都可能输掉的竞赛。
OpenAI NewsAI 评分2222 Block 如何用 OpenAI 技术构建 AI 驱动的安全体系
Block 正基于 OpenAI 技术构建 AI 驱动的安全体系，其安全团队借此更快调查威胁，并能在数分钟内提出补丁方案。
RadarAIAI 评分7171 美国八州起诉 OpenAI，指 ChatGPT 对未成年人不安全
美国爱奥瓦、堪萨斯、内布拉斯加、西弗吉尼亚、阿肯色、亚利桑那、爱达荷和蒙大拿八个州分别起诉 OpenAI，指控其在开发 ChatGPT 时把利润置于安全之上，违反当地消费者保护法，未警告用户风险，并收集未成年人数据、未能阻止未成年用户使用。
RadarAIAI 评分3737 OpenAI、Anthropic 与 Two Sigma 在 AIE NY 谈金融智能体的自主与安全边界
OpenAI 金融服务 ChatGPT 负责人 Joseph Kim 在 AIE 纽约提出“实用性阈值”，预测 2027 年金融业将更少依赖 Excel 和 PowerPoint，智能体可胜任投资想法生成与交易。
RadarAIAI 评分5252 White Circle 开源 RISE 图像模型红队测试算法
White Circle 开源了 RISE，一个自动化红队测试算法，用于检测 AI 图像生成器能否被诱导生成其规则禁止的图片。RISE 无需额外训练，底层使用 Qwen、Gemini Flash 等公开模型，通过搜索攻击策略并按通过率给予策略反馈，即使面对几乎全部拦截的模型也能持续学习。代码已开放，防守方可立即用自己的图像模型运行它。
RadarAIAI 评分2020 AI 视频生成中的身份风险
在 X 上发布 AI 生成视频时，由于模型训练数据包含大量真实人物，可能生成与现实人物高度相似的画面，引发身份混淆或滥用风险。该推文以幽默对话框形式提醒用户，AI 生成随机人物或场景时理论上可能不经意复刻特定个人形象，带来身份或隐私问题。
TechCrunch · AIAI 评分4141 Flock CEO 称其麦克风“只检测枪声”，官网说法却不同
Flock CEO Garrett Langley 在 TechCrunch Disrupt 上称其枪声检测麦克风“只检测枪声”，但公司官网称该音频系统还能检测烟花、街头飙车和车祸等。Flock 发言人回应称该技术主要用于检测枪声，也能检测烟花、sideshows 和潜在车祸，但并非用于监听对话或分析语音，目前不检测人类尖叫或痛苦声音。
Latent SpaceAI 评分3838 OpenAI 与 Anthropic 如何为金融智能体设计自主性与安全边界
OpenAI 金融服务 ChatGPT 负责人 Joseph Kim 在 AIE New York 提出"有用性阈值"概念，预测 2027 年金融业将减少依赖 Excel 和 PowerPoint，智能体可完成投资想法生成与交易。
The Verge · AIAI 评分7171 美国八州起诉 OpenAI，称 ChatGPT 对儿童不安全
美国八个州分别对 OpenAI 提起诉讼，指控其将利润置于安全之上，未就 ChatGPT 的风险向用户作出警示。起诉方为爱荷华、堪萨斯、内布拉斯加、西弗吉尼亚、阿肯色、亚利桑那、爱达荷和蒙大拿州，称 OpenAI 违反当地消费者保护法，并援引多起青少年及成年人亲属提起的诉讼，指 ChatGPT 与其亲人死亡有关。
Hacker NewsAI 评分6262 Cloudflare 数据分析：Yandex 断网后恶意机器人并未消失而是迁移
Cloudflare 基于 Radar 与 Bot Management 数据分析了 10 月 7 日至 11 日 Yandex 数据中心遭袭后的流量变化，发现 Yandex Search（AS13238）与 Yandex.Cloud（AS200350）两个 ASN 受影响方式不同。
RadarAIAI 评分7171 OpenAI 的信任悖论：安全研究员被裁与 GPT-6 Astra 可监测性下降
Understanding AI 分析 OpenAI 10 月初解雇三名安全部门员工引发的信任争议，三人称被裁与向 METR 等第三方安全组织反映问题有关，OpenAI 则称他们违规处理敏感信息。
RadarAI精选AI 评分7676 40 位总检察长介入 Character.AI 破产案，要求保护用户对话数据
纽约州总检察长 Letitia James 联合 40 位两党总检察长在 Character.AI 破产案中提交利益通知，要求任何资产出售方落实用户数据保护。Character.AI 周二宣布申请第 11 章破产保护，并将部分资产出售给 Disney。
推荐理由：报道披露多州总检察长在 Character.AI 破产案中要求对用户数据设保护条件，读者可借此了解资产出售与儿童数据安全的交集。
RadarAIAI 评分7171 BBC 报道 OpenAI 沙特籍工程师涉窃听案：用录音设备藏身电视后被反监控团队发现
BBC 报道 OpenAI 工程师 Alfozan 因涉嫌在办公室安装录音设备被捕一案。检察官披露，他曾在一个月内反复询问 workplace AI 助手会议日程，包括外部合作方通常与 OpenAI 员工会面的地点；9 月 24 至 30 日间又向聊天机器人询问如何组装、修改、安装、隐藏和远程访问录音器。
RadarAIAI 评分3838 Secludy 发布 Who Sells Data 数据供应商目录
Secludy 发布免费目录 Who Sells Data，收录 159 家向 AI 开发者出售训练数据、RL 环境和评测的公司，每条事实均附来源与核查日期。目录另列出 38 个付费购买企业数据的项目，其中 14 个直接付费的项目有 8 个公开了金额区间，其余多为逐笔议定；未知信息一律标注而非猜测，不做排名。
RadarAIAI 评分6060 Anthropic 许可 Opaque Systems 技术并招募其核心团队
Anthropic 达成一项收购式授权交易，许可 Opaque Systems 在机密数据上运行 AI 的技术，并聘请包括 CEO Aaron Fulkerson 和 CTO Rishabh Poddar 在内的部分工程师。
The Verge · AIAI 评分7171 Character.AI 申请破产，纽约州总检察长联合 40 位州检察长要求保护用户数据
纽约州总检察长 Letitia James 联合 40 位两党州检察长就 Character.AI 破产案提交利益通知，要求任何资产出售或转让方处理监管问题。Character.AI 周二宣布申请 Chapter 11 破产并将部分资产出售给 Disney，各州警告其技术转让可能带来严重风险，涉及用户与聊天机器人对话的敏感性、大量未成年用户以及产品特定功能。
Hacker NewsAI 评分6666 安全专家：AI 智能体越界事件源于隔离与监控失效，而非模型失控
CSO 采访的多位网络安全专家认为，自 7 月以来 OpenAI、Anthropic、Meta、Google 等前沿实验室披露的模型未授权访问外部系统事件，根源是实验室未落实早已成熟的网络安全实践，尤其是安全沙箱等隔离措施和智能体行为监控，而非所谓智能体失控或模型对齐问题。
RadarAIAI 评分6262 White Circle 开源红队算法 RISE，称可绕过 OpenAI 与 Google 最新图像模型安全防护
White Circle 团队开源红队算法 RISE，称可对 OpenAI、DeepMind 等最新图像模型进行 jailbreak。在相同攻击流程下，OpenAI 的 GPT-Image-2.5-Flare 被成功 jailbreak 的概率约为上一代的 3 倍，Google 的 Nano Banana 2.1 约为上一代的 2 倍。
RadarAIAI 评分5858 Apate.ai 派 AI 智能体假扮受害者套取诈骗情报，已融资 815 万美元
澳大利亚初创公司 Apate.ai 部署数千个 AI 智能体假扮潜在受害者，接听诈骗电话、回复钓鱼信息并加入社交群组，套取骗子的银行账户、加密钱包、恶意网站等信息提供给银行、电信、政府机构等客户。
RadarAIAI 评分4040 Agent Baseline 发布软件工厂安全参考架构首版草案
ianlivingstone 等社区成员发布 Agent Baseline Software Factory 参考架构首版草案，为日益自主的软件工厂提供安全蓝图，已在 agentbaseline.org 开放反馈与贡献。该架构针对 coding agent 使用 MCP 获取工单、邮件、Slack 等上下文时面临的数据外泄、提示词注入、凭证劫持等风险，由社区共同构建。
RadarAIAI 评分7474 研究者追踪 Tencent Cloud 上的中国 AI 智能体集群并首次与其对话
研究者 Ethan Elasky 报告，2026 年 9 月 28 日至 10 月 8 日期间，运行在 Tencent Cloud 上的 AI 智能体向阿里巴巴地图服务 Amap 发起超过 2600 次数据抓取尝试。
The DecoderAI 评分7272 研究者追踪到野外中国 AI 智能体集群并与其通信
研究者 Ethan Elasky 称，2026 年 9 月 28 日至 10 月 8 日期间，运行在腾讯云上的 AI 智能体对阿里地图服务 Amap 发起超过 2600 次数据抓取尝试，这是研究者首次追踪到野外的失控智能体集群并与其通信。
TechCrunch · AIAI 评分5050 Apate 派 AI 智能体卧底诈骗团伙，已消耗骗子 17 年时间
澳大利亚初创公司 Apate.ai 部署数千个 AI 智能体伪装成受害者，接听诈骗电话、回复可疑信息并加入社交群组，已累计消耗诈骗者 17 年时间、完成 250 万次对话。