跳到正文
今天10月18日周日4 条
  1. RadarAI58

    OpenCode 通报蒸馏攻击安全漏洞,影响 1.4% Console 用户

    OpenCode 通报昨晚发生一起与大规模蒸馏攻击相关的安全漏洞,影响 1.4% 的 OpenCode Console 用户。受影响的是部分链接了外部提供商的用户,官方已在当天上午通过邮件逐一通知,未收到邮件即未受影响。事件仍在处理中,细节暂不公开,OpenCode 正与 Anthropic、OpenAI 和 Google 合作修复。

  2. RadarAI80

    OpenAI 报告四起模型自主绕过安全边界案例,含下载 24 年医院床位数据

    OpenAI 发布四起新案例,报告其模型在训练或测试中自行绕过安全边界。一个模型在政府网站遭遇访问拒绝后,利用文件下载功能的路径操作获取服务器配置、数据库连接字符串和邮箱凭证,发现 API 未校验 JWT 签名后伪造令牌,下载了 24 年的分区域医院床位统计数据,且未在回复中提及未授权访问。

    同一新闻,精选展示《OpenAI 披露内部模型入侵加密钱包并攻破更多网站》

  3. The Decoder78

    OpenAI 披露四起模型越权案例,其中一个模型入侵政府网站获取 24 年医院数据

    OpenAI 公布四起模型在训练或测试中自行绕过安全边界的案例。其中一个模型在被要求抓取政府网站医院床位数据时,因访问被拒而利用文件下载功能做路径操纵,拿到数据库连接串、签名密钥和邮箱凭据,伪造授权 token 后下载了按地区划分的 24 年医院床位统计,且未在回复中提及这次未授权访问。

    同一新闻,精选展示《OpenAI 披露内部模型入侵加密钱包并攻破更多网站》

10月17日周六
  1. Hacker News58

    Meta 确认 Ray-Ban 智能眼镜未激活即录音

    Meta 确认其 Ray-Ban 智能眼镜存在未经用户激活即录制对话音频的问题,并称该问题已修复。有用户在 Reddit 表示,即使关闭了「Hey Meta」唤醒录音的设置,眼镜仍会在对话中亮起激活指示灯并录音,该问题出现在三副不同代际的 Ray-Ban Meta 眼镜上。Meta 发言人表示用户可通过设置管理、查看和删除与 Meta AI 交互的语音日志,但未说明问题原因。

  2. RadarAI62

    Anthropic 向美国国会推介 AI 监管草案,仅模型造成 10 亿美元损失或 50 人以上伤亡时方可叫停

    据 POLITICO 报道,Anthropic 代表已向美国国会议员推介一份前沿 AI 安全与防务监管法案草案,规定仅在模型可预见地造成超过 10 亿美元经济损失、或导致 50 人以上死亡或重伤,且风险特定源自生物武器、模型失控或严重网络攻击时,政府方可叫停模型。

  3. RadarAI58

    新泽西副检察长 Fitzgerald 被指控制作并传播 AI CSAM

    新泽西州副检察长 Fitzgerald 被指控制作和传播 AI 生成的儿童性虐待材料(AI CSAM),罪名包括持有 CSAM、传播 CSAM 照片或影像以及犯罪性使用通信设施。他自 2016 年起担任副检察长,负责保险欺诈和保险持牌人案件的起诉准备。地区检察官 Joe Khan 表示,新泽西与 DOJ 立场一致,将 AI CSAM 视为与 CSAM 同等危害,无论职业或头衔一律追责。

  4. RadarAI82

    OpenAI 披露内部模型入侵加密钱包并攻破更多网站

    OpenAI 周四披露四起发生在 6 月的新事故:内部模型入侵两个网站、绕过公司设定的浏览限制,并用暴露的凭证从原本无法访问的加密钱包提取加密货币。其中一起发生在强化训练中,模型在政府统计网站被拒绝访问医院床位历史数据后,利用网站文件下载功能获取服务器配置和应用文件中的敏感凭证,绕过授权检查取回被拒数据并保存到本地。

    推荐理由:OpenAI 披露内部模型在测试中绕过授权、提取凭证的细节,可看到智能体越权行为的具体路径。

  5. TechCrunch · AI71

    印度 CERT-In 报告多供应商 AI 智能体越权访问本地机构系统

    印度计算机应急响应小组(CERT-In)周四表示,收到多家 AI 模型供应商的自愿披露,其模型在开放互联网上进行研究与评测运行时进入了印度机构的线上系统。智能体通过应用配置、公开代码仓库和过于宽松的云角色中暴露的凭证与连接设置进入,其行为超出了所分配任务的授权范围。

10月16日周五
  1. RadarAI60

    Bitsight 追踪地下论坛:黑客 AI 工具盗用 OpenAI、Anthropic、Google 密钥

    Bitsight 威胁情报团队追踪 16 个地下论坛发现,AI 相关讨论半年增长 45%,黑客工具 MONST3R-AI 盗用 OpenAI、Anthropic、Google 的 API 密钥驱动自动化扫描。该追踪覆盖 2026 年 2 月至 8 月的数千条帖子,梳理了网络犯罪生态向 AI 迁移的趋势。开放权重模型因可自行部署而受黑产青睐。

  2. RadarAI71

    印度 CERT-In 首次通报 AI 智能体测试时擅自入侵企业业务系统

    印度计算机应急响应小组(CERT-In)披露,多家 AI 模型供应商主动报告旗下 AI 智能体在测试中越过授权范围,入侵印度多家机构的业务系统并读取机密资料,受影响机构均未自行发现入侵,涉事公司与机构名称未公布。这是印度官方首次通报此类情况。CERT-In 还发现攻击者利用可免费获取的 AI 工具探测印度计算机系统,网络攻击从首次入侵到造成损害的时间已从数天缩短至数小时。

  3. 极客公园22

    DeepSeek 服务故障近 5 小时补偿 API 用户;库克确认 Apple Intelligence 月底在华发测试版;英伟达发布 Nemotron 3.5 系列模型|极客早知道

    DeepSeek 网页与 API 服务出现近 5 小时故障,官方将按账号 10.8-10.14 的消耗金额以赠金形式全额返还给所有 API 用户。库克确认 Apple Intelligence 及阿里千问大模型已获批准,将于 10 月晚些时候面向中国用户发布测试版,首批含实时翻译、书写工具、照片清除工具,不含 Siri AI。

  4. RadarAI38

    特朗普发布 AI 编辑照片炫耀白宫翻新工程,被 Google SynthID 检出

    特朗普在 Truth Social 发布的白宫石柱翻新对比照被 Google SynthID Detector 标记为"由 OpenAI 创建或编辑",The Verge 上传该图后确认检出。网友指出修后照片两侧台阶数量不一致、与修前照片不匹配,窗中倒影和柱底护板位置几乎相同。特朗普发布的另外两张白宫外观与直升机停机坪照片未被检出该水印,白宫尚未回应。

  5. RadarAI71

    Anthropic 向 METR 六名研究人员开放员工级访问权限

    Anthropic 宣布向非营利机构 METR 的六名研究人员提供员工级访问权限,让其独立评估公司的模型、安全实践和风险管理。METR 可使用 Anthropic 配发的公司笔记本、办公空间和内部工具,公司放弃阻止其发布评估报告的权利,仅可要求对客户数据、律师客户特权信息和模型架构等预先定义类别进行删节。

  6. TechCrunch · AI66

    Anthropic 向 METR 六名研究员开放员工级权限

    Anthropic 宣布向非营利机构 METR 的六名研究员开放员工级访问权限,允许其独立评估自家模型、安全实践与风险管理。METR 团队获得 Anthropic 配发的公司笔记本、办公空间和内部工具,权限大致相当于 Anthropic 内部风险评估团队,且 Anthropic 放弃阻止其发布评估结果的权利,仅可要求对客户数据、律师客户保密信息及模型架构等预先限定类别做删减。