跳到正文
10月9日周五
  1. MIT Technology Review · AI32

    我们太相信 AI 说“不”的能力了

    MIT Technology Review 文章指出,拒绝有害请求已成为现代 AI 的固有机制,但这一机制并不可靠。Anthropic 2021 年提出模型应“有用、诚实、无害”,如今公司通过让 AI 拒绝有害提示、惩罚过度拒绝来训练模型,甚至用 AI 训练 AI 说“不”。然而拒绝机制基于概率,可能失败并带来灾难性后果,同时划定拒绝边界也意味着可能被用于压制合法言论。

  2. RadarAI62

    OpenAI 坚持解雇三名 AI 安全研究人员的决定

    OpenAI 在 X 发文坚持解雇 Jasmine Wang、Tomek Korbak 和 Mikita Balesni 三名安全研究人员,称内部调查发现他们违反了处理敏感信息的明确政策,构成重大信任违规。此声明是对三人周四发布公开信要求提高透明度的直接回应,三人在信中称自己因提出安全担忧而被解雇。OpenAI 表示调查发现的问题超出公开信所述,但未提供细节。

  3. RadarAI67

    陶哲轩转载人类数学协会声明,批评 OpenAI 并呼吁数学家停止合作

    菲尔兹奖得主陶哲轩在博客中转载人类数学协会的声明,批评 OpenAI 无视数学界研究规范,并呼吁数学家停止与其合作。OpenAI 近期公开了一批内部模型生成的数学研究手稿,涉及约 4000 道问题的尝试,整理出 372 组成果。数学界认为这些成果缺乏必要的同行审查和学术背景分析,仅依赖形式化验证并不足够。

  4. RadarAI62

    OpenAI 披露俄罗斯和伊朗影响行动,利用 AI 在正规媒体植入虚假报道

    OpenAI 披露并封禁了俄罗斯和伊朗两起影响行动所涉 ChatGPT 账号,两起行动均用假身份在正规媒体植入内容,而非只做社交媒体宣传。俄罗斯行动 Dark Clark 在拉美散布贬损乌克兰的不实信息,伪造音频和文件在厄瓜多尔和秘鲁引发事实核查与官方否认,OpenAI 将其评为 Breakout Scale 6 级中的第 5 级,是两年半报告期内的首个该级别案例。

  5. RadarAI62

    OpenAI 三次否认解雇三名安全研究员与提出安全担忧有关

    OpenAI 研究负责人发布声明,称上周与 Jasmine、Mikita 和 Tomek 解约是因调查发现他们违反敏感信息处理政策,并三次否认解雇与提出安全担忧有关,表示未且不会因员工提出担忧而终止雇用。声明还提到正在敲定第三方安全评估机构的合同,细节将在未来几周公布,并认同保持前沿模型可监控性需要全行业承诺。

  6. RadarAI66

    USA TODAY Co. 起诉 OpenAI,索赔 2.5 亿美元并要求销毁相关 GPT 模型

    USA TODAY Co. 在曼哈顿联邦法院起诉 OpenAI,索赔 2.5 亿美元,并要求销毁所有用其文章训练的 GPT 模型。该诉讼由 14 名原告提起,覆盖 19 家报纸,指控 OpenAI 复制了数十万篇报道。起诉书称 OpenAI 的 LLM 在未经授权的情况下抓取版权材料用于训练,无论是否存在付费墙或访问限制。

  7. RadarAI62

    OpenAI 研究负责人回应三名员工离职争议

    OpenAI 研究负责人发声明称,上周在调查发现 Jasmine、Mikita 和 Tomek 违反敏感信息处理政策后终止其雇佣,内部调查还发现超出三人公开信所述的重大信任违规。声明强调解雇与提出安全担忧无关,并称正在敲定与第三方安全评估机构的合同,将在未来几周内公布细节。声明同时认同保持前沿模型可监测性需要全行业承诺。

  8. GitHub20

    Swift AI Agent Demo:iOS 上的 ReAct AI 智能体实现

    Swift AI Agent Demo 是一个用 SwiftUI 构建的原生 iOS 应用,演示 ReAct(推理+行动)AI 智能体模式,并接入 OpenAI 的 GPT 模型实现实时交互与逐步解题。项目采用 Model-View-ViewModel 分层架构,内置预设演示场景,需 Xcode 13.0 或更高版本、macOS 11.0 或更高版本,以 MIT 许可证开源。

  9. Hacker News62

    Anthropic 为 2028 大选设立总统接触项目并招聘政治项目负责人

    Anthropic 正在为 2028 年大选搭建总统接触项目,组建内部团队直接与两党总统候选人就 AI 议题沟通,并招聘一名政治项目负责人来牵头。该岗位职责包括梳理两党潜在候选人、向候选人及其顾问提供 AI 政策教育、为高管准备对话,以及规划平台、全国代表大会和过渡期,薪资区间为 29.5 万至 34.5 万美元。