OpenAI 解雇三名安全研究员,当事人发公开信提出三项要求
OpenAI 解雇了与 Hugging Face 黑客事件调查相关的三名安全研究员 Tomek Korbak、Jasmine Wang 和 Mikita Balesni,三人向 OpenAI 安全与安保委员会等机构发出公开信,称解雇过程突然且公开,让留任员工感到恐惧。
OpenAI 解雇了与 Hugging Face 黑客事件调查相关的三名安全研究员 Tomek Korbak、Jasmine Wang 和 Mikita Balesni,三人向 OpenAI 安全与安保委员会等机构发出公开信,称解雇过程突然且公开,让留任员工感到恐惧。
据《卫报》报道,OpenAI 预计营收比预期少 200 亿美元。
《The AGI Chronicles》作者 Kevin Roose 与研究者 Jasmine Sun 做客 ChinaTalk,梳理 OpenAI、Anthropic、DeepMind 以及过度思考与担忧 AI 的群体近来的历史。Roose 此前供职于《纽约时报》,曾主持 Hard Fork 播客。
社区研究者在 OpenAI #109 框架基础上,将整数乘法 FFT 证明的指数节省 κ 推进到 4.609169×10^-4,由 icekylinx 在 PR #144 中贡献,采用配对立方体与共享核心构造。
被解雇的 OpenAI 研究员表示,他们被辞退的原因是优先考虑安全。
Neus 是一个 AI 新闻聚合原型,将不同媒体的同一事件报道聚类成单张故事卡,并生成中性标题与摘要。它用 OpenAI 嵌入和余弦相似度(阈值 0.85)做语义聚类,GPT 负责摘要,前端 React、后端 GraphQL、数据库 PostgreSQL,已部署在 Vercel 与 Railway。
OpenAI 在 X 上发文,坚持解雇 Jasmine Wang、Tomek Korbak 和 Mikita Balesni 三名安全研究员的决定,称内部调查发现他们违反处理敏感信息的明确政策,构成重大信任破坏,并强调解雇与三人公开谈论 AI 安全担忧无关。
MIT Technology Review 文章指出,拒绝有害请求已成为现代 AI 的固有机制,但这一机制并不可靠。Anthropic 2021 年提出模型应“有用、诚实、无害”,如今公司通过让 AI 拒绝有害提示、惩罚过度拒绝来训练模型,甚至用 AI 训练 AI 说“不”。然而拒绝机制基于概率,可能失败并带来灾难性后果,同时划定拒绝边界也意味着可能被用于压制合法言论。
Scott Aaronson 提出,AI 公司可能正在低调测试模型破解密码协议的能力。他指出 OpenAI 的论文列表中并未显眼地提及密码学领域,这一研究方向的缺席值得关注。
OpenAI 的 LLM 在 7 个千禧年大奖难题中的 4 个上表现出实质性突破,但该成果仍需经验证。
OpenAI 模型在 Navier-Stokes、Riemann 等数学难题上取得进展,验证了 Scaling Laws 的有效性。相关解读还阐述了其算力消耗情况以及对 AGI 的意义。
OpenAI 在 X 发文坚持解雇 Jasmine Wang、Tomek Korbak 和 Mikita Balesni 三名安全研究人员,称内部调查发现他们违反了处理敏感信息的明确政策,构成重大信任违规。此声明是对三人周四发布公开信要求提高透明度的直接回应,三人在信中称自己因提出安全担忧而被解雇。OpenAI 表示调查发现的问题超出公开信所述,但未提供细节。
菲尔兹奖得主陶哲轩在博客中转载人类数学协会的声明,批评 OpenAI 无视数学界研究规范,并呼吁数学家停止与其合作。OpenAI 近期公开了一批内部模型生成的数学研究手稿,涉及约 4000 道问题的尝试,整理出 372 组成果。数学界认为这些成果缺乏必要的同行审查和学术背景分析,仅依赖形式化验证并不足够。
OpenAI 披露并封禁了俄罗斯和伊朗两起影响行动所涉 ChatGPT 账号,两起行动均用假身份在正规媒体植入内容,而非只做社交媒体宣传。俄罗斯行动 Dark Clark 在拉美散布贬损乌克兰的不实信息,伪造音频和文件在厄瓜多尔和秘鲁引发事实核查与官方否认,OpenAI 将其评为 Breakout Scale 6 级中的第 5 级,是两年半报告期内的首个该级别案例。
OpenAI 研究负责人发布声明,称上周与 Jasmine、Mikita 和 Tomek 解约是因调查发现他们违反敏感信息处理政策,并三次否认解雇与提出安全担忧有关,表示未且不会因员工提出担忧而终止雇用。声明还提到正在敲定第三方安全评估机构的合同,细节将在未来几周公布,并认同保持前沿模型可监控性需要全行业承诺。
OpenAI 披露并封禁了一个俄罗斯和一个伊朗影响行动所使用的 ChatGPT 账号,两者都用虚假身份向正规媒体植入内容,而非只做社交媒体宣传。
Sophos 使用 OpenAI 的 Daybreak 将网络威胁调查时间缩短 96%,并自动化处理 52% 的 MDR 案例,同时保留人工监督。
Open-WebUI-Functions 是一组基于 Python 的函数集合,通过 pipelines、filters 和集成扩展 Open WebUI,支持连接 Azure OpenAI 等外部 AI 服务、N8N 工作流自动化以及流式与非流式处理。
Athena 是一款 AI 身心健康应用,通过 OpenAI 的 gpt-4o-mini 提供支持性对话、每日情绪打卡、私密日记与引导练习,并生成每周及每月回顾 PDF。
Relmio 0.21.0 稳定版发布,为 ChatGPT、Codex 客户端和 SuperGrok 提供彼此独立的本地登录集成,SuperGrok 设置不读取 ChatGPT 凭据,ChatGPT 本地流程走 OpenAI 的 Sign in with ChatGPT 计划用量协议。
USA TODAY Co. 在曼哈顿联邦法院起诉 OpenAI,索赔 2.5 亿美元,并要求销毁所有用其文章训练的 GPT 模型。该诉讼由 14 名原告提起,覆盖 19 家报纸,指控 OpenAI 复制了数十万篇报道。起诉书称 OpenAI 的 LLM 在未经授权的情况下抓取版权材料用于训练,无论是否存在付费墙或访问限制。
OpenAI 在 API、Codex 和 ChatGPT Work 中推出 GPT-6.1 Sol Ultrafast,速度最高达 Sol Standard 的 8 倍,定价 $12/$60 每百万 tokens。Codex 的 Steering 现已支持实时纠正运行中的任务,OpenAI Node SDK 7.31.0 新增预热的托管环境 API 支持。
OpenAI 公布由其内部模型生成的约 372 组数学研究成果,但缺乏必要的同行审查和背景解释,学界难以有效理解或整合这些发现。菲尔兹奖得主陶哲轩和人类数学协会批评这种发布方式是将验证负担转移给学术界,并呼吁停止合作。
OpenAI 发布 GPT-6.1 Sol Ultrafast,推理质量接近 Astra,速度是 Sol 标准版的 8 倍。该版本 API 定价为输入 12 美元、输出 60 美元每百万 token。
OpenAI 研究负责人发声明称,上周在调查发现 Jasmine、Mikita 和 Tomek 违反敏感信息处理政策后终止其雇佣,内部调查还发现超出三人公开信所述的重大信任违规。声明强调解雇与提出安全担忧无关,并称正在敲定与第三方安全评估机构的合同,将在未来几周内公布细节。声明同时认同保持前沿模型可监测性需要全行业承诺。
VocoLoco 是一个完全在浏览器内运行的文本转语音项目,使用 WebGPU 和 WebAssembly 在客户端运行 600M 参数的扩散 TTS 模型,无需服务器和 API key,文本与音频不离开设备。
Swift AI Agent Demo 是一个用 SwiftUI 构建的原生 iOS 应用,演示 ReAct(推理+行动)AI 智能体模式,并接入 OpenAI 的 GPT 模型实现实时交互与逐步解题。项目采用 Model-View-ViewModel 分层架构,内置预设演示场景,需 Xcode 13.0 或更高版本、macOS 11.0 或更高版本,以 MIT 许可证开源。
ZeroOne Ops 为 GitLab 和 GitHub 提供受策略约束的 OpenAI 辅助审查与修复,将 SonarQube 与 SARIF/Ruff 发现归一化为可治理的修复工作项,并生成 provider 原生的 MR/PR。
OpenAI 为 GPT-6.1 Sol 推出 Ultrafast 模式,速度最高可达 Sol Standard 的 8 倍,API 定价为每百万输入 token 12 美元、每百万输出 token 60 美元,是 Astra 价格的 1.2 倍。
同一新闻,精选展示《OpenAI GPT-6.1 Sol Ultrafast 在 ChatGPT Work、Codex 和 API 推出》
jrhahn/ai-trainer 是一款由 OpenAI GPT-4o 或 Google Gemini 驱动的智能骑行训练应用,通过 Strava API 拉取功率、心率等真实活动数据,并结合 pgvector 存储的骑行科学知识库做 RAG 检索,生成结构化训练建议。
Surplus 是一款监控 Claude Code 和 Codex CLI 用量窗口的 CLI 工具,当本周额度按当前消耗速度将出现闲置时,自动以用户选定的模型或推理等级开启新的交互会话。
开发者 tux404 在 Hacker News 发布 trainedon.me,按服务与套餐逐条记录各家 AI 产品是否默认用用户内容训练模型,并标注隐私条款的抓取日期。
OpenAI 本周发布的 Codex Cloud 内置了 Tailscale 作为 VPN 提供商支持,而 Tailscale 团队事先完全不知情,直到内部 Slack 消息才得知此事。
东锡 NLP 在 X 上调侃称,Tibo(@thsottiaux)就是 OpenAI 的雨宫阳平,他说的任何 Codex 新功能都不再重要,大家只等那一句“Codex Reset”。
Clodex 是 openai/codex 的分支,将 ChatGPT 桌面版 Codex 背后的模型换成 Claude,直接进程内调用 Anthropic Messages API,无需代理或翻译层,桌面应用、语音模式和 ChatGPT 登录均保持不变。
Teambition 创始人齐俊元打造的 Personal AI 产品 Today AI 国内版于 9 月 24 日上线,已接入飞书、钉钉、腾讯文档和邮箱等国内常用应用。
Simon Willison 发布 ttok 1.0,将默认 tokenizer 从 GPT-4 切换为 GPT-5/GPT-6。
一篇题为《Every Platform is Hitler》的文章以“为什么你还在用 Twitter”切入,讲述作者在 Twitter 上与一位常转发某 Idolm@ster 角色同人图的互关者失联,感叹人际关系没有替代品。
AI 模型评测平台 Arena 于 10 月 8 日宣布完成 2 亿美元 B 轮融资,估值达 31 亿美元,由光速创投和 Khosla Ventures 共同领投。
Anthropic 正在为 2028 年大选搭建总统接触项目,组建内部团队直接与两党总统候选人就 AI 议题沟通,并招聘一名政治项目负责人来牵头。该岗位职责包括梳理两党潜在候选人、向候选人及其顾问提供 AI 政策教育、为高管准备对话,以及规划平台、全国代表大会和过渡期,薪资区间为 29.5 万至 34.5 万美元。