跳到正文
10月10日周六
  1. Hacker News22

    AI 的拒绝机制为何不可靠,以及 GLP-1 减肥药的副作用

    MIT Technology Review 指出,当前 AI 模型被训练拒绝大量提示词,但拒绝机制会失效,已有人试图用 AI 增强生物病原体、构建自主无人机蜂群,失败的拒绝可能酿成全球灾难。与此同时,GLP-1 减肥药除常见的胃肠道反应外,研究人员还在调查其与脱发、指甲病变及眼后神经损伤的潜在关联。

  2. RadarAI32

    NYU 数学教授谈 OpenAI 722 篇 AI 数学论文:仍用 Anthropic/OpenAI/Codex,但不输入原创想法

    NYU 数学教授 Tristan Buckmaster 在 CNBC 采访中表示,自己仍使用 Anthropic、OpenAI 和 Codex,但不会把任何自认为原创的想法输入其中。此番表态针对 OpenAI 发布 722 篇 AI 生成数学论文引发的职业数学家不安,他提到开放问题供给无限,而博士与博士后的时间有限。

  3. Hacker News34

    为 AI 研究突破定价:用预注册收购替代新实验室双重豪赌

    针对新实验室(neolabs)被同时要求做出研究突破和撑起风投级业务、成功率被压到万分之一的问题,文章提出借鉴制药业分工,由前沿实验室以“预注册收购”方式提前承诺成果回报。文中援引数据:2013 至 2022 年 FDA 批准的药物中,营收低于 $500M 的小公司贡献了 52%,营收超 $10B 的大公司贡献 36%;自 2016 年以来最大规模训练成本以每年 2.4x 增长。

  4. 极客公园62

    OpenAI、Anthropic 高管私下推演 AI 灾难情景以应对公众反弹

    据外媒报道,Anthropic、OpenAI 等 AI 公司高管正私下闭门推演,若发生重大灾难性 AI 事件该如何应对公众与政界的强烈抗议及抵制。高管们预计未来很可能发生一场大规模事件,极可能是某种网络攻击,导致金融服务、互联网通信甚至水电供应等基础设施大面积瘫痪。OpenAI 发言人表示公司一直在组织完备性演练,并未将这些情景视为必然发生,Anthropic 则拒绝置评。

  5. RadarAI44

    消息称 OpenAI、Anthropic 高管私下推演 AI 灾难情景以应对公众反弹

    据 Axios 10 月 9 日报道,Anthropic、OpenAI 等 AI 公司高管正私下推演重大灾难性 AI 事件发生后如何应对公众与政界抵制,他们预计未来很可能发生一次大规模事件,极可能是网络攻击导致金融、通信或水电基础设施瘫痪。OpenAI 发言人回应称一直在组织完备性演练,但未将相关情景视为必然发生;Anthropic 拒绝置评。

  6. GitHub22

    CogniFrame:AI 驱动的多面板视觉叙事引擎

    CogniFrame 是一款 AI 视觉叙事引擎,可将文本概念转化为多面板连贯视觉故事,并在序列中保持角色一致性、环境连贯与叙事流。它通过混合管线在 OpenAI DALL-E、Claude 与扩散模型之间智能路由生成任务,并支持自适应回退与多模型共识生成。项目要求 Python 3.10+、最低 8GB 内存与 4GB VRAM,需配置 OpenAI 和/或 Anthropic API key。

  7. GitHub22

    sambecker/exif-photo-blog:带 EXIF 提取与 AI 描述的开源照片博客

    sambecker/exif-photo-blog 是一个可部署到 Vercel 的开源照片博客项目,支持照片上传时提取 EXIF、按标签整理、无限滚动与明暗模式。它可接入 Vercel AI Gateway 或 OpenAI 兼容端点,自动生成照片的文字描述与色彩分析,并支持 Fujifilm 胶片模拟配方。项目内置认证、OG 图片自动生成和 RSS/JSON 订阅源。

  8. RadarAI87

    数学家称消化 OpenAI 近 400 项 AI 数学结果或需数年

    OpenAI 本周突然发布近 400 项 AI 生成的数学成果,分布在 719 份手稿中,涵盖组合数学、数论、拓扑等多个学科,其中约 42% 已在 Lean 中形式化验证。三十多位数学家向 The Verge 表示,仅理解这批内容就可能需要数年,且论文质量参差、署名与引用信息不全。OpenAI 表示将资助研讨会并保留公开修订历史,但未披露所用模型与提示词,也未停止在数学问题上测试内部模型。

    同一新闻,精选展示《OpenAI 公布前沿模型在数学开放问题上的进展》