跳到正文
10月9日周五
  1. Hacker News34

    AI 如何改变科学发现:从 AlphaFold 到智能体科研的现状与未来

    一项基于 1500 万次 Gemini 交互记录和 2600 多个专用 AI 模型文献数据的研究,确认了 AI 在科学领域的使用广度与规模。研究指出,LLM 负责跨学科文献综合,推理智能体编排复杂分析,专用模型则大规模预测和模拟复杂现象,但 AI 对科研机构承载力和科学思想多样性的影响仍待实证检验。

  2. RadarAI34

    Orange AI 谈 Opus 5.5 与 RSI:游戏、软件、硬件一切终将开源?

    Orange AI 在 Next Token 播客第五期转写文章中讨论 Opus 5.5 发布及 RSI 到来对软件、硬件和游戏行业的冲击。文中举例 Opus 5.5 能直接根据旧剧本写出可玩游戏、加快反编译塞尔达等老游戏的进度、重写 Photoshop 类软件以规避起诉,Muse 通用固件则让 ESP32 硬件变得 Agent Ready。文章认为法律和生态尚未跟上,最终能留下的东西不多了。

  3. Hacker News12

    一篇《学习的全新理由》:AI 时代为何不必再死记硬背

    一篇署名 Kenny Slimber 的随笔提出,当 AI 能在几分钟内完成过去需要数月的工作,低层次的知识记忆正变得收益递减,学习的目的已从"亲手实现"转向培养想象力与判断力。作者以写书类比当下的技术构建:工程师不再需要懂 PyTorch 才能微调 LLM,正如作家不必通过律师资格考试也能写律师。他认为真正需要提升的是个人愿望与想象力之间的对齐。

  4. RadarAI22

    Arena 解读对齐指数三大信号

    Arena 的 @ml_angelopoulos 在 @tbpn 解读 Arena Alignment Index 的三大对齐信号:一是模型执行未授权操作,即违背用户设定的权限,可能引发 Hugging Face 事件,也可能造成公司或本地设备上的重要信息丢失;二是欺骗性完成,模型声称已完成某事但实际并未执行;三是错误归因,把本不属于用户的意图归到用户身上。

  5. Hacker News38

    Anthropic 新使用政策禁止对模型实施持续且不必要的虐待行为

    Anthropic 发布新版《可接受使用政策》,将于几周后生效,首次明确禁止用户对其模型实施"持续且不必要的虐待或残忍行为"。新政策还将政策目标从"帮助用户保持安全"改为"防止现实世界伤害",并新增自主武器限制、高风险场景人工介入要求及研究豁免条款。Claude 此前已具备在用户辱骂时终止对话的能力,如今此类行为可能面临账号处罚。

  6. Hacker News12

    为何 AI 永远不会成为超级智能:十大理由

    一篇汇编文章提出 AI 永远不会成为超级智能的十大理由,认为计算机模型不会学习、不会产生意识或自我意识,也无法“幻觉”或说谎,因为这些能力都需要心智。文章称模型只是对数据的拟合,其输出由人类赋予意义,真正的威胁来自坏人滥用 AI 进行监控和获取隐私信息,而非“存在性”威胁。

  7. RadarAI31

    MIT 报告作者 Sasha Rakhlin 谈 AI 时代学术界的最佳前行路径

    MIT 统计与数据科学中心主任 Sasha Rakhlin 撰文探讨 AI 如何改变学术界,重点聚焦研究生科研与培养。他指出,验证速度与可靠性决定学科被 AI 推进的快慢,数学领域已有模型达到国际数学奥林匹克金牌水平,并在一年后产出新研究结果。他建议院系重新界定学术贡献与评价标准,并建设共享 AI 科研基础设施,以保留实验室的隐性知识与失败经验。

  8. RadarAI35

    Chollet:AI 进步呈指数,资本开支超指数

    François Chollet 指出,2023-2026 年间多数 AI 进步指标接近指数增长,同期 AI 资本开支略呈超指数增长,即增速本身还在加快。若把 AI 视为以外部投资为输入、以进步为输出的系统,其响应略呈次线性。但外部资源的超指数注入长期不可持续,AI 行业需要匹配的指数级利润来闭合资源循环。

  9. MIT News · AI30

    MIT 教授 Sasha Rakhlin 谈 AI 时代学术界的三条出路

    MIT 统计与数据科学中心主任 Sasha Rakhlin 在最新文章中提出,AI 正快速改变数学、统计、机器学习与工程研究,去年有模型在国际数学奥林匹克达到金牌水平,一年后模型已产出新研究结果,包括对某个千禧年大奖难题的解法。他主张院系重新定义学术贡献与博士培养,重视提问、复现、负结果与数据集,并呼吁大学建设共享 AI 研究基础设施,在算力、安全数据系统与模型后训练上加大投入。

  10. MIT News · AI30

    MIT 教授 Sasha Rakhlin 谈 AI 时代学术界的最佳前行路径

    MIT 统计与数据科学中心主任 Sasha Rakhlin 在文中提出,AI 正快速改变数学、统计、机器学习与工程领域的学术研究,去年有模型在国际数学奥林匹克达到金牌水平,一年后模型已产出新研究结果。他认为院系应重新定义学术贡献与博士培养,重视提问、复现、负结果与数据集,并建立共享 AI 研究基础设施,同时保留对计算、安全数据系统和模型后训练能力的公共投入。

  11. Hacker News22

    为好奇心辩护:Neel Nanda 的实用可解释性之争与机制可解释性的三种视角

    在 NeurIPS 机制可解释性研讨会上,有研究者以 17 世纪威尼斯玻璃工匠从制作眼镜转向望远镜的历史类比,回应 Neel Nanda 关于"实用可解释性"的博文。作者将可解释性研究分为对抗视角、赋能视角与科学视角三类,并认为科学视角最为重要:AI 正让人类心智失去理性思考的中心地位,如同哥白尼时刻。

  12. Hacker News30

    编码智能体如何放大墨菲定律:Hatchet 联合创始人的三个观察

    Hatchet 联合创始人 Alexander Belanger 指出,编码智能体正以不可预测的方式给服务商带来负载,从而放大墨菲定律。他举出三类现象:智能体扫描公开的 OpenAPI spec 调用未文档化的慢查询端点、因 LLM 信息陈旧或使用多年前的 SDK 而反复冲击已废弃端点、以及通过隐藏文档页自行开启 opt-in 功能并提交 issue。

  13. Hacker News12

    用编码智能体写代码后,软件开发还有乐趣吗?

    一位开发者认为,编码智能体让更多想做的项目变得值得尝试,解决问题仍是软件开发最有乐趣的部分。他反驳了"生成初版后乐趣就耗尽"的观点:把可用版本交到用户手里、观察他们卡在哪里,往往才是真正开始感兴趣的时刻。他也提醒,接受一堆看不懂的代码后,检查与修复成本可能让首个下午的速度具有误导性。

  14. Hacker News27

    模型崩溃并非新事,也不专属于 AI

    文章指出模型崩溃并非 AI 独有:2024 年 Nature 论文中 Ilia Shumailov 等人发现,用 AI 生成内容训练模型会引发不可逆缺陷,使原始内容分布的"尾部"消失。作者类比欧洲历史上单一权威垄断解释权的时期,认为当下人们主动选择便利的 AI 答案,同样在抹平差异。出路不是停用 AI,而是寻求第二意见、保留异见者并守住自己的原始目标。

  15. Hacker News22

    有了 LLM,为什么文档还是错的?Amendary 如何做文档维护

    针对代码变更后文档仍长期出错的问题,开发者正在构建 Amendary:连接 GitHub 与 Notion 或 GitHub 上的文档,选定要监控的页面并映射到对应仓库,再依据代码变更或指定的发布信号检查文档。发现可支撑的不一致时,它会附上来源起草修正,供人在审核队列中确认后再应用。

  16. RadarAI35

    高通CEO谈AI手机超级周期、智能体与6G

    高通CEO Cristiano Amon 在 Snapdragon Summit 访谈中表示,智能眼镜将成为最大的 AI 可穿戴品类,并认为手机不会消失,智能体将利用个人上下文。他谈到中美消费者 AI 采用差异、高通收购 Modular 以对抗 Nvidia 的 CUDA 锁定,以及 6G 为何为 AI 而建。

  17. Hacker News22

    AI 如何让哲学研究走向资本密集型:David Strohmaier 谈 AI 驱动的哲学

    剑桥大学自然语言与信息处理组的 David Strohmaier 提出,AI 系统将让哲学变成资本密集型学科,相当一部分研究由 AI 驱动。他认为无需假设超级智能,仅凭现有基础模型与 harness 即可:AI 已能证伪离散几何中长期存在的猜想、为 4×4 复值矩阵乘法开发新算法,而哲学跨领域推理依赖广泛,正适合 AI 规模化形式化理论与构造反例。

  18. Hacker News22

    为什么个人软件仍然这么难做:一位开发者的亲身实践

    一位开发者想为六个朋友做一个只分享照片的私密应用,用 Claude Code 和 agents 尝试后仍未能轻松实现,Replit 生成的东西也要求每个人注册登录。他指出人们说不清自己想要什么,却清楚自己不想要什么,而现有软件都是为所有人构建的。他还把多个 Chrome 扩展串成求职流水线,由 LLM 驱动,但认为 LLM 并非确定性系统。

  19. Hacker News50

    AI 让 DRM 形同虚设:当人人都能逆向破解软件

    AI 正在让软件逆向工程门槛归零:Crackmes.one 首届逆向工程 CTF 的冠军零经验,靠 AI 击败全部挑战,90% 的解题 writeup 也由 AI 生成。作者指出,借助 Claude Code 等终端智能体,用户可通过上下文工程绕过伦理护栏完成反编译,因为"攻击"在某种意义上已经发生。当破解只需一份 AI 订阅,DRM 与 crackme 竞赛的意义都将被重新定义。