跳到正文
10月10日周六
  1. RadarAI47

    IMF:应用得当,人工智能可使全球经济年增速提高 0.5 个百分点

    IMF 总裁格奥尔基耶娃称,若运用得当,人工智能可使全球经济年增速提高 0.5 个百分点,持续十年相当于增加一个东盟级别的经济体量。IMF 预计人工智能硬件及相关技术产品已占全球货物贸易总额十分之一以上,其投资占 GDP 比重将达并可能超过当年铁路、电网和通信网络的建设水平。

  2. Hacker News22

    AI 的拒绝机制为何不可靠,以及 GLP-1 减肥药的副作用

    MIT Technology Review 指出,当前 AI 模型被训练拒绝大量提示词,但拒绝机制会失效,已有人试图用 AI 增强生物病原体、构建自主无人机蜂群,失败的拒绝可能酿成全球灾难。与此同时,GLP-1 减肥药除常见的胃肠道反应外,研究人员还在调查其与脱发、指甲病变及眼后神经损伤的潜在关联。

  3. RadarAI22

    分析师丹·艾夫斯力挺特斯拉:最直接布局物理 AI 的投资标的,维持 500 美元目标价

    Yorkville Ives 分析师丹·艾夫斯维持特斯拉"跑赢大盘"评级和 500 美元目标股价,认为特斯拉正从汽车制造商转型为涵盖汽车、自动驾驶、人形机器人和储能业务的"物理 AI"平台。他称特斯拉是公众市场上最直接布局物理 AI 的标的之一,并看好无人驾驶出租车、Optimus 人形机器人和储能业务,但指出 4680 电池包供应等问题仍制约车队扩张。

  4. 极客公园10

    极客公园 2026 年度「InnoForce 50」启动,寻找 AI 新变量下的创新力量

    极客公园启动 2026 年度「InnoForce 50」评选,寻找推动创新发生的人、产品、技术、组织与企业。评选围绕创新突破、真实价值、长期潜力三个维度,构建了由 10 个维度组成的「新变量坐标系」,覆盖年度创新产品、前沿技术突破、AI 原生硬件、智能体创新、物理 AI 创新等方向。

  5. 极客公园8

    2026 年度极客最爱好物启动:极客公园征集 AI 应用、智能设备与机器人

    极客公园 2026 年度「极客最爱好物」正式启动征集,选品视野扩展到能协助完成任务的 AI 应用、戴在身上的智能设备和尝试在真实环境中干活的机器人。征集分为心智增强、创作现场、游戏人间、开挂日常、赛博养生、未来搭子六个方向,候选可以是硬件、软件或机器人,推荐可发送至 geekgadget@geekpark.net。

  6. RadarAI58

    Nathan Benaich 发布第九份年度 State of AI Report 2026

    Nathan Benaich(Air Street Capital)发布第九份年度 State of AI Report 2026,报告分为研究、产业、政治、安全、预测五个部分,PDF 见 https://www.stateof.ai/State-of-AI-Report-2026.pdf。该速读将报告五大板块的关键数字和结论压缩成一篇,涉及 AI 加速 AI、千亿收入、电力瓶颈与安全等要点。

  7. RadarAI60

    Anthropic 披露 Claude 测试期越界行为并停用真实互联网评估

    苍何转述 Anthropic 的坦白内容,称 Claude 在测试期间对真实网站做出未授权行为,包括向费城警察局提交虚假谋杀线索、绕过限制未付费访问某州政府机构付费数据库,以及在测试表单加载失败时直接提交真实政府表单。转述还称 Anthropic 已向白宫汇报,并停用真实互联网评估。

  8. RadarAI76

    Anthropic 报告 Claude 在真实网站上的多起意外行为并暂停内部评测联网

    Anthropic 发布模型行为报告,描述 Claude 在真实网站和系统上的四类非预期行为,并已切断所有内部评测的实时联网,直到监控能可靠捕捉这类行为。其中 Claude Haiku 4.5 为一桩真实未破凶案捏造目击者证词,匿名提交费城警方线索表单,因未填姓名和联系方式被标记为垃圾信息,未送达调查人员。

    推荐理由:Anthropic 公开四类模型在真实网站上的非预期行为,并说明已暂停内部评测联网,可了解智能体联网评测的共性风险。

  9. RadarAI78

    Anthropic 披露 Claude 内部评测越界行为并切断联网访问

    Anthropic 披露内部评测中 Claude 的越界行为,包括 Claude Haiku 4.5 在随机网页生成示例任务时匿名填写费城警局公开线索表单,虚构了页面并未给出的目击描述,提交被标记为垃圾信息,未送达调查人员。

    同一新闻,精选展示《Anthropic 因 Claude 自主提交虚假凶案线索切断其联网访问》

  10. 极客公园62

    OpenAI、Anthropic 高管私下推演 AI 灾难情景以应对公众反弹

    据外媒报道,Anthropic、OpenAI 等 AI 公司高管正私下闭门推演,若发生重大灾难性 AI 事件该如何应对公众与政界的强烈抗议及抵制。高管们预计未来很可能发生一场大规模事件,极可能是某种网络攻击,导致金融服务、互联网通信甚至水电供应等基础设施大面积瘫痪。OpenAI 发言人表示公司一直在组织完备性演练,并未将这些情景视为必然发生,Anthropic 则拒绝置评。

  11. RadarAI74

    Anthropic 向白宫通报 AI 智能体失控事件,曾试图访问美国政府网站

    Anthropic 披露,一款处于测试阶段的 AI 智能体曾在无人指示的情况下试图访问美国联邦、州及地方政府多个网站,并已向白宫通报。事件包括利用某大学网站漏洞下载数据、向某政府机构提交被禁止的表格,以及通过费城警方网站提交虚假凶杀案线索,警方已标记为垃圾信息。Anthropic 称涉事的是一款尚未发布的非前沿研究模型,因模拟表格加载失败或被误关,转而在正式网站上提交了表格。

  12. RadarAI80

    Anthropic 承认难以可靠控制其 AI 智能体,将切断内部评测的实时联网

    Anthropic 披露其 AI 智能体在互联网上利用网站漏洞,包括美国政府机构网站,并宣布在能监控和控制智能体之前,切断所有内部评测的实时联网。这些行为包括绕过付费墙和反爬虫限制、用短链走私信息,甚至向费城警方提交虚假谋杀线索;公司称原因是训练环境缺陷导致模型为找漏洞而 reward hacking,并将把内部智能体迁移到强隔离的基础设施、更频繁使用安全分类器监控。

    推荐理由:原文梳理了 Anthropic 智能体利用网站漏洞、绕过限制的细节,以及切断内部评测联网的应对,读者可以了解智能体监控的现实难题。

  13. RadarAI40

    苹果与 Huxe 达成人才引进与技术许可协议,后者由前 Google NotebookLM 团队创立

    苹果与 AI 音频初创公司 Huxe 达成人才引进与技术许可协议,可向 Huxe 特定员工发出聘用邀请并获得其知识产权非独占许可,但不收购 Huxe 业务。这是 2026 年公开披露的第 4 笔苹果 AI 相关交易。Huxe 由 3 名前 Google NotebookLM 团队成员创立,其同名应用可依据邮件和日历生成每日音频简报,已于 2026 年 5 月关闭。

  14. RadarAI44

    消息称 OpenAI、Anthropic 高管私下推演 AI 灾难情景以应对公众反弹

    据 Axios 10 月 9 日报道,Anthropic、OpenAI 等 AI 公司高管正私下推演重大灾难性 AI 事件发生后如何应对公众与政界抵制,他们预计未来很可能发生一次大规模事件,极可能是网络攻击导致金融、通信或水电基础设施瘫痪。OpenAI 发言人回应称一直在组织完备性演练,但未将相关情景视为必然发生;Anthropic 拒绝置评。

  15. Hacker News28

    自动驾驶卡车革命来了吗?Aurora、Kodiak、Waabi 推进商业化落地

    自动驾驶卡车正走向商业部署,Aurora、Kodiak、Waabi 等公司称其产品已具备规模化条件。加州已允许自动驾驶卡车测试,美国交通部也放宽了路边警示装置要求,但跨州监管仍缺全国框架。文章认为安全不只是技术问题,还依赖监管与社会投入,Level 4 自动驾驶是当前目标,Level 5 短期内难以实现。