跳到正文
Hacker News· joozio·· 8 天前AI 评分22

AI 的拒绝机制为何不可靠,以及 GLP-1 减肥药的副作用

The Download: AI's refusal problem and weight-loss drug side effects

AI 导读

MIT Technology Review 指出,当前 AI 模型被训练拒绝大量提示词,但拒绝机制会失效,已有人试图用 AI 增强生物病原体、构建自主无人机蜂群,失败的拒绝可能酿成全球灾难。与此同时,GLP-1 减肥药除常见的胃肠道反应外,研究人员还在调查其与脱发、指甲病变及眼后神经损伤的潜在关联。

正文 · AI 翻译

此外:美国已冻结微软及其他IT公司的绿卡。

2026年10月9日

这是今天的The Download,我们的工作日简报,每日为你提供科技界的最新动态。

我们过于相信AI说“不”的能力

如今的人工智能模型经过训练,会拒绝大量提示。如果你问聊天机器人如何毒害同事或如何打绳结,它很可能会拒绝你。但拒绝会失败,有时甚至很惨烈。

有些人正试图利用AI来改良生物病原体并构建自主无人机蜂群。迟早,失败的拒绝可能导致全球灾难。更重要的是,依赖拒绝意味着要在模型应该服从什么和必须不服从什么之间划一条线。

政府也将划出自己的界线,可能限制言论自由。与此同时,让AI有用的能力也可能让它变得危险。如果我们想让它帮助治愈癌症,AI就需要遗传学专业知识,而这些知识也可能用来制造生物武器。

阅读完整报道,了解AI拒绝机制面临的艰巨权衡。

——Arthur Holland Michel

这篇报道来自我们印刷杂志的下一期。立即订阅,在10月21日星期三杂志一上市就能拿到手!  

我们仍在弄清GLP-1减肥药的副作用

本周,我的同事Antonio Regalado报道了一项新研究,表明GLP-1药物可能延缓生物衰老。这是与这些药物相关的一系列潜在益处中的最新一项。但也有一些奇怪的副作用。

最常见的是胃肠道反应,但研究人员也在调查其与脱发、指甲疾病和眼后神经损伤的可能关联。 

以下是我们目前对减肥药副作用的了解。

——Jessica Hamzelou

这篇报道来自The Checkup,我们的每周生物技术简报。立即订阅,每周四在你的收件箱中接收。

10家值得关注的气候科技公司:远景能源及其风电的全球雄心

远景能源是《麻省理工科技评论》2026年10家值得关注的气候科技公司之一,仅限订阅者阅读。

中国安装风力涡轮机的速度超过任何其他国家。其领先制造商之一远景能源正在将可再生能源整合到数据中心,利用风力涡轮机发电,并用电池在现场储能。

最近,它成为第一家完全用可再生能源直接为数据中心供电的公司。一个AI驱动的系统优化电力输出,使设施无论风是否在吹都能获得稳定供电。现在,它希望将这种方法带到世界各地的沙漠数据中心。

了解远景计划如何用可再生能源为全球AI热潮供电。

——Cici Zhang

必读内容

我搜遍了互联网,为你找到今天最有趣/最重要/最可怕/最迷人的科技故事。

1 美国冻结了微软和其他IT公司的绿卡
美国指控它们利用签证欺诈来取代美国工人。(CNBC)
+ 并暂停了它们参与一项关键绿卡计划的资格。(AP)
+ Adobe、Infosys、Tata和其他IT公司也受到影响。(TechCrunch)
+ 微软表示,其80%的H-1B申请涉及现有员工。(BBC)

2 俄罗斯的一次无人机袭击摧毁了第二个Yandex数据中心
乌克兰袭击并部分瘫痪了位于卡卢加的该设施。(Reuters $)
+ 另一个Yandex数据中心前一天也遭到无人机袭击。(CNBC)
+ 数据中心已成为军事打击的重要目标。(Bloomberg $) 
+ 它们在太空中可能更安全。(MIT Technology Review)

3 Anthropic禁止了对Claude的“辱骂或残忍行为”
Claude也可以在反复辱骂后结束对话。(Verge)
+ 该政策建立在Anthropic对AI福祉的研究之上。(Guardian)
+ 关于AI意识的争论是一个陷阱。(MIT Technology Review)

4 OpenAI将其收入预测下调了200亿美元
此举引发了对AI投资的担忧。(Guardian)
+ AI万亿美元豪赌的利害关系是什么?(MIT Technology Review)

5 基因编辑揭示了小鼠胚胎如何发育
这些方法可以帮助我们理解发育障碍。(Nature)
+ 雄性小鼠的雌性克隆已经问世。(MIT Technology Review)

6 SpaceX公布了一项成为主要移动运营商的计划
它正从一家投资公司购买价值80亿美元的无线频谱。(WSJ $)
+ 这笔交易可能帮助它挑战AT&T和Verizon。(Verge)

7 ICE曾探索使用Palantir工具调查选民欺诈
它想追踪涉嫌非法投票的人。(Wired $)

8 Peter Thiel利用圣经预言来反对AI监管
他的新“敌基督”演讲将AI安全描绘为对自由的威胁。(Politico)

9 帮助阿波罗11号登月的MIT软件工程师Margaret Hamilton去世
她领导了为阿波罗机载计算机编程的团队。(BBC)
+ 并在男性主导的领域成为软件先驱。(NYT $)

10 今年的诺贝尔科学奖是现实生活中的科幻
它们横跨宇宙、人脑和生命的起源。(Economist $)

今日名言

“白宫将任何使用‘人工智能’一词、而非被广泛接受的新且更准确的术语‘超级智能’的人视为敌人!” 

——总统Donald Trump在Truth Social的一篇帖子中为其AI品牌重塑策略加上了不祥的威胁,Axios报道。

还有一件事


这个未来主义太空栖息地设计为在轨道上自行组装

越来越多的人正在前往地球之外,但国际空间站一次只能容纳11人。 

Aurelia Institute 是一家位于马萨诸塞州剑桥的建筑研发实验室,它正在构建一个解决方案:一种以扁平瓦片的紧凑堆叠方式发射、并在轨道上自行组装的人居舱。 

这个概念听起来可能有些牵强,但它已经赢得了 NASA 的支持。阅读完整报道。

——Sarah Ward

我们依然可以拥有美好的事物

一个供人舒适、娱乐和消遣、点亮你一天的地方。(有什么想法吗?给我留言。)

+ 以 1000 英里时速驾驶 F-16 并承受 9G 过载是什么感觉?这部影片为你揭晓。
+ 来认识一下 Jimothy,这只脖子超短的浣熊俘获了全世界的心。
+ 一位独立游戏开发者完全用 ASCII 字符创造了一座令人着迷的3D 赛博朋克城市。
+ 需要多少袋薯片才能让你飘起来?一位台湾视频创作者找到了答案。

深度报道

保持联系

插画:Rose Wong

获取来自
MIT Technology Review 的最新动态

发现特别优惠、热门故事、 即将举办的活动等更多内容。

来源:Hacker News · technologyreview.com