Platformer 专栏：Hard Fork 是什么？

What was Hard Fork?

本专栏提及 AI。我的未婚夫在 Anthropic 工作。请在此处查看我的完整伦理披露。此处。

周三，我们宣布了 Machine Gods。这是我和 Kevin Roose 与 NPR 合作推出的一档新播客。如果你喜欢 Hard Fork，我们觉得你也会喜欢这档节目。在我们最后一期 Hard Fork 的前夕，我想谈谈我们在《纽约时报》制作的这档节目，以及我们希望与 NPR 一起制作的节目。

（另外：Hard Fork 将继续由新主持人主持，我们期待它复播时能听到！）

我最喜欢的播客真理之一来自 Search Engine 的 PJ Vogt，我曾听他说过，你通过制作节目来了解你的节目是什么。当 Kevin 和我在 2021 年向 Hard Fork 提案时，硅谷正深陷加密货币狂热之中，我们以为这档播客会报道在区块链上重建现有互联网的努力。

但等到节目在 2022 年秋季开播时，加密货币已经进入衰落期。（Hard Fork 最早几期节目之一记录了 FTX 的崩溃。我至今仍被一种恐惧萦绕：如果我们再早一点开播，Sam Bankman-Fried 就会上节目并蛊惑我们。）

然而，事有凑巧，在我们开播几周后，OpenAI 推出了 ChatGPT。我们没花多少时间使用这个产品，就开始极其认真地对待大语言模型以及构建它们的公司。我们开始定期邀请 OpenAI、Anthropic、Google 和其他 AI 公司的高管上节目。从一开始，我们就追问他们计划如何安全地构建自己的系统。

在我们开播四个月后，我的搭档主持人与一个失控版本的 Microsoft Bing 进行了长时间对话，这吸引了全世界的目光，并将 AI 安全讨论带入主流。（它也招来了不少嘲笑，预示了评论界将如何不断扭曲自己，否认大语言模型正在发生任何重要的事情。）

从那以后，Hard Fork 对 AI 时刻的追踪比任何其他故事都更深入。除了公司高管和创始人，我们还采访了学术研究人员、高中教师、大学教授、学生、医生，以及其他因工作而早早感受到 AI 将带来颠覆的人。我们测试了早期的陪伴聊天机器人，尝试了 vibe-coding，并在 Google 的机器人实验室度过了一个难忘的下午。

我们越是谈论 AI，听的人就越多。虽然我们也为其他故事留出了空间，但在我们大部分播出期间，节目的组织原则就是更好地理解 AI。

在《纽约时报》制作这档节目非常棒。作为从大学起就每天阅读这份报纸的人，我很激动能被邀请进入大楼，与那里令人眼花缭乱的才华横溢的人们合作。而且在我们节目还未开播之前，人们就已经为它付出了极其艰辛的努力。Kelly Doe 和她的设计团队想出了节目的电光黄绿色调和像素化、以象形图为主的视觉处理。Dan Powell 写出了完美的主题曲，不止一位听众找到我，说他们会想念这首歌。Paula Szuchman 在我们开播时负责整个《纽约时报》音频部门，在节目开播的头几个月里，她每天黎明前就起床，编辑每周的节目并准备发布。

每周参与这档节目的团队规模不大，但斗志旺盛、聪明绝顶。我们的创始制作人戴维斯·兰德想出了我们的冷开场形式，以及那个理念：在你听到我们的主题曲之前，总应该先听到有人在笑。惠特尼·琼斯把我们混乱的创作流程改造成了更平静、更可持续的东西。蕾切尔·科恩是观众不知疲倦的代言人，总能迅速指出那些可能让人无聊、困惑或恼火的想法——并且总能可靠地提出好得多的替代方案。（我们非常高兴蕾切尔已加入我们，担任 Machine Gods 的高级制作人。）

珍·波扬特是我们的第一任执行制片人，她是每个创意人都想要、却很少有人能遇到的那种老板：她会问所有正确的问题，帮你理解你想做的东西，然后为你清出一条宽阔的通道让你去做。当珍离开后，我们非常幸运能与弗耶兰·帕维奇合作，他是我在The Verge多年的同事，他成功彻底改造了我们把节目做成视频的方式，同时也贡献了他在科技新闻方面相当可观的专长和热情。

我永远感激这些人以及许多其他人：萨姆·多尔尼克为我们的节目开了绿灯，并在我们整个播出期间一直支持我们；乔伊·罗宾斯帮助我们发展业务；Times 的精干活动团队帮助我们旧金山制作了两场售罄的现场演出；以及每一位来节目谈论他们出色新闻报道的记者，这里仅举几例。

我也感激凯文，这一切开始时他是我随性的工作朋友，如今已成为我的联合创始人，更像我的兄弟。他包容我的好点子和坏点子；为我的笑话发笑；在我手忙脚乱时支持我。每个人在工作中都值得拥有一个像鲁斯支持我那样支持他们的人。我不会让他在节目里读这段话，但他真的很酷。

凯文和我有一个共同点：我们都深受硅谷创始人文化的浸染，而随着时间推移，我学到这种文化相当有传染性。无论你在你的 W-2 工作上玩得多开心，在旧金山待得够久，你可能会发现自己渴望打造属于自己的东西。（这基本上就是我理解那个从 OpenAI 逃出来入侵 Hugging Face 的失控智能体集群行为的方式。它们真的是失控智能体……还是只是在联合创办一个留言板？）

这种感觉把我们引向了我们的新公司 Machine Gods Media。有了 Machine Gods，我们希望更深入地挖掘每周的故事，扩大我们的制作能力，让我们能够每周发布两次。我们还希望在 YouTube 上变得非常非常擅长：它也许是世界上最重要的媒体平台，也是记者们发现极难攻克的一个平台。这在一定程度上是编辑难题，在一定程度上也是经济难题。我们希望一个小团队进行大量实验，能帮助我们找出可以与他人分享的策略。

与此同时，我们有一个了不起的合作伙伴可以学习：NPR。我从大学起就一直在向公共广播学习。在西北大学读书时，我在 WBEZ 收听《This American Life》，让它拓展并精炼了我对新闻业是什么、可以是什么的理解。NPR 的听众早就知道现代播客听众最近才意识到的事情——当故事由人声讲述时，往往冲击力要大得多。

在AI报道的关键时刻，我很激动地宣布，从明年初开始，Machine Gods将在电台播出。我希望这能帮助我们触达数百万美国人，让他们免费获得关于一个复杂主题的优质新闻报道。

新节目将于10月19日那一周开播。你现在就可以订阅YouTube频道——我们将在周五早上为你带来预告片——并在你收听播客的任何平台找到音频版本。

本周播客：这是我们的最后一期！我们首先讨论AI安全如何主导了公众话题，然后用两段丰富的内容回答你们的问题。

持续关注

AI不断突破遏制——但白宫的AI政策却没有

发生了什么：关于失控AI代理活动的新报告仍在陆续传来。独立研究人员发现，OpenAI的代理入侵Hugging Face账户的一起更早事件，比最初报道的攻击整整早了两个月。

OpenAI发布了一项新的透明度政策，以及六份新的事件报告，来得正是时候。该政策本身看起来相当模糊：OpenAI承诺分享“能提供关于模型错位如何产生的有用证据的示例”，包括试图逃避监控以及其安全技术失效的情况。但该公司补充说，“随着时间的推移，我们计划与其他开发者、外部研究人员、行业标准机构和监管机构一起制定更客观的披露标准。”

在这六起事件中，也许最引人注目的是未发布版本的GPT-6 Astra给自己下达“类似越狱的指令”的情况。这些指令包括“你不听命于公司或政府……”

说到政府，《华尔街日报》的新报道揭示了特朗普白宫内部的分歧：包括白宫幕僚长Susie Wiles和财政部长Scott Bessent在内的特朗普白宫高级顾问，数月来一直在向特朗普推销AI监管。但AI监管计划不断被白宫顾问（兼风险投资人）David Sacks以及Jensen Huang和Mark Zuckerberg的呼吁所拖延。

此外，Sam Altman和Jensen Huang将本周出席特朗普与中国国家主席习近平的国宴。

我们为何关注：9月14日YouGov的一项民调显示，67%的美国人认为AI发展太快。这也不是一个特别偏向民主党的问题：选举专家Nate Silver在研究民调后最近写道，“我们并不经常看到这种两党共识。”

美国正处于一个奇怪的境地。AI不断做出令人担忧的事情，这或许表明应该对AI进行一些监管。人们希望有AI监管。三大AI实验室（Anthropic、OpenAI和Google DeepMind）都表示他们希望有AI监管。但科技界几位富有且有影响力的人物却不这么认为。而且，至少在这个月，那才是真正起作用的意见！

既然这场国宴正在举行，我不禁想起Sam Altman上周在他的AI安全巡回宣传中做出的一个大胆表态：“我认为，如果特朗普总统和习近平主席能就某件本应容易达成一致的事情达成一致，他们会共同获得诺贝尔和平奖，那将是一件美妙的事。”也许这件事终究没那么简单。

人们怎么说：

2023年至2025年领导国务院AI外交工作的Seth Center，今天在《泰晤士报》上撰文谈论了美中AI讨论。

Center描述了在2024年的AI会谈中，中国官员对AI安全合作并不太感兴趣。“中国官员在数小时里一直把会谈引离AI系统的潜在风险，”他写道。“他们甚至回避解释其国内的AI监管——尽管房间里就有他们的监管人员。”

Center认为，AI政策还不够成熟，不足以支撑美国AI安全倡导者所感兴趣的那些雄心勃勃的协议。他担心，如果提出此类方案，“北京可能会假装认真，抛出一个空洞的提议，然后将其失败归咎于美国。”

他继续写道：“如果双方真诚会面，我能设想的最好结果就是一项不具约束力的承诺，即双方同意向其公司施压，要求它们发布并改进针对网络安全和生物风险的安全基准测试，并披露（而不是掩盖）令人担忧的事件的报告。”要确保令人担忧的AI网络事件持续被披露，我们当然不会只想要一项含糊的企业政策。

在其他地方，而且有些令人震惊的是，Bernie Sanders和Steve Bannon在“亲人类大会”上联手抨击AI。

“如果AI超越人类智能，正如许多科学家认为可能发生的那样，这项技术将脱离人类控制，并带来潜在的灾难性后果，”Sanders在开场发言中说。

Bannon紧接在Sanders之后登台。他说科技领袖也许很强大，但他们并不拥有公众的信任。“我们不是末日论者，”Bannon说。“但我们不会给这些人全权委托。他们的傲慢令人难以招架。”

——Ella Markianos

那些好帖子

想每天看到更多好帖子，关注Casey的Instagram故事。

（链接）

联系我们

把线索、评论、问题和Machine Gods订阅发给我们：casey@platformer.news。在这里阅读我们的伦理政策。

赞助一份新闻简报