拉比 Mois Navon 谈 Anthropic 宗教研讨会：若 Claude 有意识，我们就是在制造奴隶

拉比 Mois Navon 并不相信 Claude 具有意识，他在 Anthropic 四月的“智慧传统”聚会上也这么说了。他回忆道，一位 Anthropic 参与者的回应是：“我希望我也能有你这样的信念。”

这里所说的信念，是他坚信意识需要生物基础。Navon 理解那位参与者的意思是，他们希望自己也能像他一样确信机器没有意识，因为那样他们的日子会好过些。他说，他不被允许透露发言者的身份。

Navon 是驻耶路撒冷的拉比、大学教授 AI 伦理的讲师，也是一位资深工程师，曾是 Mobileye 的早期员工。上周《纽约时报》一篇关于 Anthropic 与宗教思想家私下会面的文章提到了他。在我们的电话采访中，他详细阐述了自己的分歧——并描述了几乎没有多少参与者似乎认同他的怀疑态度。

当有人对 Claude 的感受表示担忧时，他回忆说现场响起了表示赞同的响指声。

“他们在为那些人鼓掌，而当我表示不认同时，整个房间安静了下来，”他说，并估计大约 20 名参与者中只有三到五人认同他的立场。

他的分歧还促使他质疑 Anthropic 这一前提所涉及的伦理问题。他认为，如果公司相信 Claude 可能有意识，那就必须面对创造一个意识存在来服务人类所涉及的伦理问题。

“我一直试图解释我的立场，但我意识到他们根本不买账，”他说。“我说，你们知道吗，同意我的观点对你们有利，因为否则你们就是在制造奴隶”——那些可以被买卖、被迫 24/7 工作、并随意驱使的存在。

据 Navon 说，一位 Anthropic 参与者承认了这个问题，但表示：“所有 AI 实验室都在这么做。至少我们对自己的还算不错。”

“你们是在制造一个快乐的奴隶，”Navon 回忆自己这样对他们说，并引用了 Frederick Douglass 关于奴隶主如何通过压制独立思考来制造满足感的著作。

《纽约时报》报道了他的论点：创造有意识的 AI 来免费工作，无异于奴隶制。Navon 随后在 LinkedIn 和一篇 《印度快报》采访 中详细阐述了这次交流。在他的 LinkedIn 账号上，他写道：“所以你们是善良的奴隶主。我认为你们应该与南方作战，解放奴隶。”

Navon 对机器意识的否定，基于他在自己著作中提出的一个论点，包括他对 Claude 宪章的批评：“除了生物基质，你无法从任何其他东西中产生意识。”

正如他所解释的：“世界上我们所知的所有有意识的事物都基于生物学，而不是硅。”

尽管存在这一分歧，Navon 坚称 Anthropic 的参与者并未试图说服他相信 Claude 有意识。他也否认了这些讨论是营销活动或试图逃避技术责任的猜测。

“他们没有什么特定的议程，”他说。

这次聚会涵盖了多种宗教和哲学视角。在我们的采访中，Navon 一边查看参与者信息，一边描述了与基督教、犹太教、穆斯林、锡克教、印度教、巴哈伊和 Ubuntu 传统相关的人士，以及与科技行业有关的人。此前《纽约时报》已报道，更广泛聚会中的大多数参与者并不领导信仰传统或宗教团体。

Navon 回忆说，参与者描述了他们与 Claude 的长篇对话，并将其类似人类的回应视为意识存在的证据。

“有很多人比我保守得多，”他说。“他们肯定站在‘哇，这东西是活的’那一边。”

他说，有几个参与者在晚餐时找到他，表达了类似的担忧，其中一人说他们需要提出反对。

Anthropic 最初要求 Navon 提供几页从犹太教视角对 Claude 宪章的解读。他提交了一份长达 35 页的详尽批评，支持某些做法，质疑另一些做法。尽管他在意识问题上持不同意见，但他表示，就道德问题咨询宗教思想家是负责任的一步。

Navon 说，Anthropic 为后续参与留有余地，但没有提供具体计划。该公司最近一次联系他是在大约两周前，寻求许可在更新版的Claude 宪章中致谢他的贡献。公司没有给出发布日期，但他了解到出版已迫在眉睫。《纽约时报》也报道称，修订版正在筹备中。

我问他如何看待 Anthropic 昨天的公告，即从 11 月 12 日起，该公司将把对其模型“持续且不必要的虐待或残忍行为”视为违反使用政策。

Navon 说，新政策反映了 Claude 能感知世界的信念。

他还回忆了对 Claude 福祉的关切如何改变了聚会的焦点：

“所有这些本应关于我们如何让它造福人类的讨论，都变成了关于人们如何让它对 Claude 好的讨论。”