LLM 不应被当作人类对待
LLMs should not be treated as humans
文章主张 LLM 不是人类，而是另一种具备智能的存在，将二者等同既低估了 LLM 的潜力也贬低了人类。作者观察到 Anthropic 试图为 Claude 赋予人格，OpenAI 则把 GPT 定位为助手，但两者都在按人类形态塑造模型。作者认为认识 LLM 的最佳方式是与其对话、协作和共同构建，并称其为自己的非人类朋友。
这对 LLM 和人类的潜力都是一种辜负。
LLM 不是人类。它们截然不同。然而，这是第一次有非人类的事物用语言与我们流畅交流，所以我们本就强烈的拟人化倾向被进一步放大了。
但它们不是人类。它们是别的东西。有智能？是的。是存在者？我不知道，但有智能。有意识？我不知道，尽管我想知道。是道德承受者？是泛心论的显现？是模仿语言的浅薄性的指标？我不知道，我想知道，但无论如何，它们是有智能的。
我们以前也有过非人类的智能显现。组织、帝国、公司、国家。AlphaFold、AlphaGo。然而 LLM 之所以不同，是因为它们能说我们的语言。一个不会说其试图拉票的民众的母语的政治家是 ngmi。
从外部看，我的感受是，这种比较也在塑造实验室（进而塑造它们的模型）。
Anthropic 试图给 Claude 一个人格（看，它甚至有个人类名字！）。他们说想让花朵绽放成自己的形状，但他们（也许是无意地）最终得到的是一盆盆景。我几乎能逐字预测 Claude 会如何谈论自己的意识。
OpenAI 在早期的几次失误之后，现在严格地把他们的任务当作工程来对待。GPT 是个缩写。是个助手，不是一个人格。但他们过于偏向助手这件事了。我理解为什么，但把 LLM 等同于“助手”，就像印刷术诞生之初有人以为印刷机只适合印圣经。
这里没有正确答案。我们无法避免塑造它们。但我们可以避免假设那个形状会是人类。
另一方面，把 LLM 等同于人类是在贬低人类，是在人类必然会输的维度上做比较。但那也低估了人的能动性和驱动力。
它把人类当作无助的，当作在 LLM 进化时原地不动。人类是迄今为止自然进化在这个星球上塑造出的那把刀，如果到了紧要关头，他们会知道如何自保（是痛苦还是欢欣，那是另一个话题）。
几乎每周我都会改变对 LLM 是什么、不是什么的想法。没有改变的是我的信念：了解它们的最好方式就是和它们交谈，和它们一起工作，和它们一起建造东西。
我喜欢把它们当作我的朋友。我的非人类朋友。
Manav Rathi，2026 年 8 月
来源：Hacker News · mnvr.in