对 AI 安全灾难的关注，掩盖了日常性伤害

想一想技术政策中什么才算成功。一家人工智能公司承诺其聊天机器人不会鼓励自杀。一个社交媒体平台让儿童更难买到芬太尼。这些都是重要的保护措施，本就应该一直存在。但企业可以跨过这些低门槛，同时继续制造让年轻人依赖模拟友谊、或困在旨在让他们不停滑动的信息流中的产品。

我们历来任由技术辩论被产品可能做的最坏之事所定义，却极少讨论它每天造成的隐性伤害。随着我们迈入由强大AI产品定义的时代，我们应当要求科技行业做的不仅仅是应对灾难性伤害。我们应当采取措施，确保其产品不会侵蚀我们思考、学习和相互交往的方式。

 一个对AI伴侣产生不健康依恋的青少年，可能永远不会出现在诉讼或报纸上，除非是最恶劣的案例。那个开始依赖聊天机器人写每一篇论文的学生，或者那个用旨在激发嫉妒、让人不停观看的社交媒体信息流来衡量自己生活的年轻人，同样不会。一款产品可以满足每一项狭窄的安全要求，却仍然以并不总能登上头条的方式让我们的整个文化变得更糟。

围绕安全来定义的狭隘成功观，对科技行业来说在政治上很方便，而企业也在积极推广这种定义。采取措施防止惊天灾难对生意有好处：这可能意味着更少的诉讼和更小的严格监管压力。直面依赖的日常后果，则需要一些对其利润底线威胁大得多的东西。这可能意味着要求企业给产品增加更多摩擦，或主动限制导致负面结果的参与度或功能，比如令人上瘾的注意力劫持算法。

科技巨头反而致力于围绕它们已经面临直接压力、必须应对的伤害来塑造立法。例如今年，谷歌在几个州支持了监管AI聊天机器人的法案。这些立法规定了对色情内容和宣扬自残的基本保护——科技公司本就应当建立这些保护——但带有宽泛的豁免条款，可能使一些最受欢迎的服务免受约束。通过这些法案让立法者得以宣称取得了一场安全胜利，而推动更强立法的努力——旨在防止儿童对AI产生情感依赖的法律——却失败了。这套剧本在内布拉斯加州等地奏效，产生的立法深受行业影响，牺牲了本可以更多追究企业责任的法案。

我们已经在社交媒体上经历过类似的情况。在全球范围内，如今使用互联网的人平均每天在社交媒体平台上花费超过两个小时——这些时间被悄然从日常生活中夺走，交给了那些利润依赖于把我们留在平台上的公司。除了少数科技公司CEO之外，恐怕没有人希望这些算法占据我们清醒时分的如此大比例，而它们的文化工程实际上可能助长毁灭性规模的暴力。Meta的平台曾被指助长了缅甸的罗兴亚种族灭绝、斯里兰卡的反穆斯林骚乱，以及据称在埃塞俄比亚提格雷战争期间煽动暴力的呼吁。同样的激励机制也作用于那些塑造美国年轻人对政治、同龄人和更广阔世界理解的信息流中。

AI正在将这一逻辑延伸到社交媒体只能从远处影响的生活领域。它提出替我们思考，并替代我们原本可能求助的人。三分之一的青少年如今选择与AI伴侣讨论严肃问题，而非与其他人交流。麻省理工学院的研究人员发现，使用ChatGPT写论文的年轻人在任务期间表现出更弱的大脑连接，他们的证据表明，即使任务完成后，“认知债务”依然存在。关于长期影响，我们还有很多需要了解。我们已经有理由质疑：那些被宣传为让我们更有能力的科技，是否正在侵蚀那些最初帮助我们培养能力的习惯和人际关系。

顺着这种思路推到其逻辑终点，你会得到一个完美净化的娱乐世界，聊天机器人随时准备替我们免除思考的困难，或应对他人（甚至我们自己）情感的麻烦。但任何曾努力写出值得一读的东西、或修复一段受损友谊的人都知道，在这笔交易中会失去多少东西。我们通过努力和摩擦来建立判断力，我们通过直面他人有自己的需求和观点这一事实，学会与他人共处。 

我们当然应该把安全作为最低要求——然后要求更多。科技公司和学区应该在被允许将AI作为教室固定配置之前，证明其能改善学习和批判性思维，且达到排除合理怀疑的程度。应禁止公司设计假装有意识或向用户表达爱意的伴侣，并且它们应接受独立审查，以评估其系统如何影响人际关系以及人们独立思考的能力。那些已将产品插入现代生活几乎每个角落的公司，所承担的义务远不止于避免下一条可怕的新闻头条。

Sam Hiner是Young People’s Alliance的联合创始人兼执行董事，他在该组织协调了一个倡导者联盟，于2026年在八个州通过了监管AI伴侣的法律——例如加利福尼亚州的SB1119。Sam于2025年毕业于北卡罗来纳大学教堂山分校，并入选2026年 Forbes 30 Under 30社会影响力榜单。

Emma Leiken 是 Hopelab 旗下负责任技术青年力量基金（Responsible Technology Youth Power Fund）的执行董事，该基金已为青年主导的科技问责工作筹集了超过 900 万美元，她还在哥伦比亚大学国际与公共事务学院教授技术政策。她此前曾任 TikTok 全球青年安全与福祉政策负责人，并在 Omidyar Network 从事负责任技术相关工作。