工程伦理应纳入技术培训：Anthropic CEO 呼吁放缓 AI 开发背后的社会技术失败

9月中旬，Anthropic CEO Dario Amodei加入了一个日益壮大的研究者群体，呼吁AI行业放慢脚步。尽管一些人质疑这些研究者对快速发展步伐表达担忧的动机，这一呼吁凸显了安全与速度之间的关键矛盾。根本问题不仅仅是技术错误，而是社会技术层面的失败：快速推进的压力使工程师难以充分评估和管理日益强大的AI系统所带来的新风险。这是一个明确的警告：负责任的工程实践需要的不仅仅是技术专长；工程师还必须理解工作场所的压力、道德与伦理规则，以及植根于他们所创造系统中的社会后果。

此类案例，连同侵入性监控技术和有偏见的AI工具，暴露了工程师在认识和应对其工作的伦理与社会影响方面存在的严重不足。尽管对毕业生进行伦理和社会责任教育的重要性已被广泛认可，但一个持续的缺口依然存在——这些议题往往被视为事后补充，与工程课程的技术内容脱节。这种割裂式的做法使毕业生无力应对现实世界的挑战；事实上，美国只有约三分之一的工程专业人士报告称在正规工程教育中接受过关于其公共福利责任的培训。

我们正致力于弥合这一缺口，设计了两种互补的教学方法：一种将社会议题直接融入基础技术课程，另一种通过一门独立的工程课程培养学生成为“公共福利监督者”。通过将伦理和社会责任培训直接嵌入本科工程课程的核心，我们为未来的专业人士赋予保护公共利益所需的能动性。

伦理与社会责任教学中的缺口

在整个工程行业中，存在一种根深蒂固的观念：技术技能培养是工程的核心，而伦理、社会和公共福利关切则是边缘性的或分散注意力的。这种技术/社会二元论甚至在学术研究的评价中也显而易见。例如，我们最近向一家领先的同行评审工程期刊提交了一篇讨论这一伦理教育缺口的学术立场论文。它被审稿人按照其所描述的那种二元论直接否定了。

一位审稿人警告说，通过将伦理和社会责任培训加入工程课堂来挑战技术技能培养作为“任何工程的基础”的地位，将是“极不负责任的”。另一位审稿人则反对说，将这些考量融入基础课程有可能“分散学生对技术本身的充分吸收”。这些评论忽视了我们工作的核心论点：伦理和社会责任是负责任的技术实践中不可或缺的组成部分。

如今，像 ABET（前身为工程与技术认证委员会）这样的认证机构，以及像 美国职业工程师协会这样的专业执照机构，都强制要求学生的学习成果涉及社会和公共福利后果。但这些课程要求往往过于笼统，且执行力度极小。结果，工程专业学生往往通过入门课程或非工程类课程接受伦理教育，其重点在于行为准则和学术诚信，而非更深层的社会责任议题。这种教学几乎总是与工程师面临的复杂现实困境脱节。

事实上，我们发现只有在实际工程课程中（而非课程体系的其他部分）进行的伦理教育，才能有效地培养专业人士的伦理意识。令人担忧的是，美国只有约十分之四的工程师记得接受过此类培训，而十分之三的工程师表示在其职业生涯中从未接受过关于公共福利责任的培训。这使得大多数从业者未能充分准备好应对工程实践中的复杂挑战。

一种新方法：整合技术与社会维度

为了推进一种新范式——将伦理和社会责任议题嵌入本科工程课程——我们设计了两种创新的基于课程的方法：一个面向基础电路课程的一小时社会技术模块库（在此处和此处有描述），以及一门专门探讨公共福利责任的新工程课程。

第一种方法将相关社会议题的讨论直接融入基础工程课程，学生正是在这些课程中开始形成作为工程师的身份认同。“电路导论”通常是电气工程专业的第一门课程，也是许多其他工程学科的必修课，这使其成为引入社会内容和伦理推理的有力场所。我们为该课程设计了若干一小时的模块，其中社会议题为技术主题提供背景，为那些可能觉得自己不擅长教授伦理和社会责任的教师提供了一个易于操作的切入点。

尽管许多工程教师认识到就这些主题教育学生的重要性，但他们在繁重的教学和科研压力下难以将其融入课程。为克服这些挑战，每个模块都提供即用型材料，包括带讲稿的讲座幻灯片以及作业和考试题目。将这些模块直接融入课程，向学生表明社会技术意识不是“附加项”，而是必备的专业能力。

例如，我们关于医院电力优先级的模块，将电力和等效电路的技术主题与医疗基础设施的伦理挑战联系起来。学生了解医疗环境中“红色插座”的现实情况，就特定病房（如重症监护室、手术室和理疗室）的电力需求展开辩论，以决定在假设的停电期间哪些分支应获得应急电力。

我们的冲突矿产模块将电容器的技术主题与全球钽供应链联系起来。学生们计算手机中使用的钽量，并识别刚果民主共和国等地区的采矿地点，那里的收入往往助长武装冲突和侵犯人权行为。学生们研究苹果和三星等主要公司的冲突矿产政策，并反思他们作为道德设计师和消费者的未来角色。

学生对这些模块的反应非常积极。在访谈中，学生们告诉我们，这些内容帮助他们摆脱了“工程师只关心数学的污名”，并使这项工作更有意义。我们计划广泛分享这些模块，以帮助全球的电路教师弥合技术与社会之间的鸿沟。

除了这些综合模块外，我们的第二种方法是一门独立的工程课程——工程中的公共福利责任（PWRE）——它通过帮助学生准备履行作为工程师的职业义务，来完善他们的社会技术教育。虽然大多数专门的伦理课程以介绍工程师的抽象责任结束，但PWRE帮助学生识别具体的公共福利问题，增强他们在遇到这些问题时采取行动的动机，并教授具体、实用的干预策略。

除了教授学生职业规范，如IEEE道德准则外，PWRE还让学生讨论这些正式定义可能存在的不足，以及工作场所文化等结构性障碍如何阻碍工程师履行这些责任。然后，该课程为学生提供干预策略。学生们了解自己作为举报人的权利和责任，回顾向专业协会寻求建议的策略，并练习撰写评论文章，以向更广泛的公众发出伦理问题的警报。我们的研究表明，该课程在学生伦理能动性方面产生了显著变化，增强了他们在现代工作场所中充当“公共福利监督者”的能力。

面向未来的伦理工程师

当今的工程专业毕业生面临着超越人工智能扩张的复杂社会技术挑战，包括气候变化和全球供应链；他们需要工具来应对模糊性，并在不确定的环境中合乎伦理地行事。为了满足这些不断变化的需求，工程教育必须超越仅专注于培养技术技能的过时教学模式——其中一些技能可能很快会被外包给人工智能。我们必须从根本上重新构想伦理和社会责任的角色，将其嵌入整个工程课程和工程师的职业形成过程中。

所有工程师都学习解决问题，但有伦理的工程师还能辨别哪些问题值得解决，并预测创新对社会的后果。通过将伦理和社会责任作为职业的核心优先事项，我们可以让工程师成为技术的管理者和公共话语中值得信赖的声音。

正如一位学生在参与我们的模块后所反思的那样，“如果我们不决定解决这个问题，我们就是问题的一部分。”