Microsoft 研究：AI 评测中的意外失败能教会我们什么

Jennifer Neville 是微软的合伙人研究经理，她的职业生涯一直围绕理解和推进 AI 在现实世界中的应用，正如她一直在研究的人机交互一样，她早期的职业道路也是多轮的：数学，然后物理；认知科学，然后工作；最后是计算机科学——尽管她尽力避免进入这个领域。

在与首席应用科学家 Chad Atalla 的对话中，她探讨了评估在推动当今 AI 系统性能边界以满足用户需求方面所扮演的角色，以及当模型在传统基准之外进行测试时出现的“令人惊讶的失败”。Neville 还分享了与当前 AI 系统合作的实用指导，并讨论了为什么当结果出乎意料时，仔细审视数据很重要，以及数十年的 AI 进展教会了她什么关于预测未来的事情。

从意想不到的职业轨迹到 AI 交互和学习的前沿，本期节目提出了一个更大的问题：当路径——无论是人类还是人工的——没有按照我们预期的方式展开时，我们能学到什么？

订阅 Microsoft Research Podcast：

文字记录

[音乐]

JENNIFER NEVILLE： 有时候我感觉自己在原地打转。事情没有进展。我会有点沮丧。然后我们到达了一个点，我们确实学到了东西，那种情感上的激动，那才是真正吸引我的地方。能够理解一些别人还不理解的东西……

CHAD ATALLA： 当然……

NEVILLE： ……因为它正处于我们对事物认知的前沿。

标准介绍： 这是 Microsoft Research Podcast，微软研究人员——通过基础科学和技术研究推动进步——探索计算和 AI 中的人物、方式和下一步。

[音乐结束]

CHAD ATALLA： 大家好，欢迎。我是 Chad Atalla，微软研究院的应用科学家。

今天，我请到了 Jennifer Neville，她是微软研究院的合伙人研究经理，也是普渡大学的 Samuel D. Conte 计算机科学和统计学讲席教授。

她的研究考察了交互领域和结构化数据的机器学习和 AI，研究 AI 系统训练所依据的数据点如何影响其行为，以及这与用户实际需求如何对齐。

在这项研究中，她发表了 130 多篇论文，被引用超过 10,000 次，并获得了国家科学基金会 CAREER 奖、IEEE“10 to Watch”AI 名单（在新标签页中打开）的一席之地，以及国际数据挖掘会议（在新标签页中打开）和国际学习表征会议的最佳论文奖。

Jen 的工作最让我惊叹的是她的远见，以及她在 AI 领域发展过程中始终保持一条连贯主线的能力，我很期待听到更多关于她如何走到今天这一步的故事。

Jen，感谢你加入我。

JENNIFER NEVILLE：谢谢你邀请我。

ATALLA：太棒了。嗯，我很想了解你是如何走到今天的。让我们把时间倒回很久以前。我小时候想当一名天体物理学家，但当然，现在我拥有的是计算机科学背景。你是什么时候知道自己想进入计算机科学领域的？

NEVILLE：这是个好问题。我……在我成长过程中，我想做任何事，唯独不想做计算机科学，因为那是我爸爸从事的领域，我想做任何事，唯独不想做我爸爸做的事。所以上大学时，我先是主修数学，然后主修物理，但我真的和这些专业合不来。

于是我从大学退学了一段时间，等我再回到大学时，我改为主修认知科学，但这对我也太软了。里面的数学不够多。那时，如果有人告诉我：“AI 才是你应该做的事，因为它把认知科学与数学和计算思维结合了起来，”我想我会省下很多时间，[笑声]但那样的事并没有发生。

于是我先工作了一段时间。后来当我重返校园时，我决定主修计算机科学，因为我想做的是思考如何与数据打交道、处理数据。就在那时，我发现了 AI。纯属偶然。我甚至都没真正意识到它是计算机科学的一部分。

ATALLA：太棒了。嗯，进入计算机科学领域并想从事数据或 AI 方面的工作是一回事，而想参与这方面的研究又是另一回事。那么，是哪些问题或宏大的想法激发了你的研究动力？

NEVILLE：是的，这其实也是个有趣的故事。我之所以进入研究领域，只是因为我在攻读计算机科学学位时参加了荣誉项目，而作为荣誉项目的一部分，你必须做一个研究项目[笑声]。

ATALLA：这是强制性的，是的。

NEVILLE：这是强制性的。所以当我和教授们讨论研究项目应该做什么时，他们实际上说：“嗯，你必须决定你想研究什么课题。”

那时，我对数据感兴趣，对 AI 感兴趣，我想了很多。我读了很多东西。我决定想研究的是如何对相互关联的网页数据进行数据挖掘，所以……当我决定这就是我想研究的课题时，我被引荐给了一位特定的教员……

ATALLA：不错。

NEVILLE：……他当时刚刚开始在这个当时还处于萌芽阶段的领域工作，这个领域叫统计关系学习。我们在其中完成了我的项目，我在一个研讨会上发表了一篇论文，然后我就有点上瘾了。

ATALLA：好，是的。

NEVILLE：所以我本来没打算读研究生，但那段经历……

ATALLA：是的。

NEVILLE：……让我想继续读研究生并坚持下去。

ATALLA：不错。你觉得是哪一部分让你着迷的？是那种做研究的兴奋感吗？还是会议的氛围以及学术出版的样子？

NEVILLE：真的是做研究的那种兴奋感和过程。那是一个很长的项目。有时候我觉得自己在原地打转。事情不顺利。我会有点沮丧。但我的导师会给予支持，态度积极，说：“不，继续做下去。我们正在学到东西。”然后，然后我们就会到达一个我们确实学到东西的节点，那种情感上的兴奋感，那才是真正让我着迷的。能够理解一些别人还没理解的东西……

ATALLA：当然。

NEVILLE：……因为它就处在我们对事物认知的前沿，呃，那简直就像毒品一样，对吧？[笑声]所以它让我在研究中坚持了这么久，同样的，同样的……追逐着同样的感觉。

ATALLA：明白了。好吧，很喜欢。是的，你在2021年从学术界加入了微软。事实上，你现在仍然是一名教授，已经教学和指导了20年。是什么促使你转变，让你的一部分职业生涯变成了在产业界做研究，你会如何描述产业界研究与学术界研究的区别？

NEVILLE：我的研究，可以说，横跨了从理论到应用的整个谱系。当我获得终身教职后进行第一次学术休假时，我很多处于职业生涯同一阶段的同事都去了产业实验室休假，然后再也没有回到普渡大学。我考虑过自己想走哪个方向，是更偏理论还是更偏应用，我当时觉得在职业生涯的那个阶段，最好去探索理论方面，因为那样我可能真的会回到普渡大学。

于是我去伯克利的西蒙斯研究所进行学术休假，那非常偏理论。那是一次很棒的经历，但过渡回学术界可以说是无缝的。在我的第二次学术休假时，我走了另一个方向，也就是来到MSR[微软研究院]在这里休假。当然，能够看到理论中的算法，在实践、真实系统、真实用户和真实数据中如何表现——也就是真正见真章的地方——那是很难回头的。所以这就是为什么我现在还在这里。

ATALLA：明白了。

NEVILLE：所以我认为学术界研究和产业界研究的区别取决于……实际上受到你研究目标所在之处的影响。所以我认为从根本上说，感觉非常相似，你在学术界和产业界会问的问题，但在产业界，你在真实数据上、在真实系统中大规模应用它的能力，与学术界真的非常不同，而在学术界，我认为你最终会问更抽象的问题，这些抽象问题同时覆盖许多不同领域的应用。而这就是你从DARPA[国防高级研究计划局]和NSF[国家科学基金会]这类地方获得资助的方式。

但在工业界，你知道，直接动手实践、在真实系统中去做会稍微容易一些。然后你的目标就是产品和公司的利益。所以随着……这种情况的变化，也许你会提出或调查的问题类型也会改变。所以我认为实际上能……

ATALLA：是的。

NEVILLE：……在两个地方都待过是很好的，对吧？就像，两者之间有很多协同效应，而且我认为有很多机会可以去工业界再回到学术界，或者从工业界起步然后去学术界。但眼下，如果你在做AI系统方面的工作，我认为工业界确实是该去的地方。

ATALLA：明白了。是的。对于现在正在决定职业生涯该走哪条路的人来说，这或许是有用的建议。

我在微软已经待了六年多一点，其中大部分时间都在做AI评估，当然，这个领域有许多艰巨的根本性问题和挑战。

我最初接触到你的工作、了解到你的工作，是因为你的一部分工作为其中一些问题提出了解决方案，并帮助指出了这些问题。我的第一反应是松了一口气，因为有像你这样出色的人在研究这些事情，你会替我们搞定它。我非常欣赏你如何在对AI评估的批判和沿途提供解决方案之间取得平衡。

但我知道那只是你更广泛研究议程中的一小部分。那么你会如何描述你在这里领导的团队当前的研究章程？

NEVILLE：我们的团队叫AI交互与学习团队。我们真正关注的是尝试在真实的工作环境中推动这些AI系统行为的前沿。所以这涉及研究当前系统性能的边界在哪里，用户在实际工作流程中如何体验这一点，然后我们如何改进并推动模型在这些用户正在处理的复杂任务上的性能。

我们关注评估的原因是，我们发现机器学习和AI人员评估的标准方式是通过基准测试，而这些基准测试相对于人们在实际中如何使用它们来说相当简单。所以我们发现你真正需要做的第一件事是问，我们想从这些系统中得到什么？并设计实用的评估，把系统置于那种环境中。所以这意味着多轮行为、协作环境、用户正在做的长时程任务等。

然后一旦我们能看到那些评估中出现的性能差距或问题在哪里，那也给了我们知识，知道在理论上或算法上我们需要在哪里改进这些系统。

所以我们从评估开始，但最终，我们试图做的是开发更好的算法、模型、估计方法……

ATALLA：当然。

NEVILLE：……来推动模型的性能。

ATALLA：是的，这是理解并因此能够推动边界、改进这些系统的入口。

NEVILLE：是的。

ATALLA：所以你提到了多轮交互和协作环境。你最近有几篇论文专门研究了这些内容，比如LLM 在多轮对话中可能会迷失，或者它们可能在这类智能体式知识工作场景中损坏文档。你能具体多讲讲这些研究项目吗？

NEVILLE：当然。我们……这些都是一些例子，说明我们不得不以某种方式提出创新性的见解，来设计评估方法，从而真正能够控制和测试模型在这些场景中的行为。

所以对于多轮对话，我们所做的是采用单轮基准——也许我应该先退一步说，我们在实践中观察到用户的一件事是，他们往往没有充分说明自己想做什么。他们一开始并不知道如何给出完整的说明。我们作为计算机科学家和软件工程师有时会忘记这一点，但普通用户可能无法在第一轮就完整说明事情。于是他们会在多轮中逐渐弄清楚自己在做什么，并在各轮中不断添加条件和澄清。

所以我们所做的是采用公开的单轮基准数据集，把其中完整说明的单个复杂指令轮次改掉，让模拟用户的模型在多轮中提供这些澄清，然后研究模型——我们现有的所有模型——当这类任务在多轮中被说明时，它们会如何表现。

我们发现，在单轮场景中看到的性能——非常高，因为当然，我们作为模型构建者一直在针对这一点进行优化——实际上在多轮中会显著下降。所以这是一个相当令人惊讶的发现，因为之前没有人以那种……

ATALLA：当然。

NEVILLE：……方式评估过。但当我们把这项研究发布到世界上后，系统的用户都产生了共鸣，……

ATALLA：当然……是的。

NEVILLE：……“嗯，这就是我的经历。我知道那正在发生。我们该怎么解决？”其中一个……所以我们正在研究强化学习方法，来真正帮助模型在这些环境中更好地学习，从而在某种程度上修正那种行为。

但我们在论文中谈到的一个实际解决方案是，如果你最终让模型有点困惑了——如果你是在多轮中说明某件事——那就直接停止聊天，清空所有内容，回到起点，然后根据你现在所知道的，给它一个完整说明的单轮，……

ATALLA：我明白了，是的。

NEVILLE：……然后它在那类交互中会表现得更好。

所以这也许说明，尽管我们从根本上是在寻找模型的算法改进，但有时在这些项目中，我们最终会得出一些关于用户如何改变自己行为的见解……

ATALLA：当然。是的。

NEVILLE：……从而从模型中，比如它们目前所处的位置……

ATALLA：是的……

NEVILLE：……以及它们的性能中获得更好的结果。

ATALLA：是的。我们注意到你研究的一个主题是，我们如何改进这些系统，使它们更好地与用户真正想要的东西保持一致。你在这里提到了一个例子：“嘿，我们知道用户实际上往往不会在第一轮就完整说明他们想要什么，而我们确实有这些长时间的多轮交互。”在你的论文发表后，他们表达了对在多轮对话中迷失方向的这种挫败感的共鸣。

你如何看待理解用户的需求、需要和体验，以及这与你所做的——如你所说，模拟一个用户，例如运行这些更长时间的多轮评估——有何关联？

NEVILLE：是的，那是……能够大规模地看到用户试图做什么，以及他们在系统中遇到什么样的失败和成功，我认为这是你在产业实验室里能获得的一个优势，你能看到那样规模的数据。

所以我们在微软内部与产品团队做了大量工作，大规模分析消费者日志，以找出用户所经历的主要失败模式。而这……提供了我们所做的大量工作的那种洞察或动机。还有很多优秀的产品团队也在分析用户取得的成功，这能让你甚至可以向用户推荐……他们能在我们现有的系统中成功完成哪些类型的任务。

我想，如果你回想搜索引擎刚出现的时候，人们必须学会如何与搜索引擎交互……

ATALLA：当然。

NEVILLE：……以某种方式有效地获取他们正在寻找的信息。我们现在可能已经忘记了那曾经发生过，因为在所有这些 AI 系统出现之前，那已经是每个人都会做的事情的一部分。但现在我认为正在发生从搜索引擎向这些基于聊天的系统的转变，而且我认为用户也必须有一些学习，……

ATALLA：对，是的。

NEVILLE：……在这个新环境中。而且我认为，分析用户所做事情中成功的那些方面，是一个很好的起点，可以用来推荐……

ATALLA：是的。

NEVILLE：……并以同样的方式辅导或教导用户。

ATALLA：我很喜欢你指出查看真实数据的效用，但那实际上意味着什么？你们真的在查看真实数据吗？隐私在这里如何介入？你们有什么样的流程来负责任地利用现实世界中的数据？

NEVILLE：哦，是的，这是个好问题。谢谢你提出来。我们实际上并不是在查看数据。我们是在以保护隐私的方式大规模分析数据，以提取失败或成功的模式。还有很多很多限制，我们实际上不能亲眼看到数据。我们只能，某种程度上，在非常受限的环境中推送方法来处理数据。然后，嗯，然后这些，某种程度上，经过隐私保护的高层洞察，才是后来推动我们算法上要做的事情的东西。

所以，明确一下，我们不会用你的数据或你的回复进行微调，但你在回复中提供的细节越多，无论是通过捐赠信息，还是当你点踩并给出描述，或者在你与模型的聊天互动中，这些最终都可能被提炼成改进模型的东西，而不是通过人工查看你一直在做的事情。

ATALLA：你提到从搜索作为主导模式转变为这些多轮聊天互动。但现在我们也看到代理式和协作式知识工作任务变得更加相关，并注意到你在这方面也做了一些工作。还有其他有趣的发现想与我们的听众分享吗？

NEVILLE：是的。我们既有理论工作，试图描述那些对Transformer来说在模型内部计算本质上困难的任务类型，也有更多基于模拟的工作，我们研究在长周期工作流中执行的复杂任务，例如，你拿一些文档，并对这些文档进行反复编辑。

在这些环境中，模型甚至代理的任务复杂性在于不仅要跟踪用户在这个长周期工作活动中打算做什么，还要理解当前状态是什么，哪些信息相关，哪些不相关，事情如何变化。这些是代理开始相当擅长的事情，但有些特定类型的任务比其他任务更容易。

ATALLA：当然。

NEVILLE：所以我们关注的是，哪些类型的任务复杂性对当前代理来说变得过高，以及如何解决。代理使用工具的最佳方式是什么？引入人类参与是否更好？我们如何知道事情出了差错？所以让……甚至让代理自我监控，评估它们是否正确回答了问题，或者是否应该回滚到之前的状态。我认为这些都是目前悬而未决的问题。

但我们有……我们确实有一些工作表明，再次，随着这些工作流越来越长，我们会遇到令人惊讶的失败，因为错误，如果你不抓住它们，会累积……

ATALLA：是的。

NEVILLE：……并开始让AI更加困惑，因为它们必须在反复互动中执行任务。

ATALLA：是的，“令人惊讶的失败”这个说法对我来说很有趣。它暗示了一种期望，“嘿，这应该做得更好，我很惊讶它以这种特定方式失败了。”你觉得你看到更多这些令人惊讶的错误，还是很多错误是预期的，你会理解它会以这种方式或那种方式失败？

NEVILLE：是的，我认为，我认为肯定有预期的失败，因为那些……嗯，当然，随着我们努力让系统越来越好，预期的失败更少了。

ATALLA：对。如果我们能预期它们，那么我们就能修复它们。

NEVILLE：没错。但像幻觉这类问题，是社区里长期以来一直在描述的那类失败，并且有专门的基准测试和方法来尝试减少这些问题。

我认为我的团队最终会去寻找那些几乎令人惊讶的失败，因为它们不是传统的失败，而且往往很难隔离并证明它们正在发生，因为它们非常微妙，不会仅仅表现为对数学问题的错误答案或法律意见中的幻觉案例，而是文档中语义内容的这种微妙丢失。而且我认为，如果我回顾一下我们和团队所调查的内容，我们有一种假设，即我们认为作为人类，对我们来说困难的事情，对模型来说也会是困难的。而事实上，情况往往并非如此，因为我们必须考虑对 Transformer 来说实际上什么难以计算，对它们的检索系统来说什么难以从底层内容中检索……

ATALLA：对。

NEVILLE：……从底层内容中检索。

所以我认为“令人惊讶”的来源在于，我们作为人类可能认为非常简单的事情，或者我们认为如果之前有一个任务被正确完成了，我们现在就认为同样的任务应该可靠地再次被正确完成。但事实上，对于 LLM 来说，情况未必如此。所以我认为，这种惊讶是随着我们基于人类智能对难易的预期而悄然出现的。

ATALLA：是的。那么，在用户可能基于他们对这些系统擅长什么的预期（也许是基于对人类智能的反思）而产生的这种困惑，以及外面存在的所有炒作和营销之间，你希望真实用户从中得到什么？或者鉴于你在这里的工作，你会如何提醒他们思考他们对 AI 系统可能拥有的能力和期望？他们怎样才能穿透这些噪音，建立更好的期望？

NEVILLE：哦，这是个好问题。我认为，我认为当前的 AI 系统有很多能力，这些能力现在对人们在工作中会非常有用。我认为我们从工作中得到的启示是，你不应该期望它们在所有方面都 100% 成功。你应该检查你得到的答案。如果你得到的东西你认为不正确，你不一定就要假设模型完全做不到。但你应该考虑再问一次，或者换一种方式问，下一次你可能会得到更好的答案。

这很难融入我们目前的工作方式，因为我认为你不能……它们还没有准备好把一切都 100% 委托给它们。但如果你能弄清楚如何在一个有监督和验证的工作流程中与它们一起使用，我认为它们可以非常有用，可以提高生产力以及你完成事情的速度。

所以……也许另外要说的是，你知道，请对我们有点耐心，因为[笑声]我们是在这些系统发布的同时实时开发它们的。所以你的使用能帮助我们真正推动模型的边界，因为它给了我们哪些事情能做、哪些不能做的例子。

也许我还想说的另一点是，用户可能不太理解的是，过去在使用基于搜索的系统或推荐系统时，我们作为用户能给出的反馈只是那种点赞、点踩。但现在我们处在一个实际上可以给出高得多的保真度反馈的环境中，这对下游改进模型非常有用。

所以如果你在和模型进行某种聊天互动，要明白如果出了什么问题，实际上说出它是怎么出问题的会很有帮助，在……在你的文字互动或语音互动中真正传达出，比如，到底哪里出了错、你期望的是什么、而你实际得到的是什么。因为这实际上会在我们更新模型时被用到。所以作为用户，你可以这样想：你的角色可以是训练模型去做那些你希望它做、但它现在做不到的事情。

ATALLA：太棒了。这是个有趣的行动号召。

我很好奇。你谈到了我们现在用于这类大型语言系统的 transformer 范式。你认为大型 AI 系统的科学接下来会走向何方？从宏观上，也许这是个非常难的问题，但至少从你的兴趣和研究方向来看，你认为这些系统的科学接下来会走向何方？

NEVILLE：那，那是个，那是个大问题。[笑声]我认为我们……研究界同时在试图弄清楚 transformer 架构是不是合适的底层模型，因为 transformer 中计算的工作方式存在一些已知的局限。其中很多局限可以通过模型外围的包装——也就是我们现在围绕模型构建的智能体框架——以及后端进行的推理来解决。

所以我认为一个悬而未决的问题是，我们能在多大程度上用这种围绕它的包装基础来应对 transformer 架构的局限，以及哪些问题需要用一种根本不同的……

ATALLA：当然。

NEVILLE：……底层架构来解决？我认为我们将看到替代架构和模型的快速发展，以及围绕我们现有模型的精心设计的包装。

我认为在下一代工作中，我们将不得不专注于与模型的更长期互动，并让模型以一种比现在实际得多的方式理解它们所处的世界。但我认为我对正在发生的研究非常乐观。我认为我们会，你知道，在这方面取得成功。

也许回到我刚开始的时候，我的第一份实习是 2000 年在 AT&T Labs。我清楚地记得实习时坐在午餐桌旁下围棋，谈论我们怎么能让，你知道，AI 模型能够，你知道，玩这个游戏，以及它为什么比国际象棋更难，我们能做些什么。

而且，当时我正在学下围棋。我是在9×9的棋盘上学的。我不知道你有没有学过下围棋，……

ATALLA：我没有。

NEVILLE：……但你不是在大棋盘上学的……

ATALLA：哇。

NEVILLE：……因为它太难了，即使对人类来说也是如此，对吧。所以你要从这块9×9的棋盘开始。

而我当时有点像是在观察自己如何学习下棋，并思考算法会如何学习下棋。在我们做这件事的时候，你知道，我们有点像是在猜测AI要花多长时间才能做到这一点。现在回想起来挺有意思的，因为，你知道，在AT&T Labs，很多机器学习与AI研究领域的，可以说是，杰出人物都在那里。人们当时说：“哦，要做到这一点得花50年。”你知道，有些人说100年。但当然，现在这已经是一个被解决的问题了（在新标签页中打开）。

ATALLA：是的。

NEVILLE：所以展望未来，有些事我作为一名研究者可能会想，因为我们要超越目前所看到的这类行为边界实在太难了，人们会有一种倾向，认为“哦，这得花10年”，或者“这得花25年”。

但我觉得，考虑到研究的速度、在这个领域做研究的人数，以及这些模型运行的规模，我认为它实际上会比我作为2000年那个AI新学生时所预想的快得多。所以……

ATALLA：哇。那么，本着这种精神，回顾2000年，让我们想象一下现在向前跳到20年后的未来，或者就跳10年，因为事情发展得太快了。

NEVILLE：[笑]是的。

ATALLA：你希望在这个领域的研究中留下什么样的印记？

NEVILLE：我认为，贯穿我研究生涯的，可以说是，一条共同主线，就是思考复杂系统，以及如何让AI和机器学习在这些复杂系统中发挥作用。所以——甚至现在，这就是我们与协作所关注的重点，我们在思考多人类、多AI的交互。我想……如果我真的从科幻式结果的角度来想，我认为如果我们能在工作环境中开始看到由人类和AI共同组成的团队一起协作，去完成事情并创新，那我们就算成功了；如果我们能让这件事正确运转，那么我就会觉得我的研究是成功的。

ATALLA：太棒了。那么，在我们收尾之际，我觉得来个快问快答会很有趣，也就是快速提问、快速低风险回答，想到什么就说什么。听起来不错吧？

NEVILLE：当然。

ATALLA：太棒了。有哪一条建议让你印象深刻，或者改变了你的看法？

NEVILLE：呃，好吧。不过你说了要简短回答。[笑]

当我刚开始学习计算机科学时，呃，实际上，Doina Precup（在新标签页中打开）是我第一门计算机科学课的助教，当我感到不知所措、觉得自己……别人什么都懂而我一无所知时，她对我说，你知道，不要，不要害怕提问，因为人们可能看起来好像知道发生了什么，但实际上，他们并不知道发生了什么，而且他们实际上会非常感激你有勇气提问，因为他们可能也在想同样的事情。而且，如果你，如果你愿意提问，这对你和他们都有帮助。

所以在我整个职业生涯中，我一直把这一点铭记在心。你知道，你可能会害怕，觉得提问会显得自己很愚蠢。但毫无疑问，一路走来，每当我感到恐惧……但还是鼓起勇气去提问时，我确实发现人们真的很感激。而且，你知道，人们事后会说：“哦，我也在想同样的事情。我很高兴你问了那个问题。”所以，所以要勇敢地提问。

ATALLA：太棒了。你从艰难经历中学到的一个教训是什么？

NEVILLE：看数据。[笑声]看数据。

所以在机器学习中，我们有一种倾向——这也适用于基准测试。我们有，我们有一个测试集。我们运行我们的模型。我们训练它。我们把它应用到测试集上。我们通常会得到一个数字，那就是我们试图提升的指标。所以我们认为如果数字在上升，我们就做得不错。如果数字没有变化，我们就想：“哦，那这个问题太难了。”

但我多次从艰难经历中学到，当事情不顺利时，如果你花时间看看数据，你可能会发现数据中有错误。数据不是你预期的那样。数据与你训练模型时的分布不同。所以任何时候……我想也许这让我成了一个数据人。[笑声]但通常当事情没有按照我们预期的方式表现时，我们会去看数据，试图理解原因。

ATALLA：是的。有道理。这是个好教训。也是个很难的教训。

NEVILLE：[笑]很难记住。

ATALLA：是的。

NEVILLE：而且那……也许重要的一点是，尽管我已经学到了那个教训，……

ATALLA：当然。

NEVILLE：……在我的职业生涯中，我不得不重新学习那个教训至少六次。

ATALLA：是的。那么，反过来，你最引以为豪的成就是什么？

NEVILLE：我想我会说，我能够同时获得终身教职并抚养一个幼儿。

ATALLA：哇，是的。

NEVILLE：我儿子是在我们开始——我丈夫也是教职——所以是在我们开始担任教职之前出生的。所以我认为我能够获得终身教职，我儿子健康快乐，而且我还维持住了婚姻[笑]……

ATALLA：是的，确实。

NEVILLE：……这大概是我最大的成就，呃，是的……

ATALLA： 很大的成就，是的。最后一个问题。艺术或自然以什么方式影响了你的工作？

NEVILLE： 嗯，我不确定这算不算自然，但作为一个 AI 从业者，我一直观察到的一件事是，孩子、人、动物、昆虫似乎是如何了解世界和环境并改变自己的行为的。所以我完全承认，作为一个有幼儿的家长，我非常书呆子气。我会把我们从机器学习中得到的想法拿来，试着看看能不能帮助我儿子学得更好。

比如，当他还是个婴儿、在学翻身的时候，我会说，“好，让我给你一个正向训练样本。[笑声] 来，把你的腿这样动，”然后……

ATALLA： 是的，是的。

NEVILLE： ……然后看看这对他学习的效果，同时也观察他学习的过程，再思考这如何能融入我们开发的算法和模型中。这可能是我职业生涯中一直反复回到的最大互动。

ATALLA： 这很美。是的。

NEVILLE： 谢谢。

ATALLA： 好的，Jen，感谢你分享你的故事和见解。很高兴你能来到这里。

也感谢我们的听众收听。如果你想了解更多我在微软同事的工作，请访问微软研究院页面 aka.ms/research，或者[音乐]收听本播客的其他剧集。谢谢。

[音乐结束]

了解更多：

在新标签页中打开

文章 AI 会犯哪些错误，以及失败教会了我们什么首次发表于微软研究院。