CS2680 Modern AI Systems：智能体与系统优化课程公布 Fall 2026 安排

CS2680 现代 AI 系统：智能体与系统优化

2026 年秋季

公告

2026 年 10 月 8 日作业排行榜已上线。
2026 年 9 月 4 日我们已将容量增加到 80 名学生。
2026 年 8 月 28 日旁听政策：只要学校政策允许且教室有空间，任何人都可以自由旁听。但是，我们没有为旁听学生提供计算资源。
2026 年 8 月 17 日欢迎来到 CS2680 现代 AI 系统：智能体与系统优化！课程在周一和周三于 SEC LL2.229 上课。

概述

本课程沿着一个智能体系统，从智能体循环一路向下贯穿到服务栈。你首先使用一个现代编码智能体（Claude Code），然后使用提供的 API 访问权限设计你自己的智能体，对其进行测量并优化。接着，你自己部署一个开放权重模型，并负责其下的各层：批处理与调度、KV 缓存与前缀复用、路由、量化以及推测解码。

上课时间和地点

周一和周三 上午 11:15 – 下午 12:30 SEC LL2.229

先修要求

CS61，以及至少一门计算机系统方向的研究生课程。假定你熟悉 Python 和 PyTorch。参见我们假定的背景知识。

形式。本课程分为两部分。

第一部分——LLM 与智能体导论。你将学习如何使用编码智能体（Claude Code）以及如何设计智能体。你还会探索各种智能体架构、使用场景和优化。
第二部分——面向 LLM 与智能体的系统。我们将讨论 LLM 服务（批处理、调度、路由、缓存、量化和推测解码）以及智能体系统。

作业沿着这一技术栈分五步向下推进。首先，Mads-Lens¹ 让你观察智能体的工作过程（作业 1）。其次，你在 Mads-Loop 中构建循环（作业 2）。第三，你在 Mads-Opt 中让每个 token 都发挥作用（作业 3）。第四，你在 Mads-Serve 中拥有服务引擎，并在提供的 GPU 上运行模型（作业 4）。第五，你在 Mads-Stack 中优化整个技术栈（作业 5）。

¹ “Mads”是 Modern Agent Design and Systems（现代智能体设计与系统）的缩写，也是本课程的脉络，同时致敬 MaDSys——哈佛的系统测量与设计研究组，本课程由其讲授和支持。

本课程的期望。本课程不会教你完成作业所需的全部知识。它侧重的是用于学习的方法，并为你指明值得探索的方向。预计你需要在课后花大量时间自主学习和实验。如果你想拿 A，请做好这样的打算。

评分。

作业 1 Mads-Lens：观察智能体工作10%
作业 2 Mads-Loop：构建循环10%
作业 3 Mads-Opt：让每个 token 都发挥作用20%
作业 4 Mads-Serve：掌控服务引擎20%
作业 5 Mads-Stack：优化整个技术栈10%
项目20%
课堂参与10%
加分可选展示每次最多 4%；课程反馈最多 6%；当前 AI 无法解决的问题，每个 2%最多 10%

详情见政策页面。

教职人员

Juncheng Yang

讲师

Yiyu Liu

Advaith Ravishankar

Charles Wang

Yunjia Zheng

联系方式： cs2680-staff@g.harvard.edu 请使用此邮箱咨询所有课程相关问题。我们只回复来自哈佛学生的邮件。由于收到的邮件数量庞大，我们不回复外部咨询。

答疑时间：

讲师：仅限预约
TF：见 Ed + 预约

日程安排

暂定，可能会有变动。 演讲者为学生的行由学生主导：要么是论文讨论（见论文讨论页面），要么是作业分享会。论文展示为可选，每次最多可获得四个加分百分点。

周次	日期	演讲者	主题	阅读材料	备注
第一部分 — LLM 与智能体简介
1	2026-09-02	Juncheng Yang	课程概览与安排 [幻灯片]		作业 1 发布（Mads-Lens：观察智能体工作）；注册 AWS
2	2026-09-07	停课 — 劳动节
2	2026-09-09	Juncheng Yang	智能体使用 I：Claude Code 如何工作 [幻灯片]	我如何使用 LLM；Claude Code 最佳实践；智能体工程模式；更多阅读 →
3	2026-09-14	Juncheng Yang	智能体使用 II：用多智能体成为 100 倍工程师 [幻灯片]	Claude Code 智能体团队；软件正在（再次）改变；研究加速：OpenAI 内部视角；更多阅读 →
3	2026-09-16	Juncheng Yang	智能体设计 I：上下文管理与工具设计 [幻灯片]	ReAct；构建智能体的实用指南；LLM 驱动的自主智能体；更多阅读 →	作业 1 截止 9 月 20 日周日晚上 11:59
4	2026-09-21	学生	学生分享 I	你从使用智能体（作业 1）中学到了什么：意外、失败、教训、洞见、新工具/技能/插件	作业 2 发布（Mads-Loop：构建循环）
4	2026-09-23	Juncheng Yang	智能体设计 II：多智能体架构、协调与通信 [幻灯片]	多智能体研究系统；扩展智能体系统；不要构建多智能体；更多阅读 →
5	2026-09-28	Juncheng Yang	智能体设计 III：智能体记忆与可靠性 [幻灯片]	智能体在哪里失败；MemGPT；更多阅读 →
5	2026-09-30	Juncheng Yang	Agent 设计 IV：Agent 评估 [幻灯片]	Agent 评估与基准测试	作业 2 截止 10 月 4 日周日 23:59
6	2026-10-05	Harsh Nilesh Pathak（Snowflake）	客座讲座：在企业环境中开发和评估 Agent		作业 3 发布（Mads-Opt：让每个 token 都算数）
6	2026-10-07	Juncheng Yang	高级 Agent 设计 I：成本与性能 [幻灯片] [作业3 幻灯片]	高性价比 Agent	预提案截止（可选，仅在你希望讨论想法时提交）
7	2026-10-12	停课 — 原住民日
7	2026-10-14	学生	高级 Agent 设计 II：Agent 安全、自进化 harness
第二部分 — 面向 LLM 和 Agent 的系统
8	2026-10-19	Juncheng Yang	高效 LLM 服务：基础 I		作业 3 截止 10 月 20 日周二 23:59
8	2026-10-21	Juncheng Yang	高效 LLM 服务：基础 II		作业 4 发布（Mads-Serve：掌控服务引擎）
9	2026-10-26	Juncheng Yang 与学生	作业反馈与学生分享 II	你提交中的常见陷阱；作业 3 经验分享。
9	2026-10-28	Juncheng Yang	高效 LLM 服务：推测解码		项目提案截止
10	2026-11-02	Juncheng Yang	高效 Agent 系统：调度与前缀缓存		本讲提前，因为作业 4。
10	2026-11-04	Juncheng Yang	高效 LLM 服务：剪枝与量化
11	2026-11-09	Xianzheng Kou（Meta）	客座讲座：为什么基础设施决定 AI 的节奏		作业 4 截止 11 月 10 日周二 23:59
11	2026-11-11	Juncheng Yang	高效 LLM 服务：GPU 与内核		作业 5 发布（Mads-Stack：优化全栈）
12	2026-11-16	学生	高效 LLM 服务：KV-cache 优化与模型架构
12	2026-11-18	学生	学生分享 III	展示你的 Agent-引擎协同设计（作业 4）
13	2026-11-23	Juncheng Yang	高效 Agent 系统：路由与负载均衡		作业 5 截止 11 月 29 日周日 23:59
13	2026-11-25	停课 — 感恩节假期
14	2026-11-30	Juncheng Yang	高效 Agent 系统：其他
14	2026-12-02	学生	学生分享 IV	展示你的全栈优化（作业 5）
14	2026-12-07	学生	期末项目海报与演示	Present your final project as a poster and a live demo. 地点：SEC 1.402，上午 9:00 至下午 1:00	期末项目截止 12 月 8 日周二 23:59

参考页面

Agent 评估与基准测试。评估设计、指标、可靠性、成本与基准选择。
高性价比 Agent。在完整任务中分配模型、推理、上下文、协作和服务资源的技术。

计算资源

课程使用的每个环境的设置说明都在计算设置页面上。作业和期末项目的计算资源来自：

Claude Code。作业 1 必需。
模型 API 访问。作业 2 和 3 必需。
课程 HPC。作业 4 和 5 必需。
AWS。第一周注册；使用该账户是可选的。