← 返回 Tony's Lab网页由小虾生成 🦐
CMU 11-768 · Fall 2026
Course trace · 已发布 14 讲

AI Agents 11-768 / CMU

这门课不教提示词。它教你把模型装进一个能干活、能被评估、能被训练的 harness。

Carnegie Mellon University · Fall 2026 · 讲师 Graham Neubig(CMU LTI,OpenHands / All Hands AI 联合创始人)。课程从 harness 的基础构件讲到评测、SFT、强化学习、安全与真实框架。

14lectures online
16.3hvideo
05modules
39readings

按课程 syllabus 与 YouTube 元数据整理 · 数据截至 2026-10-22 · 视频发布于 9/8–10/19

课程索引 · 14 讲

一句话:前五讲把 agent 拆成 harness——模型在循环里调用工具、管理上下文、读写记忆、做规划;中间看三种任务形态;然后才进入训练;最后用安全和 OpenHands 收口。

这不是“提示词工程”课,也不是“模型架构”课。它的假设是:能力差距越来越多地来自模型外面的系统。

Map / 课程骨架

十四讲,一条从 harness 到训练的轨迹

课程页的原话是:从搭 harness 的基础,到评测,再到用强化学习训练,以及其他进阶主题。下面按已发布视频的顺序排。

Foundations · 5 Domains · 3 Training · 4 Safety · 1 Frameworks · 1
L01–L05

基础与能力

Agent loop、工具、上下文、记忆、规划。五讲把 harness 拆开,先让你知道“模型外面”有什么。

5 lectures · ~5h52
L06 / L07 / L10

三个战场

编码、电脑操作、深度研究。三种最能被验证、也最容易被低估的任务形态。

3 lectures · ~3h46
L08–L09 / L11–L12

从模仿到强化

SFT → RL 基础 → 高级算法 → RL 系统。训练的不是“更会说话”,是“更会完成任务”。

4 lectures · ~4h37
L13

安全工程

权限、沙箱、审批、监控。先假设 agent 会犯错,再设计它犯错的代价。

1 lecture · 54m
L14

真实框架

OpenHands 的工程复盘:哪些抽象活下来了,哪些只是 demo,以及为什么单 agent 仍然能打。

1 lecture · 1h09
Trace / 逐讲笔记

每一讲在解决什么问题

每张卡片包含:这一讲的主线、一个值得带着看的问题、关键概念,以及课程页给出的优先阅读。视频与 slides 都直达原站。

L01
Aug 251h08Foundations

课程总览:什么是 Agent?Course Overview: What Is an Agent?

从“模型”到“agent”的差别不在参数,而在一个循环:观察、决策、调用工具、把结果写回上下文。这一讲拆开 agent 的基本构件——model、harness、tools、memory、environment——并用 ReAct、Toolformer、mini-SWE-agent 说明三种典型形态。

带着这个问题看一个 LLM 加上 while 循环,什么时候才真的算 agent?
agent loopharnessReActtool callenvironment
L02
Aug 2757mFoundations

Agent 能力 1:工具使用Agent Capabilities 1: Tool Use

工具不是“给模型几个 API”这么简单:要定义 schema、约束输出、处理错误、把返回结果压缩回上下文。这一讲覆盖 function calling、code as action、语法约束解码,以及工具粒度如何影响成功率。

带着这个问题看工具应该做成“一个万能函数”,还是“很多小函数”?
tool schemafunction callingCodeActconstrained decodingerror recovery
L03
Sep 11h16Foundations

Agent 能力 2:长上下文管理Agent Capabilities 2: Context Management for Long-Context Agents

Agent 的瓶颈往往不是上下文长度,而是上下文里有什么。这一讲从注意力成本讲到检索、截断、摘要、压缩、子 agent 隔离,以及“context rot”——无关信息越多,决策反而越差。

带着这个问题看上下文快满了,应该删什么、留什么、把什么挪到外部?
context windowcompactionretrievalsubagentKV cache
L04
Sep 31h15Foundations

Agent 能力 3:技能与记忆Agent Capabilities 3: Skills and Memory

把“会做的事”从 prompt 里搬出来,变成可检索、可复用、可迭代的技能库;把“发生过的事”写进 episodic memory,再用反思和归纳变成 procedural memory。这一讲讨论 MemGPT、AWM、ReasoningBank、SkillsBench,以及技能什么时候该自动生成、什么时候必须人工审。

带着这个问题看技能库和 RAG 的区别,到底在哪?
procedural memoryepisodic memoryskill libraryreflectionretrieval
L05
Sep 81h15Foundations

Agent 能力 4:规划、任务分解与多 Agent 协作Planning, Task Decomposition, and Multi-Agent Coordination

规划不是让模型“先写个计划”就完事:计划要可执行、可验证、可重规划。这一讲从 least-to-most、decomposed prompting、plan-and-act 讲到多 agent 的收益与协调成本——大多数任务并不需要 swarm。

带着这个问题看什么时候该拆成多 agent,什么时候一个 agent 加工具就够了?
decompositionreplanningverifierorchestrationmulti-agent
L06
Sep 101h19Domains

领域 1:编码 AgentDomains 1: Coding Agents

编码 agent 是目前最能被验证的 agent 形态:仓库级上下文、补丁生成、测试执行、错误回读。这一讲覆盖代码模型与 tokenizer、SWE-bench 类评测、edit-verify loop,以及为什么“会写代码”不等于“能改仓库”。

带着这个问题看一个 coding agent 的核心循环,和人类程序员到底差在哪?
repo contextpatchtest loopsandboxSWE-bench
先读这几篇
L07
Sep 151h14Domains

电脑操作 AgentComputer Use Agents

讲师:JY Koh

让 agent 看屏幕、点鼠标、敲键盘。这一讲拆 GUI grounding(截图→坐标)、action space、长程任务评测(WebArena / VisualWebArena / OSWorld)、数据采集与 OpenCUA,以及为什么 computer use 比 coding 更难标准化。

带着这个问题看像素级操作,怎么知道它“点对了”?
GUI groundingscreenshotaction spaceOSWorldlong-horizon
先读这几篇
L08
Sep 171h05Training

训练 1:监督微调Training 1: Supervised Fine-Tuning (SFT)

讲师:Yueqi Song

监督微调是把“好 trajectory”变成模型权重的过程。这一讲覆盖 trajectory 数据格式、chat template、loss masking、packing、数据质量与去重,以及 SFT 在 agent 训练里的位置——它教格式,不教探索。

带着这个问题看为什么 SFT 之后的 agent 看起来会了,换个环境就崩?
imitation learningtrajectorychat templateloss maskingdata quality
先读这几篇
L09
Sep 221h18Training

训练 2:强化学习基础Training 2: Reinforcement Learning Basics

从 MDP、policy gradient、REINFORCE 讲到 PPO / GRPO:reward 怎么定义、advantage 怎么估、KL 为什么要约束。重点不是公式,而是“什么信号能让 agent 变好”。

带着这个问题看没有标准答案的任务,reward 从哪来?
policy gradientadvantagePPOGRPOverifiable reward
先读这几篇
L10
Sep 241h12Domains

领域 3:Deep Research AgentDomains 3: Deep Research Agents

讲师:Akari Asai

研究型 agent 要在开放网络里做多跳检索、筛选来源、交叉验证、组织引用。这一讲覆盖 query planning、browse / retrieval 工具、BrowseComp 与 DeepResearch Bench 这类评测,以及“写得像论文”与“真的可核查”之间的差距。

带着这个问题看引用看起来都对,为什么结论还是可能错?
multi-hop searchsource triagecitationsynthesisbenchmark
L11
Sep 291h08Training

训练 3:高级 RL 算法Training 3: Advanced RL Algorithms

从 PPO 到 GRPO / DrGRPO,再到 process reward、turn-level credit assignment、多轮工具调用 RL。这一讲讨论 GAE、reward shaping、训练不稳定与 reward hacking,以及为什么 agent RL 比 chat RL 难。

带着这个问题看一次任务 50 步,最后只有一个 reward,怎么分功劳?
credit assignmentGAEprocess rewardreward hackingmulti-turn RL
L12
Oct 11h06Training

训练 4:RL 系统Training 4: RL Systems

讲师:Apurva Gandhi

RL 的瓶颈经常在系统:rollout 生成、环境并行、reward 计算、训练 / 推理分离、staleness 与吞吐。这一讲讨论异步 RL、分布式 rollout、vLLM / SGLang 类推理引擎,以及怎么算一笔训练账。

带着这个问题看同一套算法,工程实现差一倍,结果为什么差很多?
rollout engineasync trainingdistributedstalenessthroughput
L13
Oct 654mSafety

安全 1:Agent 安全Safety 1: Agent Safety

Agent 的安全不是“加一句别做坏事”,而是权限、沙箱、审批、监控的系统设计。这一讲覆盖 prompt injection、工具滥用、数据外泄、不可逆操作,以及真实事故:OpenClaw incident、PocketOS 删库、CVE-2025-32711。

带着这个问题看一个能删库的 agent,最少需要几道闸?
least privilegesandboxhuman approvalprompt injectionobservability
L14
Oct 81h09Frameworks

框架 1:从零构建 OpenHands 的经验Frameworks 1: Lessons from Building OpenHands

讲师:Graham Neubig

从零构建一个开放 agent 平台的工程经验:事件流、runtime、sandbox、工具协议、评测驱动开发、社区协作。重点不是“又一个框架”,而是哪些设计决定在真实任务里活下来了。

带着这个问题看一个 agent 框架最重要的是抽象,还是可观测性?
event streamruntimesandboxagent SDKbenchmark-driven
Paths / 怎么刷

三条路径,按你的目标选

时长按视频元数据累加,不含暂停与做笔记。路径不是“必须按顺序”,只是帮你少走弯路。

8h7 lectures

一周速通:先建立 harness 直觉

适合没时间全看、但想判断这门课值不值得跟的人。先看 agent loop、工具、记忆、编码、电脑操作,再用安全和 OpenHands 收口。

11.6h9 lectures

做 Agent 产品:harness + 三个战场

适合正在做 coding / computer-use / research agent 的人。前七讲打底,跳过训练细节,直接看安全与框架;需要评测时再回看 L8。

10h9 lectures

做 Agent 训练:从 SFT 到 RL 系统

适合要做 post-training 的人。先补 L1–L2 的 harness 语言,再按 SFT → RL 基础 → 高级 RL → RL 系统推进;L13 用来理解训练目标的边界。

Notes / 课程设计

几个值得注意的选择

不是课程摘要,是看完 syllabus 和 14 讲标题后的观察。

01

Harness 是第一对象

前五讲没有一讲在讲模型架构,全在讲模型外面的循环、工具、上下文、记忆、规划。这在 agent 课里并不常见——多数课会先讲 LLM,再讲“应用”。

02

Eval 是作业,不是附录

三个 assignment 分别是 Harness、Eval、Training。第二个就要求设计正确性与功能性的评测框架——这门课把“怎么知道它行”放在了“怎么让它行”之前。

03

Training 排在 Harness 后面

先知道要训练什么轨迹,再谈 SFT / RL。否则很容易把“训练”理解成调参,而不是构造可学习的行为。

04

Safety 是系统设计

L13 的关键词是权限、沙箱、审批、监控和真实事故,不是抽象的“对齐”。这和课程整体的工程取向一致。

Assignments · 课程页公开信息
A1 · HARNESS

在开源 LLM 上搭一个 coding agent 的 harness 基础设施。

A2 · EVAL

设计评测框架,衡量 agent 的正确性与功能性。

A3 · TRAINING

实现用于适配和改进 agent 的训练流程。

+ PROJECT

半学期研究项目,研究一个开放的 agent 研究问题。

Next / 还没放出来

课程表已经排到 12 月

截至 2026-10-22,YouTube 播放列表里是 14 讲。以下是 syllabus 上后续的内容,视频尚未进播放列表。

Oct 20Frameworks 2 · Orchestration and Monitoring待发布
Oct 22Safety 2 · Observability and Monitoring · Eric Wallace待发布
Oct 27Agents and the Future of Work · Zora Wang待发布
Oct 29Interaction 1 · Multi-Agent Interaction · Saujas Vaduguru待发布
Nov 10Interaction 2 · Human-Agent Interaction · Valerie Chen待发布
Nov 12Search 1 · Reranking and Critic Models待发布
Nov 17Search 2 · Tree Search · JY Koh待发布
Nov 19Guest Lecture · Karthik Narasimhan待发布
Nov 24Guest Lecture · Sasha Rush待发布
Dec 01–03Final presentations · posters待发布

注:课程日期来自 syllabus;YouTube 上传有滞后,部分课程可能已经上过但视频尚未公开。播放列表本身还在更新。