课程总览:什么是 Agent?Course Overview: What Is an Agent?
从“模型”到“agent”的差别不在参数,而在一个循环:观察、决策、调用工具、把结果写回上下文。这一讲拆开 agent 的基本构件——model、harness、tools、memory、environment——并用 ReAct、Toolformer、mini-SWE-agent 说明三种典型形态。
这门课不教提示词。它教你把模型装进一个能干活、能被评估、能被训练的 harness。
Carnegie Mellon University · Fall 2026 · 讲师 Graham Neubig(CMU LTI,OpenHands / All Hands AI 联合创始人)。课程从 harness 的基础构件讲到评测、SFT、强化学习、安全与真实框架。
按课程 syllabus 与 YouTube 元数据整理 · 数据截至 2026-10-22 · 视频发布于 9/8–10/19
一句话:前五讲把 agent 拆成 harness——模型在循环里调用工具、管理上下文、读写记忆、做规划;中间看三种任务形态;然后才进入训练;最后用安全和 OpenHands 收口。
这不是“提示词工程”课,也不是“模型架构”课。它的假设是:能力差距越来越多地来自模型外面的系统。
课程页的原话是:从搭 harness 的基础,到评测,再到用强化学习训练,以及其他进阶主题。下面按已发布视频的顺序排。
Agent loop、工具、上下文、记忆、规划。五讲把 harness 拆开,先让你知道“模型外面”有什么。
5 lectures · ~5h52编码、电脑操作、深度研究。三种最能被验证、也最容易被低估的任务形态。
3 lectures · ~3h46SFT → RL 基础 → 高级算法 → RL 系统。训练的不是“更会说话”,是“更会完成任务”。
4 lectures · ~4h37权限、沙箱、审批、监控。先假设 agent 会犯错,再设计它犯错的代价。
1 lecture · 54mOpenHands 的工程复盘:哪些抽象活下来了,哪些只是 demo,以及为什么单 agent 仍然能打。
1 lecture · 1h09每张卡片包含:这一讲的主线、一个值得带着看的问题、关键概念,以及课程页给出的优先阅读。视频与 slides 都直达原站。
从“模型”到“agent”的差别不在参数,而在一个循环:观察、决策、调用工具、把结果写回上下文。这一讲拆开 agent 的基本构件——model、harness、tools、memory、environment——并用 ReAct、Toolformer、mini-SWE-agent 说明三种典型形态。
工具不是“给模型几个 API”这么简单:要定义 schema、约束输出、处理错误、把返回结果压缩回上下文。这一讲覆盖 function calling、code as action、语法约束解码,以及工具粒度如何影响成功率。
Agent 的瓶颈往往不是上下文长度,而是上下文里有什么。这一讲从注意力成本讲到检索、截断、摘要、压缩、子 agent 隔离,以及“context rot”——无关信息越多,决策反而越差。
把“会做的事”从 prompt 里搬出来,变成可检索、可复用、可迭代的技能库;把“发生过的事”写进 episodic memory,再用反思和归纳变成 procedural memory。这一讲讨论 MemGPT、AWM、ReasoningBank、SkillsBench,以及技能什么时候该自动生成、什么时候必须人工审。
规划不是让模型“先写个计划”就完事:计划要可执行、可验证、可重规划。这一讲从 least-to-most、decomposed prompting、plan-and-act 讲到多 agent 的收益与协调成本——大多数任务并不需要 swarm。
编码 agent 是目前最能被验证的 agent 形态:仓库级上下文、补丁生成、测试执行、错误回读。这一讲覆盖代码模型与 tokenizer、SWE-bench 类评测、edit-verify loop,以及为什么“会写代码”不等于“能改仓库”。
讲师:JY Koh
让 agent 看屏幕、点鼠标、敲键盘。这一讲拆 GUI grounding(截图→坐标)、action space、长程任务评测(WebArena / VisualWebArena / OSWorld)、数据采集与 OpenCUA,以及为什么 computer use 比 coding 更难标准化。
讲师:Yueqi Song
监督微调是把“好 trajectory”变成模型权重的过程。这一讲覆盖 trajectory 数据格式、chat template、loss masking、packing、数据质量与去重,以及 SFT 在 agent 训练里的位置——它教格式,不教探索。
从 MDP、policy gradient、REINFORCE 讲到 PPO / GRPO:reward 怎么定义、advantage 怎么估、KL 为什么要约束。重点不是公式,而是“什么信号能让 agent 变好”。
讲师:Akari Asai
研究型 agent 要在开放网络里做多跳检索、筛选来源、交叉验证、组织引用。这一讲覆盖 query planning、browse / retrieval 工具、BrowseComp 与 DeepResearch Bench 这类评测,以及“写得像论文”与“真的可核查”之间的差距。
从 PPO 到 GRPO / DrGRPO,再到 process reward、turn-level credit assignment、多轮工具调用 RL。这一讲讨论 GAE、reward shaping、训练不稳定与 reward hacking,以及为什么 agent RL 比 chat RL 难。
讲师:Apurva Gandhi
RL 的瓶颈经常在系统:rollout 生成、环境并行、reward 计算、训练 / 推理分离、staleness 与吞吐。这一讲讨论异步 RL、分布式 rollout、vLLM / SGLang 类推理引擎,以及怎么算一笔训练账。
Agent 的安全不是“加一句别做坏事”,而是权限、沙箱、审批、监控的系统设计。这一讲覆盖 prompt injection、工具滥用、数据外泄、不可逆操作,以及真实事故:OpenClaw incident、PocketOS 删库、CVE-2025-32711。
讲师:Graham Neubig
从零构建一个开放 agent 平台的工程经验:事件流、runtime、sandbox、工具协议、评测驱动开发、社区协作。重点不是“又一个框架”,而是哪些设计决定在真实任务里活下来了。
时长按视频元数据累加,不含暂停与做笔记。路径不是“必须按顺序”,只是帮你少走弯路。
适合没时间全看、但想判断这门课值不值得跟的人。先看 agent loop、工具、记忆、编码、电脑操作,再用安全和 OpenHands 收口。
适合正在做 coding / computer-use / research agent 的人。前七讲打底,跳过训练细节,直接看安全与框架;需要评测时再回看 L8。
不是课程摘要,是看完 syllabus 和 14 讲标题后的观察。
前五讲没有一讲在讲模型架构,全在讲模型外面的循环、工具、上下文、记忆、规划。这在 agent 课里并不常见——多数课会先讲 LLM,再讲“应用”。
三个 assignment 分别是 Harness、Eval、Training。第二个就要求设计正确性与功能性的评测框架——这门课把“怎么知道它行”放在了“怎么让它行”之前。
先知道要训练什么轨迹,再谈 SFT / RL。否则很容易把“训练”理解成调参,而不是构造可学习的行为。
L13 的关键词是权限、沙箱、审批、监控和真实事故,不是抽象的“对齐”。这和课程整体的工程取向一致。
在开源 LLM 上搭一个 coding agent 的 harness 基础设施。
设计评测框架,衡量 agent 的正确性与功能性。
实现用于适配和改进 agent 的训练流程。
半学期研究项目,研究一个开放的 agent 研究问题。
截至 2026-10-22,YouTube 播放列表里是 14 讲。以下是 syllabus 上后续的内容,视频尚未进播放列表。