吴恩达 Agentic AI 课程 · 第一节
吴恩达教授 Agentic AI 课程第一节的完整文字稿(中文译文)
什么是 Agentic AI?为什么 Agentic AI 工作流如此强大?
今天我们很多人使用大语言模型(large language model,LLM)的方式,是直接给它一个提示,比如让它就某个主题 X 写一篇文章。我觉得这就像去找一个人——或者在这里,去找一个 AI——请他从第一个字写到最后一个字,一口气把文章打出来,中途完全不许用退格键。
事实上,我们人类被迫按这种完全线性的顺序写作时,并写不出自己最好的作品——AI 模型同样如此。但尽管被限制成这样写作很困难,我们的 LLM 表现得却出人意料地好。
相比之下,如果采用 agentic 工作流(agentic workflow),流程可能是这样的:你可以先让它就某个主题写一份文章大纲,然后问它是否需要做一些网络调研。做完调研、也许下载了一些网页之后,再让它写第一稿;接着让它通读第一稿,看看哪些部分需要修改或需要进一步调研;然后修改草稿,如此往复。
这种工作流更接近于:先思考一番、做点调研,然后修改,然后再思考一番,如此循环。事实证明,通过这样的迭代过程,agentic 工作流虽然耗时更长,但交付的成果要好得多。
所以,agentic AI 工作流就是一个基于 LLM 的应用通过执行多个步骤来完成一项任务的过程。在这个例子里,你可能先用一个 LLM 写出第一版文章大纲,再用一个 LLM 决定该往网络搜索引擎里输入哪些搜索词——或者更准确地说,用哪些搜索词去调用网络搜索 API——从而拿回相关的网页。在此基础上,你可以把下载下来的网页喂给一个 LLM,让它写出第一稿,然后也许再用另一个 LLM 来做反思,决定哪些地方还需要修改。
取决于你如何设计这个工作流,你甚至可以加入一个"人在回路"(human-in-the-loop)的步骤,让 LLM 可以选择请求人工审核,比如审核一些关键事实。在此基础上再修改草稿,这个过程最终会产出好得多的成果。
你在这门课里要学的一项关键技能,就是如何把写文章这样的复杂任务拆解成更小的步骤,让 agentic 工作流一步一步地执行,最终得到你想要的成果。知道如何把任务分解成步骤,以及如何构建好各个组件来把每一步执行到位,是一项棘手但重要的技能,它将决定你能否为大量令人兴奋的应用构建 agentic 工作流。
在这门课里,我们会贯穿始终使用一个例子——也是你将跟着我一起搭建的东西——一个研究 agent(research agent)。它大概长这样:你可以输入一个研究主题,比如"我该如何创办一家新的火箭公司来和 SpaceX 竞争?"我本人并不想和 SpaceX 竞争,但如果你想,可以试着让研究 agent 帮你做背景调研。
这个 agent 会先规划要做哪些调研,包括调用网络搜索引擎下载一些网页,然后综合并排序发现,起草大纲,再让一个编辑 agent 审查连贯性,最后生成一份完整的 Markdown 报告——正如这里做出来的:创办一家新的火箭公司来和 SpaceX 竞争,包含引言、背景、发现等部分。
我觉得它很恰当地指出,这会是一家很难做的创业公司,所以我本人并不打算做这件事;但如果你想挑战类似的事情,也许这样一个研究 agent 可以帮你做一些初步调研。通过查找并下载多个来源并深入思考,最终得到的报告,会比单纯提示一个 LLM 给你写篇文章要深思熟虑得多。
我对此感到兴奋的原因之一是,在我的工作中,我最终搭建了不少专门化的研究 agent——有的用于法律文件的合规冲突审查,有的用于某些医疗领域,有的用于一些商业产品的研究。所以我希望通过这个例子,你不仅能学会如何为许多其他应用构建 agentic 工作流,而且如果你哪天需要自己搭建一个定制的研究 agent,构建研究 agent 的这些思路也能直接派上用场。
现在,关于 AI agent 有一个经常被讨论的话题:它们到底有多自主?你刚才看到的是一个相对复杂、高度自主的 agentic AI 工作流,但也有其他更简单的工作流,它们同样极具价值。
我们进入下一个视频,谈谈 agentic 工作流可以自主到什么程度,以及这是否能给你一个框架,来思考你可能会如何构建不同的应用,以及它们可能有多容易或多困难。
下个视频见。
自主程度
Agent 可以有不同程度的自主性。几年前我注意到,AI 社区里关于"什么是 agent"的争论越来越多,也越来越有争议:有人写论文说"我造了一个 agent",另一些人则说"不,那不算真正的 agent"。我觉得这种争论没有必要,所以我开始使用 agentic 这个词,因为我想,如果我们把它当作一个形容词,而不是一个非此即彼的二元判断——要么是 agent、要么不是——那我们就必须承认,系统可以有不同程度的 agentic 属性。
不如把这些统统叫作 agentic,然后继续做构建这些系统的真正工作,而不是争论"这个东西够不够自主、算不算 agent"。
我记得当时在准备一场关于 agentic 推理的演讲时,团队里有位成员专门来找我说:"嘿 Andrew,我们不需要再多造一个词了。我们已经有 agent 了,你为什么还要发明 agentic 这个词?"但我还是决定用它。后来我在我们的 newsletter《The Batch》上写了一篇文章,也在社交媒体上发了帖子,说与其争论哪个词该算、哪个词不该算"真正的 agent",不如承认系统的 agentic 程度可以有高有低。我认为这有助于我们跳出"什么才是真正的 agent"的争论,专注于真正把它们造出来。
有些 agent 的自主程度较低。以写一篇关于黑洞的文章为例,你可以做一个相对简单的 agent,让它想出几个网络搜索词或搜索查询。然后你可以硬编码这样一个流程:调用网络搜索引擎,抓取一些网页,再据此写文章。这就是一个自主程度较低的 agent 的例子,它的步骤序列是完全确定的。这种做法也能工作得不错。
在标记约定上,整门课里我会用红色(如你在左边看到的)表示用户输入,比如这里的用户查询,或者在后面的例子里,可能是输入到 agentic 工作流的文档。灰色方框表示对 LLM 的调用,绿色方框——比如你在这里看到的网络搜索和网页抓取——表示使用其他软件来执行某个动作的步骤,比如调用网络搜索 API,或者执行代码抓取某个网站的内容。
然后,agent 也可以更自主。比如接到"写一篇关于黑洞的文章"的请求时,你或许可以让 LLM 自己决定:它是想做网络搜索,还是想搜索最新的新闻来源,还是想去 arXiv 网站上搜索最新的研究论文?在此基础上,在这个例子里,也许是 LLM——不是人类工程师,而是 LLM——选择调用网络搜索引擎;之后,你可以让 LLM 决定它想抓取多少个网页,或者如果抓到的是 PDF,它是否需要调用一个函数、或者说调用一个工具来把 PDF 转成文本?在这个例子里,也许它抓取了排名靠前的几个网页,然后就可以写文章、决定是否要反思并改进,甚至可能回头再抓取更多网页,最后产出结果。
所以即便是研究 agent 这一个例子,我们也能看到:有些 agent 自主程度较低,执行的是由程序员事先确定好的线性步骤序列;有些则更自主,你信任 LLM 做更多决策,实际发生的步骤序列甚至可能由 LLM 决定,而不是由程序员事先定好。
对于自主程度较低的系统,通常所有步骤都是事先预定好的,它调用的任何函数——比如网络搜索,我们称之为工具使用(tool use),你会在本课程第三模块学到——可能都是由人类工程师(也就是你我)硬编码的,大部分自主性只体现在 LLM 生成什么文本上。
光谱的另一端是高度自主的 agent,它会自主做出许多决策,例如决定为了写这篇文章,它要执行怎样的步骤序列。有些高度自主的 agent 甚至能编写新的函数,或者有时创造出新的工具,然后再去执行。
介于两者之间的是半自主的 agent,它可以做一些决策、选择工具,但工具通常是更预先定义好的。
随着你看到课程中的各种例子,你会学到如何在这条从低自主到高自主的光谱上任意位置构建应用。你会发现,光谱上自主程度较低的那一端有大量非常有价值的应用,今天正在为无数企业构建;与此同时,光谱上高自主的那一端也有很多正在推进的应用,但它们通常更难控制,更不可预测,而且如何构建这些高度自主的 agent 也仍是一个活跃的研究领域。
说到这里,我们进入下一个视频,更深入地探讨这个话题,听听使用 agent 有哪些好处,以及为什么它们能让我们做到早期几代基础应用根本做不到的事情。
Agentic AI 的好处
我认为 agentic 工作流最大的好处,是它让你能有效完成许多以前根本做不到的任务。但它还有其他好处,包括并行性(parallelism),让你能很快地完成某些事情;以及模块化(modularity),让你可以把来自不同地方的最佳组件组合起来,构建出一个高效的工作流。我们来看一看。
我的团队收集了一个编程基准测试的数据,这个基准测试考察不同 LLM 编写代码来完成特定任务的能力。这里用的基准叫 HumanEval。结果发现,GPT-3.5——也就是第一个公开发布版本的 ChatGPT 所基于的模型——如果让它直接写代码,也就是直接把程序打出来,在这个基准上的正确率是 40%。这是一个 pass@k 指标。GPT-4 是一个好得多的模型,同样在非 agentic 的工作流下,它的表现跃升到 67%。但事实证明,从 GPT-3.5 到 GPT-4 的提升虽然很大,却远远比不上把 GPT-3.5 包在一个 agentic 工作流里所能达到的效果。
使用不同的 agentic 技术——你会在本课程后面学到——你可以提示 GPT-3.5 写代码,然后也许让它反思这段代码,看看能否改进。用这类技术,你实际上可以让 GPT-3.5 达到高得多的性能水平。同样,GPT-4 在 agentic 工作流下也表现得好得多。所以即便是今天最好的 LLM,agentic 工作流也能让你获得好得多的性能。
事实上,我们在这个例子里看到的是:从一代模型到下一代模型的提升虽然巨大,但仍然比不上在上一代模型上实现一个 agentic 工作流所带来的差异。
使用 agentic 工作流的另一个好处是,它们可以并行处理一些任务,从而在某些事情上比人快得多。举个例子,如果你让一个 agentic 工作流写一篇关于黑洞的文章,你可以让三个 LLM 并行运行,各自生成要输入搜索引擎的搜索词。基于第一次网络搜索,它可能会找出比如说前三个结果去抓取;基于第二次网络搜索,它可能会找出第二组网页去抓取,以此类推。
事实证明,人来做这项调研必须按顺序、一次一个地阅读这九个网页;而使用 agentic 工作流时,你实际上可以把九个网页的下载全部并行化,最后把所有内容一起喂给一个 LLM 来写文章。所以,尽管 agentic 工作流确实比真正的非 agentic 工作流——也就是只提示一次就直接生成——要花更长时间,但如果把这种 agentic 工作流和人类完成这项任务的方式相比,并行下载大量网页的能力实际上能让它在某些任务上比单个人非并行、顺序处理这些数据快得多。
在这个例子基础上再进一步,事实上我在构建 agentic 工作流时经常做的一件事,就是审视像 LLM 这样的各个组件,然后添加或替换组件。比如说,也许我会看看上面用的这个网络搜索引擎,然后决定换一个新的搜索引擎。在构建 agentic 工作流时,其实有多个网络搜索引擎可选,包括可以通过服务器访问的 Google,还有 Bing、DuckDuckGo、Tavily、you.com 等等。专门为 LLM 设计的网络搜索引擎,其实有相当多的选择。
或者,与其只做三次网络搜索,也许在这一步我们可以换进来一个新闻搜索引擎,这样就能了解黑洞科学最新突破的最新新闻。最后,与其在所有不同步骤里都用同一个 LLM,我经常会尝试不同的大语言模型,也许还会尝试不同的 LLM 提供商,看看在系统的不同步骤上哪一个效果最好。
总结一下,我使用 agentic 工作流的主要原因,是它在许多不同应用上都能带来好得多的性能。但除此之外,它还能把一些人类原本只能顺序完成的任务并行化。而且许多 agentic 工作流的模块化设计,也让我们可以添加或更新工具,有时还能替换模型。
我们已经谈了很多关于构建 agentic 工作流的关键组件。现在来看看一系列 Agentic AI 应用,让你感受一下人们已经在构建什么样的东西,以及你自己将会构建什么样的东西。我们进入下一个视频。
Agentic AI 的应用
我们来看几个 Agentic AI 应用的例子。
很多企业都要处理的一项任务是发票处理。给定这样一张发票,你可能想写一个软件来提取最重要的字段。对这个应用来说,比如说是开票方——这里是 Tech Flow Solutions、开票方地址、应付金额——这里是 3,000 美元,以及到期日——看起来是 2025 年 8 月 20 日。在许多财务部门里,可能是由人来看发票,找出最重要的字段——我们需要在什么时候之前付款给谁——然后记录进数据库,以确保按时付款。
如果你要用 agentic 工作流来实现,可以这样做:输入一张发票,然后调用一个 PDF 转文本的 API,把 PDF 转成带格式的文本,比如 Markdown 文本,供 LLM 读取。然后 LLM 会查看这份 PDF,判断它到底是不是一张发票,还是某种应该直接忽略的其他类型文档。如果是发票,它就会提取出所需字段,并使用一个 API 或一个工具来更新数据库,把最重要的字段保存到数据库记录里。
这个 agentic 工作流的一个特点是,有一个清晰的流程可以遵循:识别所需字段,然后记录进数据库。这种有明确流程可循的任务,对 agentic 工作流来说往往更容易执行,因为它可以以一种相对按部就班的方式来可靠地完成。
再来一个例子,可能稍微难一点:如果你想构建一个 agent 来回复基本的客户订单咨询,那么步骤可能是:提取关键信息——弄清楚客户到底订了什么、客户叫什么名字;然后查找相关的客户记录;最后起草一封回复,交由人工审核之后再把邮件回复发给客户。
同样,这里有一个清晰的流程,我们会一步一步来实现:拿到邮件,喂给一个 LLM 来核实或提取订单详情;假设客户邮件确实是关于某个订单的,LLM 可能会选择调用订单数据库来调出相关信息。这些信息再交给 LLM 起草一封邮件回复,然后 LLM 可能会选择使用一个"请求审核"工具,比如把 LLM 起草的这封邮件放进队列供人工审核,这样在人工审核批准之后就可以发出。
像这样的客户订单咨询 agent,今天正在许多企业中构建和部署。
来看一个更有挑战性的例子:如果你想构建一个客服 agent,不仅回答关于客户所下订单的问题,还要回应更广泛的问题——客户可能问的任何事情。也许客户会问:"你们有黑色牛仔裤或蓝色牛仔裤吗?"要回答这个问题,你可能需要对数据库做多次 API 调用:先查黑色牛仔裤的库存,再查蓝色牛仔裤的库存,然后回复客户。
这就是一个更有挑战性的查询的例子:给定用户输入,你实际上需要规划出查库存的数据库查询序列。或者如果用户说:"我想退掉我买的沙滩巾。"要回答这个,我们可能需要先核实客户确实买过一条沙滩巾,然后再核对退货政策——也许我们规定只接受购买日期起 30 天内的退货,而且毛巾必须未使用过。如果允许退货,就让 agent 签发一张退货包装单,并把数据库记录设为"退货待处理"。
在这个例子里,如果处理客户请求所需的步骤无法事先知道,那么这就变成了一个更有挑战性的流程:基于 LLM 的应用必须自己决定,为了恰当地响应这个任务,需要这三个步骤。不过你也会学到一些关于如何处理这类问题的最新工作。
最后再举一个例子,这可能是一种特别难构建的 agent:目前有很多关于 agent 使用计算机(computer use)的工作,agent 会尝试使用网页浏览器、阅读网页,来弄清楚如何完成一项复杂任务。在这个例子里,我让一个 agent 查看从旧金山飞往华盛顿特区(DCA 机场)的两个特定美联航航班是否还有座位。这个 agent 可以使用网页浏览器来完成这项任务。
在这段视频里,你可以看到它独立地浏览美联航网站,点击页面元素,填写页面上的文本框,来执行我请求的搜索。在工作过程中,agent 会对页面内容进行推理,弄清楚为完成任务需要采取哪些操作,以及接下来该做什么。
在这个例子里,它在美联航网站上查航班遇到了一些麻烦,于是转而决定去 Google Flights 网站搜索可用航班。在 Google Flights 上,你可以看到它找到了几个符合用户查询的航班选项,然后 agent 选了一个,被带回到美联航网站,看起来这次它到了正确的网页,于是能够判断出:是的,我问的那些航班还有座位。
所以,计算机使用是当前一个令人兴奋的前沿研究领域,很多公司都在努力让计算机使用 agent 跑起来。虽然你刚才看到的这个 agent 最终找到了答案,但我经常看到 agent 在使用网页浏览器时表现不佳。例如,如果网页加载很慢,agent 可能无法理解发生了什么;而且很多网页仍然超出了 agent 解析或准确阅读的能力。不过我认为,计算机使用 agent 虽然今天还不够可靠,无法用于关键任务应用,但它是一个令人兴奋且重要的未来发展方向。
所以当我考虑构建 Agentic AI 工作流时,比较容易的任务往往是那些有清晰的分步流程的,或者企业已经有一套标准流程、标准操作规程可以遵循的。把这个规程拿过来、编码进一个 AI agent 里可能仍然要花不少功夫,但这类任务往往更容易实现。
让事情更容易的另一点是,如果你处理的只是纯文本资料——因为 LLM、语言模型本来就是在处理文本中成长起来的;如果你需要处理其他输入模态,也许可行,但可能会难一些。而在光谱的困难一端,如果完成任务所需的步骤无法事先知道——就像你在更高级的客服 agent 例子里看到的那样——那么 agent 可能需要边走边规划、边走边解决,这往往更难、更不可预测、也更不可靠。另外如前所述,如果它需要接受丰富的多模态输入,比如声音、视觉、音频,那也往往比只处理文本要更不可靠。
希望这能让你对可以用 agentic 工作流构建的应用类型有一个感觉。当你自己实现这类东西时,最重要的技能之一,就是审视一个复杂的工作流,弄清楚各个单独的步骤是什么,这样你才能实现一个 agentic 工作流来一步一步地执行这些步骤。
在下一个视频里,我们会讨论任务分解(task decomposition):也就是给定一件你想做的复杂事情,比如写一份研究报告,或者让客服 agent 回复客户,你该如何把它拆解成离散的步骤,从而尝试实现一个 agentic 工作流?我们在下一个视频里看。
任务分解:识别工作流中的步骤
人和企业做的事情非常多。你该如何把我们做的这些有用的事情拆解成离散的步骤,让 agentic 工作流去遵循呢?我们来看看。
以构建研究 agent 为例。如果你想让一个 AI 系统就主题 X 写一篇文章,一种做法是提示一个 LLM 直接生成输出。但如果你对一些希望深入研究的主题这么做,你可能会发现 LLM 的输出只覆盖了表面的要点,或者只覆盖了显而易见的事实,而没有像你希望的那样深入主题。
在这种情况下,你可以反思一下:作为人类,你会如何就某个主题写一篇文章?你会直接坐下来开始写,还是会分多个步骤,比如先写文章大纲,然后搜索网络,再根据网络搜索的输入来写文章?
当我把一项任务分解成步骤时,我总会问自己一个问题:看这第一、第二、第三步,每一步是否都能由一个 LLM、或者一小段代码、或者一次函数调用、或者一个工具来完成?在这个例子里,我认为对于我想让它帮我思考的许多主题,LLM 大概能写出一份像样的大纲。所以第一步大概没问题;然后我知道如何用 LLM 来生成搜索词去搜索网络,所以第二步也可行;然后基于网络搜索,我认为 LLM 可以把搜索结果作为输入来写文章。所以,作为一个比直接生成更深入的写文章 agentic 工作流,这会是一个合理的初次尝试。
但如果我接着实现了这个 agentic 工作流并查看结果,也许你会发现结果仍然不够好,仍然不够深思熟虑,也许文章读起来有点支离破碎。这事真的发生在我身上过。我曾经用这个工作流搭了一个研究 agent,但读它的输出时,感觉有点不连贯:文章的开头和中间不太一致,中间和结尾也不太一致。
在这种情况下,你可以再反思一下:如果你作为人类发现文章有点不连贯,你会怎么调整工作流?一种做法是把第三步"写文章"进一步分解成更多步骤。与其一口气写完文章,你可以让它先写第一稿,然后考虑哪些部分需要修改,再修改草稿。这也是我作为人类会采取的方式:不是第一次尝试就写出最终稿,而是先写第一稿,然后通读一遍——这是 LLM 相当擅长的另一个步骤——然后根据我对自己文章的批评来修改草稿。
回顾一下:我从直接生成开始,只有一步;觉得不够好,就把它拆成三步;然后也许又觉得还是不够好,就把其中一步进一步拆解成另外三步,最终得到了这个更复杂、更丰富的文章生成流程。取决于你对这个流程的结果有多满意,你甚至可以选择进一步修改这个文章生成流程。
我们来看第二个把复杂任务分解成更小步骤的例子。以回复基本的客户订单咨询为例。人类客服专员做的第一步可能是先提取关键信息,比如这封邮件是谁发的、他们订了什么、订单号是多少。这些都是 LLM 能做的事,所以我可以说,就让 LLM 来做。第二步是查找相关的客户记录,也就是编写并生成相应的数据库查询,调出客户订购的商品、发货时间等等。我认为一个能够调用函数去查询订单数据库的 LLM 应该能做到。最后,调出客户记录或客户订单记录之后,我就可以撰写并发送一封回复给客户。我认为有了调出的这些信息,如果我给 LLM 一个调用 API 发邮件的选项,第三步也是 LLM 可以完成的。
所以这是另一个例子:把回复客户邮件这项任务拆成三个单独的步骤,我可以逐一审视每个步骤,然后说:没错,我认为一个 LLM——或者说一个能够调用函数来查询数据库或发送邮件的 LLM——应该能做到。
最后再举一个发票处理的例子。PDF 发票转成文本之后,第一步是提取所需信息:开票方名称、地址、到期日、应付金额等等。我应该能做到这一点。然后如果我想核对信息已被提取出来,并把它保存为一条新的数据库记录,那么我认为 LLM 应该能帮我调用一个函数来更新数据库记录。所以要实现这个,我们就实现一个 agentic 工作流,基本上执行这两个步骤。
在构建 agentic 工作流时,我把自己看作手里有一堆积木(building blocks)。一块重要的积木是大语言模型,或者如果我还想处理图像或音频,可能是大型多模态模型。LLM 擅长生成文本、决定调用什么、也许还有提取信息。对于一些高度专门化的任务,我可能还会用一些其他 AI 模型,比如用于把 PDF 转成文本、文本转语音、或者图像分析的 AI 模型。
除了 AI 模型之外,我还能使用许多软件工具,包括各种可以调用的 API:做网络搜索、获取实时天气数据、发送邮件、查看日历等等。我可能还有用于检索信息的工具,可以从数据库里调取数据,或者做 RAG(retrieval augmented generation,检索增强生成),也就是在一个大型文本数据库里查找最相关的文本。或者我还可能有执行代码的工具,这种工具让 LLM 写代码,然后在你的计算机上运行这些代码,去完成各种各样的事情。
如果其中一些工具对你来说有点陌生,不用担心。我们会在后面的模块里更详细地讲解最重要的工具。但我觉得,我在构建 agent 工作流时的很多工作,就是审视这个人或这家企业正在做的工作,然后试着用这些积木想清楚:我该如何把这些积木串联起来,去完成我希望系统完成的任务。这也是为什么,对有哪些积木可用有一个良好的理解——我希望到课程结束时你也会有更清晰的认识——能让你更好地设想,通过组合这些积木,你可以构建出什么样的 agentic 工作流。
总结一下,构建 agentic 工作流的关键技能之一,就是审视某人所做的一堆事情,识别出可以用来实现它的离散步骤。当我审视各个离散步骤时,我总会问自己一个问题:这一步能否用一个 LLM,或者用我能使用的某个工具,比如 API 或函数调用来实现?如果答案是否定的,我通常会接着问自己:作为人类,我会怎么做这一步?能否进一步分解,把它拆成更小的步骤,从而更适合用 LLM 或我手头的某个软件工具来实现?
希望这能让你对如何思考任务分解有一个大致的感觉。如果你觉得还没完全掌握,不用担心,我们会在这门课里过更多的例子,到课程结束时你会理解得更透彻。但事实证明,随着你构建 agentic 工作流,你会发现通常你先做一个初始的任务分解、一个初始的 agentic 工作流,然后需要不断迭代和改进很多次,直到它达到你想要的性能水平。
而要推动这个改进过程——我发现它对许多项目都很重要——关键技能之一就是知道如何评估你的 agentic 工作流。所以在下一个视频里,我们会讨论评估(evaluations,简称 evals)及其关键组成部分:你如何构建评估,以及如何不断改进你的工作流以获得你想要的性能。我们在下一个视频里谈 evals。
评估 Agentic AI(evals)
我和许多不同的团队合作构建过 agentic 工作流,我发现,能预测一个人能否把这件事做得非常好、还是效率较低的最重要因素之一,就是他能否推动一个真正有纪律的评估过程。所以,你为 agentic 工作流推动 evals 的能力,对你能否有效构建它们有着巨大的影响。
在这个视频里,我们会快速概览如何构建 evals,这个主题我们其实会在本课程后面的模块里深入得多地讲解。我们来看看。
在构建了像这样一个用于回复客户订单咨询的 agentic 工作流之后,事实证明,很难事先知道有哪些地方可能出错。所以,与其试图预先构建评估,我建议你就直接查看输出,手动寻找那些你希望它做得更好的地方。
例如,也许你读了很多输出后发现,它意外地提到你的竞争对手,比它应该提到的要多。很多企业不希望自己的 agent 提及竞争对手,因为这只会造成尴尬。如果你读一些这样的输出,也许会发现它有时会说:"很高兴您在我们这里购物。我们比竞争对手 ComproCo 好多了。"或者有时会说:"当然,这应该很有趣。不像 RivalCo,我们的退货很方便。"你看到这些可能会想:天哪,我真的不想让它提到竞争对手。
这就是一个在构建 agentic 工作流之前很难预料到的问题的例子。所以最佳实践其实是先把它构建出来,然后检查它,找出哪里还不令人满意,再找方法评估并改进系统,消除那些仍不令人满意的地方。
假设你的企业认为以这种方式提及竞争对手是一个错误或失误,那么当你努力消除这些竞争对手提及时,跟踪进展的一种方式就是添加一个评估(eval),来跟踪这个错误出现的频率。如果你有一份具名的竞争对手清单,比如 ComproCo、RivalCo、其他某某公司,你实际上可以写代码,在自己的输出里搜索它按名称提到这些竞争对手的频率,然后统计出一个数字:在全部回复中,它错误地提到竞争对手的比例是多少。
竞争对手提及这个问题的一个好处是,它是一个客观指标,也就是说,要么提到了竞争对手,要么没有。对于客观标准,你可以写代码来检查这个特定错误出现的频率。
但由于 LLM 输出的是自由文本,也会有一些你想用来评估输出的标准是更主观的,很难只靠写代码就输出一个非黑即白的分数。在这种情况下,用 LLM 作为评判者(LLM-as-judge)是评估输出的一种常见技术。例如,如果你在构建一个研究 agent,就不同主题做研究,那么你可以用另一个 LLM 并提示它,比如说:"给下面这篇文章打一个 1 到 5 之间的质量分,1 是最差,5 是最好。"
这里我用一个 Python 表达式来表示"把生成的文章复制粘贴到这里"。这样你就可以提示 LLM 阅读文章并给它打质量分。然后我会让研究 agent 写若干份不同的研究报告,比如关于黑洞科学的最新进展,或者用机器人采摘水果。在这个例子里,也许评判 LLM 给黑洞那篇文章打了 3 分,给机器人采摘那篇打了 4 分。随着你不断改进研究 agent,希望能看到这些分数随时间上升。
顺便说一句,事实证明 LLM 其实并不太擅长这种 1 到 5 分的评分。你可以试试,但我个人不太常用这种技术。在后面的模块里,你会学到一些更好的技术,让 LLM 输出比 1 到 5 分更准确的分数——尽管有些人会这么做,也许作为 LLM-as-judge 类评估的初步版本。
先预告一下你在本课程后面会学到的一些 Agentic AI evals:你已经听我讲过,可以写代码来评估客观标准,比如有没有提到竞争对手;或者用 LLM 作为评判者来评估更主观的标准,比如这篇文章的质量如何。但在后面,你会学到两大类 evals:一类是端到端(end-to-end)评估,衡量整个 agent 的输出质量;另一类是组件级(component level)评估,衡量 agentic 工作流中单个步骤的输出质量。事实证明,它们分别对推动开发过程的不同部分很有用。
我经常做的另一件事,就是检查中间输出——有时我们把这些叫作 LLM 的追踪记录(traces)——以了解它在哪里没有达到我的预期。我们把这叫作错误分析(error analysis),也就是通读每一个步骤的中间输出,试图发现改进的机会。事实证明,能够做 evals 和错误分析是一项真正关键的技能。
关于这个话题,我们会在本课程的第四模块里讲更多。
我们快到第一模块的末尾了。在继续之前,我想和你分享我认为构建 agentic 工作流最重要的设计模式。我们在下一个视频里看。
Agentic 设计模式
我们通过把积木组合起来、串成这些复杂的工作流,来构建 agentic 工作流。在这个视频里,我想和你分享几个关键的设计模式(design patterns),也就是关于如何把这些积木组合成更复杂工作流的思路模式。我们来看看。
我认为构建 agentic 工作流有四个关键设计模式:反思(reflection)、工具使用(tool use)、规划(planning)和多 agent 协作(multi-agent collaboration)。我先简要说明它们的含义,之后在本课程后面我们会深入讲解其中的大部分。
第一个主要设计模式是反思。比如我可以找一个 LLM agent 让它写代码,LLM 可能会生成这样的代码:它在这里定义了一个 Python 函数来完成某项任务。然后我可以构造一个这样的提示,说:"这是为某项任务编写的代码",然后把 LLM 刚才输出的内容复制粘贴回这个提示里,接着让它仔细检查代码的正确性、风格和效率,并给出建设性的批评。事实证明,同一个 LLM 模型用这种方式提示后,可能就能指出代码中的一些问题。如果我再把这份批评反馈给模型,说:"这看起来像是个 bug,你能修改代码来修复它吗?"那它可能真的会给出一个更好的代码版本。
先预告一下工具使用:如果你能运行代码、看到代码在哪里失败,再把这些反馈给 LLM,也能让它迭代并生成一个好得多的版本,比如说 v3、第三版代码。所以反思是一种常见的设计模式,你可以让 LLM 检查自己的输出,或者引入一些外部信息源,比如运行代码看看是否产生错误信息,然后把它作为反馈再次迭代,得出更好的输出版本。这个设计模式并不是魔法,它不会让所有事情 100% 都能成功,但有时它能给你的系统性能带来不错的提升。
我把它画成了好像只有一个 LLM 在被提示的样子,但为了给多 agent 工作流做个铺垫:你也可以设想,与其让同一个模型批评自己,不如设置一个批评 agent(critique agent)。它其实就是一个 LLM,被提示了这样的指令:"你的角色是批评代码,这是为某项任务编写的代码,请仔细检查代码"等等。这第二个批评 agent 也许会指出错误或运行单元测试。通过设置两个模拟的 agent——每个 agent 只是一个被提示扮演某种角色的 LLM——你可以让它们来回迭代,得到更好的输出。
除了反思模式,第二个重要的设计模式是工具使用。今天,我们可以给 LLM 提供工具,也就是它们可以调用来完成工作的函数。例如,如果你问 LLM:"根据评测者的意见,最好的咖啡机是哪款?"并给它一个网络搜索工具,它就真的可以搜索互联网,找到好得多的答案。或者一个代码执行工具:如果你问一个数学问题,比如"如果我投资 100 美元按复利计算,最后会有多少钱?"它就可以编写并执行代码来计算答案。今天,不同的开发者已经给 LLM 提供了许多不同的工具,涵盖从数学或数据分析,到通过从网络或各种数据库抓取内容来收集信息,到与邮件、日历等生产力应用对接,以及处理图像等等。LLM 能够决定使用什么工具——也就是调用什么函数——这让模型能完成多得多的事情。
四个设计模式中的第三个是规划。这是一篇名为 HuggingGPT 的论文里的例子:如果你让系统"请生成一张图片,图中一个女孩在读书,姿势和这张图里的男孩相同,然后请用你的声音描述这张新图片",那么模型可以自动决定,为了完成这项任务,它首先需要找一个姿态检测模型来确定男孩的姿势,然后根据姿态生成图像,生成一张女孩的图片,再把图像转成文字,最后把文字转成语音。所以在规划中,是由 LLM 来决定它需要采取的动作序列——在这里是一系列 API 调用——从而以正确的顺序执行正确的步骤来完成任务。所以,不是由开发者事先硬编码步骤序列,而是让 LLM 自己决定要采取哪些步骤。今天能做规划的 agent 更难控制,也更偏实验性质,但有时它们能给出非常令人惊喜的结果。
最后是多 agent 工作流。就像人类经理可能会雇用若干人共同完成一个复杂项目一样,在某些情况下,你也可以"雇用"一组多个 agent,也许每个 agent 专精于不同的角色,让它们协作完成一项复杂任务。你在左边看到的这张图来自一个叫 ChatDev 的项目,它是 Chen Qian 及其合作者创建的一个软件框架。在 ChatDev 中,多个具有不同角色的 agent——比如首席执行官、程序员、测试员、设计师等等——像一家虚拟软件公司一样协作,可以协同完成一系列软件开发任务。
我们再考虑另一个例子。如果你想写一份营销手册,也许你会想雇一个三人团队,比如一个研究员做线上调研,一个营销人员写营销文案,最后一个编辑来编辑润色文本。类似地,你可以考虑构建一个多 agent 工作流,其中有一个模拟的研究 agent、一个模拟的营销 agent 和一个模拟的编辑 agent,它们协同起来为你完成这项任务。多 agent 工作流更难控制,因为你并不总能事先知道这些 agent 会做什么,但研究表明,对于许多复杂任务——包括撰写传记或决定棋局中的走法之类的事情——它们能带来更好的结果。你会在本课程后面学到更多关于多 agent 工作流的内容。
说到这里,我希望你已经对 agentic 工作流能做什么有了一个感觉,也了解了找到积木并把它们组合起来——也许是通过这些设计模式——从而实现一个 agentic 工作流的关键挑战。当然,还有开发 evals,这样你才能看到系统表现如何,并不断改进它。在下一个模块里,我想和你深入探讨这些设计模式中的第一个,也就是反思。你会发现,这是一种实现起来可能出人意料地简单的技术,有时却能给你的系统性能带来非常不错的提升。那么我们进入下一个模块,学习反思设计模式。