1. 從流程到智能體一次認(rèn)知范式的遷移最近在社區(qū)里看到不少朋友在討論“Agent”這個(gè)概念尤其是在Anthropic和OpenAI相繼發(fā)布關(guān)于Agent的官方指南和最佳實(shí)踐之后這股討論的熱度就更高了。大家似乎都意識(shí)到單純調(diào)用大語(yǔ)言模型LLM的API或者用LangChain、Dify這類框架搭一個(gè)簡(jiǎn)單的問答流水線Workflow已經(jīng)不夠“酷”了。下一個(gè)階段是讓AI能夠自主思考、規(guī)劃并執(zhí)行復(fù)雜任務(wù)也就是所謂的“智能體”Agent。但說(shuō)實(shí)話從“流程”到“智能體”這中間的變化遠(yuǎn)不止是換個(gè)名字那么簡(jiǎn)單。它背后代表的是一種根本性的設(shè)計(jì)思路和架構(gòu)范式的遷移。我花了些時(shí)間仔細(xì)研讀了Anthropic和OpenAI關(guān)于Agent的官方材料并結(jié)合自己過(guò)去搭建各種自動(dòng)化流程的經(jīng)驗(yàn)有了一些新的理解。今天就想和大家聊聊這個(gè)轉(zhuǎn)變到底意味著什么以及我們作為開發(fā)者該如何重新思考我們構(gòu)建AI應(yīng)用的方式。簡(jiǎn)單來(lái)說(shuō)傳統(tǒng)的Workflow更像是一張精心設(shè)計(jì)好的“樂譜”或“劇本”。每一步做什么遇到什么情況怎么處理都需要開發(fā)者預(yù)先定義好。它高效、穩(wěn)定、可預(yù)測(cè)但缺乏應(yīng)對(duì)“劇本外”情況的靈活性。而Agent則更像一個(gè)擁有明確目標(biāo)、能夠自主調(diào)用工具、并根據(jù)環(huán)境反饋不斷調(diào)整策略的“演員”或“探險(xiǎn)家”。它的核心是“自主性”和“適應(yīng)性”其行為不是完全預(yù)設(shè)的而是在一個(gè)循環(huán)中動(dòng)態(tài)生成的感知觀察任務(wù)和上下文、思考規(guī)劃或推理下一步、行動(dòng)調(diào)用工具或生成輸出、然后根據(jù)結(jié)果再次感知如此循環(huán)。理解這個(gè)區(qū)別對(duì)于我們?cè)O(shè)計(jì)下一代AI應(yīng)用至關(guān)重要。下面我就從幾個(gè)維度來(lái)拆解一下我的理解。2. 核心理念對(duì)比預(yù)設(shè)流程 vs. 自主智能體要理解Agent最好的方式就是把它和我們已經(jīng)熟悉的Workflow放在一起對(duì)比。這種對(duì)比不是非此即彼而是幫助我們看清兩種范式各自的疆域和適用場(chǎng)景。2.1 Workflow確定性的效率機(jī)器Workflow或者說(shuō)自動(dòng)化流程是我們過(guò)去幾年在RPA機(jī)器人流程自動(dòng)化、低代碼平臺(tái)乃至早期LLM應(yīng)用如基于LangChain的Chain中常見的設(shè)計(jì)模式。它的核心特征非常鮮明1. 線性或分支確定的執(zhí)行路徑一個(gè)典型的文檔處理Workflow可能是這樣的觸發(fā)收到新文件- 解析提取文本- 分類判斷文檔類型- 分支A如果是合同提取關(guān)鍵條款并歸檔- 分支B如果是報(bào)告進(jìn)行摘要并發(fā)送郵件。每一條路徑都是預(yù)先定義好的就像火車在既定的軌道上運(yùn)行雖然可能有道岔但所有道岔的位置和切換條件都是明確的。2. 狀態(tài)機(jī)驅(qū)動(dòng)Workflow通常由一個(gè)狀態(tài)機(jī)State Machine來(lái)管理。每個(gè)節(jié)點(diǎn)Step代表一個(gè)狀態(tài)節(jié)點(diǎn)間的轉(zhuǎn)移Transition由明確的規(guī)則或條件觸發(fā)。例如在Dify的Workflow畫布中你拖拽節(jié)點(diǎn)并用連線定義它們的關(guān)系本質(zhì)上就是在構(gòu)建一個(gè)可視化的狀態(tài)機(jī)。這種方式的優(yōu)勢(shì)是邏輯清晰、易于調(diào)試和監(jiān)控。你可以精確地知道流程執(zhí)行到了哪一步卡在了哪里。3. 工具作為被調(diào)用的“函數(shù)”在Workflow中工具Tools無(wú)論是搜索引擎API、數(shù)據(jù)庫(kù)查詢還是一個(gè)代碼解釋器都是被流程“調(diào)用”的被動(dòng)對(duì)象。流程說(shuō)“現(xiàn)在去搜一下”工具就去執(zhí)行然后返回結(jié)果流程繼續(xù)往下走。工具本身沒有“意愿”或“選擇權(quán)”。4. 有限的上下文處理Workflow的上下文Context傳遞通常是線性的、有限的。上一個(gè)節(jié)點(diǎn)的輸出作為下一個(gè)節(jié)點(diǎn)的輸入。雖然有些高級(jí)框架支持更復(fù)雜的上下文管理如LangGraph的“狀態(tài)”概念但其范圍和流轉(zhuǎn)方式依然是開發(fā)者預(yù)先設(shè)計(jì)好的。實(shí)操心得在構(gòu)建復(fù)雜但邊界清晰的業(yè)務(wù)自動(dòng)化時(shí)Workflow依然是首選。比如定期的數(shù)據(jù)報(bào)表生成、內(nèi)容審核流水線、客服工單的自動(dòng)分配與跟進(jìn)等。它的可預(yù)測(cè)性在商業(yè)環(huán)境中是巨大的優(yōu)點(diǎn)因?yàn)椤胺€(wěn)定不出錯(cuò)”往往比“聰明但偶爾失控”更重要。2.2 Agent目標(biāo)驅(qū)動(dòng)的自主系統(tǒng)Agent的設(shè)計(jì)哲學(xué)則完全不同。它不再是執(zhí)行劇本的演員而是被賦予了一個(gè)目標(biāo)Goal或意圖Intent然后自主決定如何達(dá)成它。Anthropic在其指南中強(qiáng)調(diào)Agent的核心在于推理Reasoning和工具使用Tool Use的循環(huán)。1. 目標(biāo)導(dǎo)向與動(dòng)態(tài)規(guī)劃你給Agent一個(gè)任務(wù)“幫我分析一下公司上個(gè)季度的銷售數(shù)據(jù)并寫一份總結(jié)報(bào)告?！?你不會(huì)告訴它第一步該打開哪個(gè)Excel文件第二步該用哪個(gè)圖表類型。Agent需要自己“思考”要完成這個(gè)報(bào)告我需要哪些數(shù)據(jù)從哪里獲取可能需要調(diào)用數(shù)據(jù)庫(kù)查詢工具或CRM API。獲取數(shù)據(jù)后如何分析可能調(diào)用數(shù)據(jù)分析庫(kù)或讓LLM直接解讀。報(bào)告的結(jié)構(gòu)應(yīng)該怎樣基于分析結(jié)果進(jìn)行規(guī)劃。這個(gè)“思考-規(guī)劃”的過(guò)程是動(dòng)態(tài)生成的而不是預(yù)設(shè)的。2. 核心循環(huán)ReAct模式及其演進(jìn)一個(gè)經(jīng)典的Agent架構(gòu)遵循ReActReasoning Acting模式。OpenAI和Anthropic的指南都深入探討了這一模式Reason思考分析當(dāng)前情況、目標(biāo)、可用工具和歷史記錄決定下一步做什么。這通常體現(xiàn)為L(zhǎng)LM生成的“內(nèi)部獨(dú)白”Inner Monologue或“鏈?zhǔn)剿伎肌盋hain-of-Thought例如“用戶需要銷售報(bào)告。我首先需要獲取銷售數(shù)據(jù)。我可以調(diào)用query_database工具參數(shù)是時(shí)間范圍‘上一季度’?！盇ct行動(dòng)執(zhí)行思考的結(jié)果通常是調(diào)用一個(gè)工具query_database或直接生成給用戶的回答。Observe觀察獲取行動(dòng)的結(jié)果數(shù)據(jù)庫(kù)返回的JSON數(shù)據(jù)并將其作為新的上下文進(jìn)入下一輪循環(huán)。現(xiàn)在更先進(jìn)的框架如LangGraph將這一循環(huán)抽象得更加精細(xì)可能包括規(guī)劃Planning、執(zhí)行Execution、評(píng)估Evaluation等更多階段但核心思想不變基于觀察的持續(xù)決策。3. 工具作為能力的延伸對(duì)Agent而言工具不再是被動(dòng)調(diào)用的函數(shù)而是其“身體”的一部分是其感知和影響外部世界的能力。一個(gè)強(qiáng)大的Agent可能集成數(shù)十種工具從代碼執(zhí)行、網(wǎng)絡(luò)搜索到操作軟件界面。關(guān)鍵在于Agent需要學(xué)會(huì)在合適的時(shí)間、選擇合適的工具、并傳入正確的參數(shù)。這要求LLM對(duì)工具的功能有深刻的理解也就是所謂的“工具使用”能力。4. 復(fù)雜的記憶與上下文管理Agent需要處理更長(zhǎng)遠(yuǎn)和復(fù)雜的上下文。它不僅要記住整個(gè)對(duì)話歷史還要記住自己之前的思考過(guò)程、嘗試過(guò)的行動(dòng)及其結(jié)果。這涉及到短期記憶當(dāng)前會(huì)話、長(zhǎng)期記憶向量數(shù)據(jù)庫(kù)存儲(chǔ)的過(guò)往經(jīng)驗(yàn)以及工作記憶當(dāng)前任務(wù)相關(guān)的關(guān)鍵信息的管理。良好的記憶機(jī)制是Agent能夠從錯(cuò)誤中學(xué)習(xí)、避免重復(fù)嘗試無(wú)效路徑的關(guān)鍵。5. 評(píng)估與安全護(hù)欄Guardrails由于Agent具有自主性其行為的不確定性也大大增加。因此評(píng)估Evaluation和安全護(hù)欄Guardrails變得至關(guān)重要。這不僅僅是檢查輸出是否包含有害內(nèi)容還包括目標(biāo)對(duì)齊評(píng)估Agent的一系列行動(dòng)是否始終朝著用戶設(shè)定的目標(biāo)前進(jìn)有沒有跑偏或陷入死循環(huán)工具使用安全調(diào)用刪除數(shù)據(jù)庫(kù)的工具時(shí)參數(shù)是否經(jīng)過(guò)了嚴(yán)格的驗(yàn)證成本與效率監(jiān)控Agent是否在無(wú)意義地循環(huán)調(diào)用昂貴或耗時(shí)的API Anthropic的指南特別強(qiáng)調(diào)了在Agent循環(huán)中內(nèi)置評(píng)估步驟的重要性這通常是另一個(gè)LLM調(diào)用或一套規(guī)則系統(tǒng)用于審核主Agent的決策。注意事項(xiàng)從Workflow轉(zhuǎn)向Agent最大的挑戰(zhàn)是控制力的讓渡。你無(wú)法再精確預(yù)知Agent的每一步操作只能通過(guò)設(shè)定清晰的目標(biāo)、提供高質(zhì)量的工具、以及構(gòu)建堅(jiān)固的安全護(hù)欄來(lái)引導(dǎo)它。這要求開發(fā)者從“流程工程師”轉(zhuǎn)變?yōu)椤澳繕?biāo)設(shè)定師”和“規(guī)則制定者”。3. 架構(gòu)演進(jìn)從鏈?zhǔn)秸{(diào)用到圖式編排理念的變化必然帶來(lái)技術(shù)架構(gòu)的革新。早期基于LangChain的LLM應(yīng)用其核心是“鏈”Chain這就是一種典型的Workflow思想。而現(xiàn)代Agent框架則普遍采用了“圖”Graph的架構(gòu)。3.1 LangChain Chain線性思維的體現(xiàn)在LangChain中一個(gè)簡(jiǎn)單的Chain可能是這樣的PromptTemplate-LLM-OutputParser。你可以把它串聯(lián)起來(lái)形成順序執(zhí)行鏈SequentialChain。更復(fù)雜一點(diǎn)的可能會(huì)根據(jù)LLM的輸出條件跳轉(zhuǎn)到不同的子鏈。但無(wú)論如何其執(zhí)行流在編寫代碼時(shí)就已經(jīng)在很大程度上被確定了。調(diào)試時(shí)你可以追蹤一個(gè)輸入是如何經(jīng)過(guò)一個(gè)個(gè)節(jié)點(diǎn)變成輸出的邏輯非常直觀但也相對(duì)僵化。3.2 LangGraph/CrewAI圖計(jì)算與動(dòng)態(tài)流新興的Agent框架如LangGraphLangChain的新核心或CrewAI其基礎(chǔ)模型是一個(gè)有向圖。圖中的節(jié)點(diǎn)Node代表一個(gè)特定的操作比如“調(diào)用LLM進(jìn)行規(guī)劃”、“執(zhí)行Python代碼”、“進(jìn)行網(wǎng)絡(luò)搜索”。邊Edge代表狀態(tài)流轉(zhuǎn)的條件。關(guān)鍵的區(qū)別在于狀態(tài)State是共享的整個(gè)圖有一個(gè)中心化的狀態(tài)對(duì)象所有節(jié)點(diǎn)都可以讀取和修改這個(gè)狀態(tài)。這完美對(duì)應(yīng)了Agent需要維護(hù)的復(fù)雜上下文用戶輸入、工具調(diào)用結(jié)果、歷史記錄等。流轉(zhuǎn)是動(dòng)態(tài)決定的下一個(gè)執(zhí)行哪個(gè)節(jié)點(diǎn)不是由固定的連線決定而是由一個(gè)“路由”Router邏輯根據(jù)當(dāng)前狀態(tài)動(dòng)態(tài)計(jì)算出來(lái)的。這個(gè)路由邏輯本身通常也是一個(gè)LLM調(diào)用。例如在一個(gè)分析任務(wù)的Agent中狀態(tài)可能包含“是否已獲取數(shù)據(jù)”。路由LLM會(huì)根據(jù)這個(gè)狀態(tài)決定下一步是進(jìn)入“數(shù)據(jù)獲取”節(jié)點(diǎn)還是進(jìn)入“數(shù)據(jù)分析”節(jié)點(diǎn)。這種圖式架構(gòu)天然適合描述Agent的ReAct循環(huán)LLM思考節(jié)點(diǎn)-工具調(diào)用節(jié)點(diǎn)- 結(jié)果更新狀態(tài)- 根據(jù)新狀態(tài)再次路由到LLM思考節(jié)點(diǎn)。一個(gè)簡(jiǎn)化的工作流與智能體架構(gòu)對(duì)比表特性維度傳統(tǒng)工作流 (Workflow)智能體 (Agent)設(shè)計(jì)核心預(yù)設(shè)的執(zhí)行路徑與規(guī)則目標(biāo)導(dǎo)向的自主決策控制流線性/分支確定性高循環(huán)ReAct動(dòng)態(tài)路由非確定性狀態(tài)管理節(jié)點(diǎn)間傳遞通常局部中心化共享狀態(tài)全局可見工具角色被動(dòng)調(diào)用的函數(shù)主動(dòng)選擇的能力延伸上下文有限、線性傳遞復(fù)雜、長(zhǎng)期、需主動(dòng)管理調(diào)試相對(duì)簡(jiǎn)單可逐步跟蹤復(fù)雜需關(guān)注推理過(guò)程與決策邏輯適用場(chǎng)景流程固定、邊界清晰的自動(dòng)化任務(wù)目標(biāo)明確但路徑開放、需探索與決策的復(fù)雜任務(wù)3.3 實(shí)際構(gòu)建中的選擇并非取代而是分層在實(shí)際項(xiàng)目中我們不必做出非此即彼的選擇。一個(gè)成熟的復(fù)雜AI系統(tǒng)往往是分層架構(gòu)融合了Workflow的確定性和Agent的自主性。外層Agent作為協(xié)調(diào)者。一個(gè)主Agent接收用戶的高層目標(biāo)如“優(yōu)化網(wǎng)站SEO”它負(fù)責(zé)拆解任務(wù)、規(guī)劃步驟。中層Workflow作為執(zhí)行者。主Agent可能會(huì)將一個(gè)確定的子任務(wù)如“提取所有頁(yè)面的Meta描述標(biāo)簽”委托給一個(gè)精心設(shè)計(jì)、高效穩(wěn)定的Workflow去執(zhí)行。這個(gè)Workflow可能就是用Dify或傳統(tǒng)腳本編寫的。內(nèi)層工具作為基礎(chǔ)能力。無(wú)論是Agent還是Workflow最終都調(diào)用底層的工具函數(shù)、API來(lái)完成任務(wù)。這種“Agent - Workflow - Tool”的分層既利用了Agent的宏觀規(guī)劃和靈活性又保證了關(guān)鍵子任務(wù)的執(zhí)行效率和可靠性是一種非常實(shí)用的工程實(shí)踐。4. 核心組件深度解析構(gòu)建健壯Agent的基石理解了理念和架構(gòu)我們來(lái)看看要構(gòu)建一個(gè)實(shí)用的Agent需要關(guān)注哪些核心組件。這些組件決定了Agent的智商能力和情商穩(wěn)定性。4.1 規(guī)劃器Planner任務(wù)拆解的智慧規(guī)劃是Agent區(qū)別于簡(jiǎn)單工具調(diào)用的首要能力。一個(gè)好的規(guī)劃器能將模糊的用戶指令轉(zhuǎn)化為可執(zhí)行的動(dòng)作序列。1. 規(guī)劃的實(shí)現(xiàn)方式LLM直接規(guī)劃最簡(jiǎn)單的方式直接提示LLM“為了完成目標(biāo)X請(qǐng)列出需要執(zhí)行的步驟?！?這種方式快速但可能缺乏條理且無(wú)法在規(guī)劃時(shí)考慮工具的具體約束。思維鏈CoT規(guī)劃要求LLM以“首先…然后…最后…”的格式進(jìn)行逐步推理生成規(guī)劃。這能提高規(guī)劃的邏輯性。任務(wù)樹分解將大任務(wù)遞歸分解成子任務(wù)形成一棵樹。例如目標(biāo)“寫一份行業(yè)分析報(bào)告”可分解為“搜集資料”、“分析數(shù)據(jù)”、“撰寫報(bào)告”三個(gè)子任務(wù)而“搜集資料”又可進(jìn)一步分解為“搜索新聞”、“查閱財(cái)報(bào)”、“訪談專家”等?？蚣苋鏑rewAI的Task和Process就支持這種層級(jí)化任務(wù)分解?；诠ぞ叩囊?guī)劃更高級(jí)的規(guī)劃器在規(guī)劃時(shí)會(huì)參考可用工具列表及其描述。例如LLM知道有search_web和query_database兩個(gè)工具后它會(huì)規(guī)劃出“先用search_web獲取市場(chǎng)概況再用query_database獲取內(nèi)部銷售數(shù)據(jù)”的更合理步驟。2. 規(guī)劃的關(guān)鍵挑戰(zhàn)與技巧幻覺與不切實(shí)際LLM可能會(huì)規(guī)劃出一些不存在的工具或無(wú)法實(shí)現(xiàn)的步驟。解決方案在系統(tǒng)提示詞中明確列出所有可用工具及其詳細(xì)描述、輸入輸出格式。甚至可以提供工具使用的示例。規(guī)劃粒度問題規(guī)劃得太粗Agent不知道如何執(zhí)行規(guī)劃得太細(xì)會(huì)限制Agent的臨場(chǎng)應(yīng)變能力且消耗更多Token。解決方案采用分層規(guī)劃。先做高層規(guī)劃戰(zhàn)略然后在執(zhí)行每個(gè)高層步驟時(shí)再進(jìn)行詳細(xì)的戰(zhàn)術(shù)規(guī)劃。動(dòng)態(tài)重規(guī)劃計(jì)劃趕不上變化。當(dāng)工具調(diào)用失敗或結(jié)果出乎意料時(shí)Agent需要能調(diào)整原計(jì)劃。解決方案在ReAct循環(huán)的“思考”階段不僅要決定下一步動(dòng)作還要評(píng)估當(dāng)前計(jì)劃是否依然可行?？梢栽O(shè)計(jì)一個(gè)獨(dú)立的“評(píng)估節(jié)點(diǎn)”來(lái)負(fù)責(zé)此事。實(shí)操心得規(guī)劃提示詞Planning Prompt的設(shè)計(jì)至關(guān)重要。一個(gè)好的提示詞模板應(yīng)該包含清晰的角色設(shè)定“你是一個(gè)經(jīng)驗(yàn)豐富的項(xiàng)目規(guī)劃師”、明確的目標(biāo)、可用的工具清單、規(guī)劃輸出的格式要求例如必須輸出為JSON或帶編號(hào)的列表以及一兩個(gè)規(guī)劃示例Few-shot。這能極大提高規(guī)劃的質(zhì)量和穩(wěn)定性。4.2 工具使用Tool Use能力邊界的地圖工具是Agent的手和腳。工具集的設(shè)計(jì)質(zhì)量直接決定了Agent能做什么、不能做什么。1. 工具的設(shè)計(jì)原則功能單一且明確一個(gè)工具只做一件事并且有清晰的功能描述。search_web(query: str)就比do_research(topic: str)要好因?yàn)楹笳吆x模糊。描述詳盡工具的文本描述提供給LLM的必須極其詳盡包括功能、輸入?yún)?shù)名稱、類型、含義、示例、輸出格式、可能的錯(cuò)誤碼。LLM完全依賴這段文本來(lái)理解和使用工具。健壯且安全工具的實(shí)現(xiàn)代碼必須有完善的錯(cuò)誤處理如網(wǎng)絡(luò)超時(shí)、API限流并對(duì)輸入?yún)?shù)進(jìn)行嚴(yán)格的驗(yàn)證和清理防止注入攻擊。特別是執(zhí)行刪除、寫入、系統(tǒng)命令等危險(xiǎn)操作的工具必須有額外的授權(quán)或確認(rèn)機(jī)制。2. 工具的選擇與調(diào)用LLM如何從一堆工具中選出正確的那一個(gè)這依賴于工具描述的嵌入與檢索將所有工具的描述轉(zhuǎn)換成向量存儲(chǔ)在向量數(shù)據(jù)庫(kù)中。當(dāng)Agent需要選擇工具時(shí)將當(dāng)前的“思考”或用戶問題也轉(zhuǎn)換成向量進(jìn)行相似度檢索快速篩選出最相關(guān)的幾個(gè)工具候選。這比讓LLM一次性處理所有工具描述要高效得多。參數(shù)提取選定工具后LLM需要從對(duì)話歷史或上下文中提取出符合工具接口要求的參數(shù)。這是一個(gè)典型的“信息抽取”任務(wù)。提示詞需要明確指示“請(qǐng)根據(jù)以上對(duì)話為book_flight工具提取參數(shù)departure_city,arrival_city,date?！?. 新興模式工具即代碼一些前沿探索正在將工具的使用推向更高層次。例如讓Agent直接生成一小段Python代碼來(lái)執(zhí)行復(fù)雜操作然后在一個(gè)安全的沙箱環(huán)境中運(yùn)行它。這相當(dāng)于賦予了Agent“創(chuàng)造新工具”的能力但其安全性挑戰(zhàn)也呈指數(shù)級(jí)增長(zhǎng)。4.3 記憶系統(tǒng)Memory經(jīng)驗(yàn)的沉淀沒有記憶的Agent就像金魚每次對(duì)話都是新的開始。記憶系統(tǒng)讓Agent能夠進(jìn)行多輪復(fù)雜協(xié)作并積累經(jīng)驗(yàn)。1. 記憶的類型對(duì)話歷史最基礎(chǔ)的記憶存儲(chǔ)用戶與Agent的所有交互記錄。通常以列表形式保存并作為上下文的一部分喂給LLM。實(shí)體記憶存儲(chǔ)關(guān)于特定實(shí)體如人、地點(diǎn)、事件的事實(shí)信息。例如用戶說(shuō)過(guò)“我對(duì)花生過(guò)敏”這個(gè)信息就應(yīng)該作為“用戶”實(shí)體的一個(gè)屬性被存儲(chǔ)下來(lái)并在未來(lái)的相關(guān)場(chǎng)景如推薦餐廳中被回憶起來(lái)。向量記憶這是實(shí)現(xiàn)“長(zhǎng)期記憶”和“關(guān)聯(lián)回憶”的關(guān)鍵。將對(duì)話中的關(guān)鍵信息、工具調(diào)用的結(jié)果總結(jié)等轉(zhuǎn)換成文本摘要再編碼成向量存入向量數(shù)據(jù)庫(kù)如Chroma, Pinecone。當(dāng)需要回憶時(shí)將當(dāng)前問題向量化去數(shù)據(jù)庫(kù)中搜索語(yǔ)義上最相關(guān)的記憶片段作為上下文注入。這解決了傳統(tǒng)上下文窗口長(zhǎng)度有限的問題。摘要記憶對(duì)于非常長(zhǎng)的對(duì)話或任務(wù)歷史定期或按需讓LLM對(duì)之前的內(nèi)容進(jìn)行摘要用摘要替代原始冗長(zhǎng)的記錄以節(jié)省上下文空間同時(shí)保留核心信息。2. 記憶的讀寫策略何時(shí)寫重要的決策點(diǎn)、工具調(diào)用的關(guān)鍵結(jié)果、用戶明確提供的個(gè)人信息、任務(wù)達(dá)成的里程碑。何時(shí)讀在每一輪“思考”開始前根據(jù)當(dāng)前的任務(wù)和目標(biāo)主動(dòng)從向量記憶中檢索相關(guān)經(jīng)驗(yàn)。例如當(dāng)用戶再次問到一個(gè)類似的問題時(shí)Agent可以檢索到上次是如何解決的從而避免重復(fù)勞動(dòng)或重復(fù)犯錯(cuò)。3. 記憶的挑戰(zhàn)記憶不是越多越好。無(wú)關(guān)的記憶會(huì)干擾LLM的判斷形成“噪聲”。因此需要設(shè)計(jì)精妙的檢索策略如基于時(shí)間、相關(guān)性、重要性的加權(quán)檢索和記憶整理壓縮、摘要、遺忘機(jī)制。4.4 評(píng)估與安全Evaluation Safety不可或缺的剎車系統(tǒng)這是Agent系統(tǒng)中最容易被忽視但也最致命的一環(huán)。一個(gè)不受控的Agent可能會(huì)陷入死循環(huán)、調(diào)用危險(xiǎn)工具、或產(chǎn)生有害輸出。1. 評(píng)估的類型過(guò)程評(píng)估在Agent執(zhí)行過(guò)程中進(jìn)行。例如在每次工具調(diào)用前檢查參數(shù)是否安全在每次LLM生成思考后判斷其推理邏輯是否合理、是否偏離目標(biāo)。這通常由一個(gè)輕量級(jí)的“監(jiān)督者”LLM或一套規(guī)則系統(tǒng)來(lái)完成。結(jié)果評(píng)估在任務(wù)完成后進(jìn)行。評(píng)估最終輸出是否滿足了用戶的需求質(zhì)量如何。這可以用于對(duì)Agent進(jìn)行迭代優(yōu)化。成本與效率評(píng)估監(jiān)控Agent執(zhí)行任務(wù)所花費(fèi)的Token數(shù)、API調(diào)用次數(shù)、耗時(shí)等。對(duì)于可能無(wú)限循環(huán)或進(jìn)行無(wú)意義搜索的Agent必須設(shè)置硬性限制如最大步數(shù)、最大Token消耗。2. 安全護(hù)欄的實(shí)現(xiàn)工具調(diào)用白名單嚴(yán)格限制Agent可以調(diào)用的工具范圍。對(duì)于高風(fēng)險(xiǎn)工具設(shè)置額外的確認(rèn)步驟或權(quán)限等級(jí)。輸入/輸出過(guò)濾對(duì)用戶輸入和Agent輸出進(jìn)行內(nèi)容安全過(guò)濾防止提示詞注入、敏感信息泄露或生成不當(dāng)內(nèi)容。人機(jī)回環(huán)Human-in-the-loop對(duì)于關(guān)鍵決策或高風(fēng)險(xiǎn)操作設(shè)計(jì)暫停點(diǎn)要求人工確認(rèn)后再繼續(xù)。這在金融、醫(yī)療等領(lǐng)域的Agent中尤為重要。避坑指南千萬(wàn)不要在開發(fā)后期才考慮安全和評(píng)估。安全護(hù)欄必須與Agent核心邏輯同步設(shè)計(jì)。一個(gè)實(shí)用的方法是在架構(gòu)設(shè)計(jì)之初就為每一個(gè)“行動(dòng)節(jié)點(diǎn)”配置一個(gè)對(duì)應(yīng)的“評(píng)估節(jié)點(diǎn)”。評(píng)估節(jié)點(diǎn)像一個(gè)哨兵決定是否放行這次行動(dòng)。這雖然增加了復(fù)雜度但能從根本上避免“失控”的風(fēng)險(xiǎn)。5. 實(shí)戰(zhàn)設(shè)計(jì)一個(gè)簡(jiǎn)單的多步驟研究Agent理論說(shuō)了這么多我們來(lái)動(dòng)手設(shè)計(jì)一個(gè)相對(duì)簡(jiǎn)單的Agent感受一下從理念到架構(gòu)的落地過(guò)程。假設(shè)我們要構(gòu)建一個(gè)“多步驟研究Agent”它的目標(biāo)是根據(jù)用戶提出的一個(gè)復(fù)雜問題例如“對(duì)比一下OpenAI的o1-preview模型和Anthropic的Claude 3.5 Sonnet在復(fù)雜推理任務(wù)上的表現(xiàn)”自動(dòng)進(jìn)行多輪網(wǎng)絡(luò)搜索、信息整合并最終生成一份結(jié)構(gòu)化的分析報(bào)告。5.1 系統(tǒng)架構(gòu)設(shè)計(jì)我們將采用基于“圖”的架構(gòu)思想但不依賴特定框架用偽代碼和組件圖來(lái)說(shuō)明。核心組件主控LLM負(fù)責(zé)規(guī)劃、思考、總結(jié)。我們選用一個(gè)擅長(zhǎng)推理的模型如Claude 3.5 Sonnet或GPT-4o。工具集web_search(query: str, num_results: int): 執(zhí)行網(wǎng)絡(luò)搜索返回標(biāo)題、鏈接和摘要。fetch_webpage_content(url: str): 抓取指定網(wǎng)頁(yè)的正文內(nèi)容。summarize_text(text: str, focus: str): 對(duì)長(zhǎng)文本進(jìn)行摘要聚焦于特定方面。compare_entities(entity_a_info: str, entity_b_info: str, criteria: list): 根據(jù)給定標(biāo)準(zhǔn)對(duì)比兩段信息。記憶系統(tǒng)對(duì)話歷史存儲(chǔ)在內(nèi)存列表中。研究筆記向量記憶一個(gè)向量數(shù)據(jù)庫(kù)用于存儲(chǔ)從網(wǎng)頁(yè)中提取的關(guān)鍵事實(shí)、數(shù)據(jù)和觀點(diǎn)摘要。狀態(tài)State一個(gè)共享的字典對(duì)象包含以下關(guān)鍵字段user_query: 原始用戶問題。research_plan: 主控LLM生成的初步研究步驟列表。collected_info: 一個(gè)列表存放收集到的所有信息片段每條包含來(lái)源、內(nèi)容、摘要。current_step: 當(dāng)前執(zhí)行到研究計(jì)劃的哪一步。report_draft: 最終報(bào)告的草稿。執(zhí)行圖節(jié)點(diǎn)與邊我們的Agent可以抽象為以下幾個(gè)節(jié)點(diǎn)它們根據(jù)狀態(tài)決定執(zhí)行流節(jié)點(diǎn)制定計(jì)劃輸入狀態(tài)中的user_query。邏輯調(diào)用主控LLM提示它根據(jù)問題制定一個(gè)分步研究計(jì)劃。例如“1. 搜索o1-preview的官方技術(shù)報(bào)告和評(píng)測(cè)。2. 搜索Claude 3.5 Sonnet的官方文檔和基準(zhǔn)測(cè)試。3. 查找第三方對(duì)兩者進(jìn)行對(duì)比的評(píng)測(cè)文章。4. 整合信息從推理速度、準(zhǔn)確性、成本等維度進(jìn)行對(duì)比?！陛敵龈聽顟B(tài)中的research_plan和current_step。節(jié)點(diǎn)執(zhí)行研究步驟輸入狀態(tài)中的research_plan和current_step。邏輯這是一個(gè)循環(huán)子圖。根據(jù)當(dāng)前步驟的描述決定需要調(diào)用哪個(gè)工具主要是web_search。獲取搜索結(jié)果后可能并行或串行地調(diào)用fetch_webpage_content和summarize_text將提煉后的信息存入collected_info和向量記憶。輸出更新collected_infocurrent_step加一。節(jié)點(diǎn)評(píng)估與路由輸入整個(gè)狀態(tài)。邏輯判斷是繼續(xù)執(zhí)行下一個(gè)研究步驟還是進(jìn)入“生成報(bào)告”階段。判斷依據(jù)可以是是否所有計(jì)劃步驟都已完成收集的信息是否已經(jīng)足夠例如collected_info達(dá)到一定數(shù)量或質(zhì)量輸出決定下一個(gè)節(jié)點(diǎn)是“執(zhí)行研究步驟”還是“生成報(bào)告”。節(jié)點(diǎn)生成報(bào)告輸入狀態(tài)中的user_query和collected_info可能還會(huì)從向量記憶中檢索相關(guān)信息。邏輯調(diào)用主控LLM將所有收集到的信息作為上下文生成最終的結(jié)構(gòu)化分析報(bào)告。輸出更新狀態(tài)中的report_draft并將報(bào)告返回給用戶。5.2 關(guān)鍵實(shí)現(xiàn)細(xì)節(jié)與提示詞設(shè)計(jì)1. 規(guī)劃階段的提示詞示例你是一個(gè)專業(yè)的研究助理。你的任務(wù)是為用戶提出的復(fù)雜問題制定一個(gè)高效、全面的研究計(jì)劃。 用戶問題{user_query} 請(qǐng)遵循以下步驟思考 1. 理解問題的核心確定需要研究的關(guān)鍵實(shí)體如產(chǎn)品、技術(shù)、人物和對(duì)比維度。 2. 思考為了全面回答這個(gè)問題需要獲取哪些方面的信息這些信息可能分布在哪些類型的來(lái)源中官方文檔、技術(shù)博客、學(xué)術(shù)論文、評(píng)測(cè)報(bào)告 3. 將這些信息需求轉(zhuǎn)化為具體的、可執(zhí)行的網(wǎng)絡(luò)搜索查詢。請(qǐng)列出3-5個(gè)搜索查詢?cè)~這些詞應(yīng)能有效覆蓋不同信息面。 請(qǐng)以JSON格式輸出你的研究計(jì)劃包含以下字段 - key_entities: [列表關(guān)鍵實(shí)體] - research_dimensions: [列表需要研究的維度如“性能”、“價(jià)格”、“適用場(chǎng)景”] - search_queries: [列表具體的搜索查詢字符串]2. 工具調(diào)用搜索的提示詞示例給LLM的思考步驟當(dāng)前狀態(tài)我們正在執(zhí)行研究計(jì)劃的第{current_step}步目標(biāo)是“{step_description}”。 我們已經(jīng)收集到的相關(guān)信息有{brief_context_from_memory}。 請(qǐng)決定下一步行動(dòng) A. 如果認(rèn)為當(dāng)前信息已足夠完成本步驟的分析請(qǐng)直接生成一個(gè)本步驟的信息小結(jié)。 B. 如果認(rèn)為還需要更多信息請(qǐng)生成一個(gè)用于web_search工具的查詢。請(qǐng)確保查詢具體、明確能搜到高質(zhì)量信息。 你的輸出必須是以下JSON格式之一 {“action”: “summarize_step”, “content”: “本步驟的小結(jié)內(nèi)容…”} 或 {“action”: “search”, “query”: “具體的搜索查詢?cè)~”}3. 信息整合與報(bào)告生成的提示詞示例你是一位技術(shù)分析師。以下是你圍繞問題“{user_query}”收集到的所有研究資料摘要 {formatted_collected_info} 請(qǐng)基于以上信息撰寫一份結(jié)構(gòu)清晰、論據(jù)充分的對(duì)比分析報(bào)告。 報(bào)告需包含 1. 引言簡(jiǎn)述問題背景。 2. 分維度對(duì)比針對(duì)每個(gè)研究維度分別陳述雙方的表現(xiàn)引用具體的數(shù)據(jù)或事實(shí)來(lái)源。 3. 綜合結(jié)論總結(jié)各自的優(yōu)勢(shì)和劣勢(shì)并給出適用場(chǎng)景的建議。 4. 參考文獻(xiàn)列出信息的主要來(lái)源。 請(qǐng)確保報(bào)告客觀、準(zhǔn)確避免主觀臆斷。5.3 潛在問題與優(yōu)化方向信息冗余與沖突不同來(lái)源的信息可能重復(fù)或矛盾。需要在信息存入collected_info時(shí)進(jìn)行去重和可信度評(píng)估優(yōu)先采用官方來(lái)源、高權(quán)威性網(wǎng)站。搜索循環(huán)Agent可能為了追求“完美”信息而陷入無(wú)限搜索。必須設(shè)置最大搜索輪次如每個(gè)子問題最多搜索3次和超時(shí)機(jī)制。報(bào)告質(zhì)量依賴信息質(zhì)量Garbage in, garbage out。如果搜索查詢?cè)O(shè)計(jì)得不好抓取到的信息質(zhì)量差最終報(bào)告也會(huì)很差。優(yōu)化搜索查詢的生成是關(guān)鍵可以引入“查詢優(yōu)化”節(jié)點(diǎn)讓LLM基于初步搜索結(jié)果反思并優(yōu)化查詢?cè)~。成本控制每次LLM調(diào)用、工具調(diào)用都有成本。需要對(duì)整個(gè)Agent流程進(jìn)行成本預(yù)估和監(jiān)控對(duì)于簡(jiǎn)單的子任務(wù)可以考慮使用更小、更便宜的模型。這個(gè)簡(jiǎn)單的例子展示了如何將ReAct循環(huán)、規(guī)劃、工具使用、記憶等概念組合成一個(gè)可運(yùn)行的Agent。雖然離真正的“智能”還有距離但它已經(jīng)具備了根據(jù)目標(biāo)自主制定計(jì)劃、執(zhí)行多步操作、并整合結(jié)果的基本能力。6. 未來(lái)展望與個(gè)人思考從Workflow到Agent的演進(jìn)本質(zhì)上是從“自動(dòng)化”走向“智能化”。Workflow解決了“已知流程的自動(dòng)執(zhí)行”問題而Agent試圖解決的是“未知問題的自主求解”。這無(wú)疑是AI應(yīng)用的一個(gè)激動(dòng)人心的方向。回顧Anthropic和OpenAI的指南以及社區(qū)的實(shí)踐我認(rèn)為有幾個(gè)趨勢(shì)會(huì)越來(lái)越明顯1. 專用化Agent與通用基礎(chǔ)模型的結(jié)合未來(lái)我們可能不會(huì)只有一個(gè)“萬(wàn)能Agent”而是會(huì)涌現(xiàn)出大量“專用Agent”——精通財(cái)務(wù)分析的Agent、擅長(zhǎng)UI設(shè)計(jì)的Agent、專攻代碼調(diào)試的Agent。它們基于同一個(gè)強(qiáng)大的基礎(chǔ)模型如Claude、GPT但擁有定制化的工具鏈、提示詞模板和領(lǐng)域知識(shí)庫(kù)。構(gòu)建這樣的Agent將成為開發(fā)者的核心技能。2. 多Agent協(xié)作成為常態(tài)復(fù)雜任務(wù)需要分工協(xié)作。我們會(huì)看到由多個(gè)Agent組成的“團(tuán)隊(duì)”或“劇組”其中一個(gè)扮演“項(xiàng)目經(jīng)理”負(fù)責(zé)規(guī)劃和協(xié)調(diào)其他的扮演“研究員”、“寫手”、“設(shè)計(jì)師”等角色各司其職共同完成任務(wù)。框架如CrewAI、AutoGen正是在探索這一范式。3. 評(píng)估與基準(zhǔn)測(cè)試的標(biāo)準(zhǔn)化如何評(píng)價(jià)一個(gè)Agent的好壞它比另一個(gè)Agent“聰明”在哪里這需要一套超越傳統(tǒng)NLP評(píng)測(cè)的、針對(duì)規(guī)劃、工具使用、多步任務(wù)完成的基準(zhǔn)測(cè)試體系。類似SWE-bench評(píng)測(cè)代碼能力、WebArena評(píng)測(cè)網(wǎng)頁(yè)交互能力的基準(zhǔn)會(huì)越來(lái)越重要。4. 開發(fā)范式的變化開發(fā)Agent更像是在“培養(yǎng)”或“訓(xùn)練”一個(gè)數(shù)字員工而不是“編寫”一個(gè)程序。調(diào)試過(guò)程不再是單純地看日志和堆棧跟蹤而是需要分析Agent的“思考過(guò)程”它的內(nèi)部獨(dú)白理解它為什么做出了某個(gè)錯(cuò)誤決策然后通過(guò)修改提示詞、增加示例、調(diào)整工具描述來(lái)“教導(dǎo)”它。對(duì)我個(gè)人而言轉(zhuǎn)向Agent思維最大的收獲是重新審視了“人機(jī)交互”的邊界。我們不再是與一個(gè)執(zhí)行固定命令的機(jī)器對(duì)話而是在與一個(gè)擁有一定自主性的合作伙伴協(xié)作。這要求我們學(xué)會(huì)如何清晰地表達(dá)意圖、設(shè)定邊界、并提供有效的反饋。同時(shí)也對(duì)系統(tǒng)的可靠性和安全性提出了前所未有的高要求。這條路才剛剛開始工具和框架也在快速迭代。但萬(wàn)變不離其宗理解其核心范式——目標(biāo)導(dǎo)向、感知-思考-行動(dòng)循環(huán)、工具擴(kuò)展、記憶與評(píng)估——能幫助我們?cè)诩姺钡募夹g(shù)細(xì)節(jié)中抓住主線構(gòu)建出真正有用且可靠的智能體。