最近我在搭一套智能文檔分析流程時做了一組對比測試同一個問題分別發(fā)給普通模式的模型和開啟了Extended Thinking的模型。結(jié)果有點出乎意料——普通模式不僅解題過程簡略還在中間一步漏掉了關(guān)鍵條件開了Extended Thinking后模型先復(fù)述了一遍問題約束寫下兩種可能的解法把其中一條明顯錯誤的方向排除掉才給出最終答案。這就是Extended Thinking最直觀的價值讓Claude在輸出最終回答之前先進行一次可控長度、可觀測的深度思考。它把過去只能靠提示詞暗示的思維鏈變成了API里一個顯式的配置項開發(fā)者可以給思考過程分配專門的token預(yù)算模型會在預(yù)算內(nèi)展開草稿、做自我檢查、嘗試備選路徑然后再生成精煉的正式回答。對做AI應(yīng)用開發(fā)、Prompt工程、復(fù)雜任務(wù)自動化的朋友來說這個功能幾乎屬于必裝項值得花點時間搞明白。1. Extended Thinking到底解決了什么問題1.1 一句話理解這個功能把模型的最終回答想象成一份答卷。普通模式是拿到題提筆就寫寫到一半發(fā)現(xiàn)思路不對只能硬著頭皮改Extended Thinking則要求模型先打草稿——在草稿紙上列條件、做演算、試錯、檢查確認邏輯閉環(huán)了再工整地把答案謄到答題區(qū)。草稿不會被直接展示給用戶但它消耗紙張和時間對應(yīng)到API里就是token預(yù)算和響應(yīng)延遲。這正是Extended Thinking的核心設(shè)計把推理過程和最終輸出徹底拆開讓推理成為獨立的、有預(yù)算約束的、可以被程序讀取的中間產(chǎn)物。1.2 普通思維鏈提示的問題在哪很多人之前會在系統(tǒng)提示里寫Lets think step by step試圖讓模型逐步推理。這個土辦法確實有效但它有幾個繞不過去的短板第一推理和最終回答混在同一段文本里。模型一邊推理一邊組織語言它的注意力要在想和寫之間來回切換一旦最終答案需要非常精煉推理過程很容易被壓縮成幾句口號式的分析。第二思考長度完全不可控。你沒法告訴模型這道題最多想2000個token想完就停。結(jié)果就是簡單的題目它也可能長篇大論復(fù)雜的題它可能兩三句就跳到結(jié)論。第三也是最隱蔽的問題模型可能在輸出時才臨時編造一套推理來合理化答案它并不真的在回答前進行推理。這種先有結(jié)論再補解釋的現(xiàn)象會讓用戶誤以為結(jié)論已經(jīng)經(jīng)過了邏輯驗證實際上沒有。Extended Thinking用工程手段解決這三個問題推理有獨立的位置承載有明確的token預(yù)算并且在響應(yīng)結(jié)構(gòu)上保證它先于最終答案產(chǎn)生。它至少讓思考過程這件事變得可以觀測、可以控制、可以審查。2. Extended Thinking的核心機制推理Token、預(yù)算與簽名2.1 從邊寫邊想到先想后寫開啟Extended Thinking后請求會多一組配置。模型先生成一段內(nèi)部推理內(nèi)容這段內(nèi)容對應(yīng)API響應(yīng)里的推理塊然后基于這段推理再生成最終文本。你拿到響應(yīng)時能同時看到草稿和正式答案兩部分。從工程角度看這相當于把原來一次性的自回歸解碼拆成了兩個階段推理階段和答案階段。推理階段的token全部計入輸出token也按輸出價格計費。這就是為什么開啟這個功能后賬單會明顯變貴——它不是免費的魔法而是模型真的多寫了一段內(nèi)容。響應(yīng)的大致結(jié)構(gòu)長這樣不同版本字段名會有差異請以官方最新文檔為準{ content: [ { type: thinking, thinking: 復(fù)述問題條件……先假設(shè)……這里有個陷阱……改用貝葉斯公式……, signature: 一段用于續(xù)接的簽名 }, { type: text, text: 根據(jù)計算最終答案是…… } ] }額外補充一點如果推理內(nèi)容觸發(fā)了隱私保護規(guī)則API可能會返回一個占位塊而不是完整草稿。這屬于合規(guī)設(shè)計不是Bug不能當作模型出故障。2.2 budget_tokens模型能想多久budget_tokens大概是Extended Thinking里最需要理解透的參數(shù)。它決定了模型可以生成多少推理token類似草稿紙的張數(shù)。預(yù)算太小時模型還沒把問題想透就得強行收尾效果與普通模式差距不大預(yù)算太大模型確實會繞更多的路、做更多的自我檢查但代價是響應(yīng)變慢、成本上升。我的習(xí)慣是先給一個保守值跑通再逐步往上加觀察答案質(zhì)量的變化曲線。當預(yù)算增加到一定程度后答案質(zhì)量往往不再提升甚至因為想得太多而出現(xiàn)過度修正——那個拐點就是性價比最高的配置。下面是我常用的預(yù)算參考檔位任務(wù)類型建議預(yù)算說明簡單問答、分類、提取不使用殺雞不用牛刀中等數(shù)學(xué)題、常規(guī)代碼調(diào)試2048-4096足夠走完假設(shè)-驗證-修正復(fù)雜代碼重構(gòu)、多步驟推理8192左右需要試錯空間長文檔綜合分析接近上限模型需要先摘錄再組織2.3 簽名機制與多輪續(xù)接一個容易被忽略的細節(jié)推理內(nèi)容不是普通的文本它帶有一個簽名。簽名存在的意義是保證推理鏈的完整性和連續(xù)性類似給一份草稿加了個防偽標記。當你做多輪對話時如果上一輪產(chǎn)生了推理內(nèi)容下一輪請求必須把上一輪的簽名回傳否則API會拒絕續(xù)接或報簽名無效。這其實是一種安全設(shè)計——防止有人篡改中間的推理環(huán)節(jié)來操縱最終輸出。實操中常見的報錯signature invalid八成就是你在續(xù)接時沒有正確傳遞簽名。3. 實操在API中開啟Extended Thinking的完整步驟3.1 請求配置與最小示例下面是一個最小化的Python示例使用官方SDK開啟Extended Thinking字段名以你實際使用的API版本為準import anthropic client anthropic.Anthropic() response client.messages.create( modelclaude-sonnet-4-20250514, max_tokens8192, temperature1.0, thinking{ type: enabled, budget_tokens: 4096 }, messages[ {role: user, content: 你的問題放在這里} ] )注意兩個細節(jié)第一開啟thinking后官方建議把temperature設(shè)為1。這個模式下的推理本身已經(jīng)帶有探索性過低的溫度會讓思考路徑變窄過高的溫度又容易跑偏。第二max_tokens要同時覆蓋推理token和最終答案token。如果你把總輸出限制設(shè)得太小模型可能推理到一半就被截斷最終回答都沒生成出來。我見過太多人只把max_tokens設(shè)成幾百然后來問為什么開了思考模式反而沒輸出——就是這個原因。3.2 從響應(yīng)中讀取推理內(nèi)容拿到響應(yīng)的方式很簡單signature None for block in response.content: if block.type thinking: signature block.signature print(推理草稿:, block.thinking) elif block.type text: print(最終回答:, block.text)如果你想拿推理內(nèi)容做二次分析比如提取關(guān)鍵步驟、做后續(xù)任務(wù)輸入直接存這個塊就行。如果遇到的是隱私遮蔽類型的推理塊API會在響應(yīng)中保留占位但你拿不到原始文本這也是為什么產(chǎn)品設(shè)計時不要把推理內(nèi)容當成可依賴的公開數(shù)據(jù)。3.3 多輪對話時的簽名回傳續(xù)接對話時把上一輪拿到的signature傳給下一次請求client.messages.create( modelclaude-sonnet-4-20250514, max_tokens8192, temperature1.0, thinking{ type: enabled, budget_tokens: 4096 }, thinking_signaturesignature, messages[ {role: user, content: 第一輪問題}, {role: assistant, content: 第一輪回答摘要}, {role: user, content: 順著剛才的思路繼續(xù)追問} ] )不同版本的SDK對簽名參數(shù)的位置叫法不一樣有的放在thinking配置里有的是頂級參數(shù)但邏輯是一致的推理產(chǎn)生了簽名就必須跟著走。我不建議你在續(xù)接時丟棄上一輪推理內(nèi)容只在messages里塞一個assistant文本那樣會切斷推理鏈模型等于重新開始想。3.4 預(yù)算怎么定才合適我推薦一個三分法來定預(yù)算先做端到端實測。從一個較低的預(yù)算開始跑比如2048。如果答案質(zhì)量不達標翻倍到4096再跑一次。如果翻倍之后質(zhì)量提升明顯繼續(xù)加如果提升微弱就停在上一個檔位。這種方法比一上來就給大預(yù)算更省成本也能幫你找到夠用的最小值。另外對延遲敏感的應(yīng)用預(yù)算要往下壓。推理token是一步步生成的預(yù)算越大首個響應(yīng)token出現(xiàn)的時間越晚。用戶體驗要求首字快出的場景該妥協(xié)就妥協(xié)不要為了追求完美答案犧牲交互等待。4. 實戰(zhàn)效果我實測過的三類任務(wù)4.1 數(shù)學(xué)推理一道貝葉斯概率題我用一道經(jīng)典的貝葉斯題做對比測試有兩個盒子A盒中有3枚金幣和1枚銀幣B盒中有1枚金幣和3枚銀幣。隨機選一個盒子再從其中隨機摸出一枚硬幣發(fā)現(xiàn)是金幣問這枚硬幣來自A盒的概率是多少。普通模式下模型直接寫出了貝葉斯公式但中間漏掉了先驗概率P(A)1/2的顯式計算最終給了一個含混的結(jié)論。開了Extended Thinking后模型的推理流程明顯不同。它先在草稿里復(fù)述了問題條件寫下了P(A)1/2、P(G|A)3/4、P(G|B)1/4然后分別計算兩條路徑的聯(lián)合概率P(A且G) 1/2 × 3/4 3/8 P(B且G) 1/2 × 1/4 1/8歸一化之后得到P(A|G) (3/8) / (3/8 1/8) 3/4。關(guān)鍵在于推理塊里能看到模型自己寫了一句等一下這里需要把兩個分支的貢獻做歸一化不能只看其中一條路徑。這種自我糾錯的痕跡在普通模式里幾乎見不到因為它根本沒有空間做這一步。這題比較基礎(chǔ)但道理是通用的需要精確公式、多步驟推導(dǎo)、邊界條件判斷的任務(wù)Extended Thinking的收益最明顯。4.2 代碼排查偶發(fā)超時問題的定位我讓某開發(fā)者用這個功能排查一個偶發(fā)的接口超時問題那次的對比讓我印象很深。普通模式下模型給出的建議是增加客戶端超時時間并加入重試機制。這個建議不算錯但完全沒有觸及問題的核心。開啟思考模式后模型的診斷邏輯完全不同。它先列出了一張候選清單網(wǎng)絡(luò)抖動、客戶端重試邏輯缺陷、服務(wù)端線程池耗盡、數(shù)據(jù)庫慢查詢、網(wǎng)關(guān)限流。然后根據(jù)給出的日志特征逐項排除——日志里沒有數(shù)據(jù)庫慢查詢的跡象所以數(shù)據(jù)庫這條先劃掉超時發(fā)生在固定時間窗口不是隨機網(wǎng)絡(luò)抖動最終鎖定了客戶端在短窗口內(nèi)的重復(fù)請求觸發(fā)了服務(wù)端限流。這個案例給我的啟發(fā)是思考模式在診斷類任務(wù)里的價值不只在于給出結(jié)論更在于輸出一條可驗證的排除路徑。哪怕它最后鎖定的原因不夠準確這種結(jié)構(gòu)化的推理過程本身對工程師做二次判斷也是極有幫助的。4.3 長文檔分析收益最大但別指望它消滅幻覺我在多文檔綜合分析任務(wù)上也做了測試。普通模式會快速給出一個概括性的回答但經(jīng)常把不同文檔里的數(shù)據(jù)混在一起開啟Extended Thinking后模型會在推理階段先摘錄各文檔的關(guān)鍵信息再判斷哪些信息互相矛盾最后才組織答案。整體上看引用準確性和信息歸因都上了一個臺階。但有一件事必須潑冷水思考模式不能解決幻覺問題。它能讓模型多想一會兒但不能讓它想到的全是真的。如果模型本身沒有見過相關(guān)事實或者文檔里根本沒有對應(yīng)信息它照樣會在推理里編造一個合理的解釋。因此涉及事實性、時效性的場景還是得靠外部檢索和驗證兜底思考模式只是讓錯誤出現(xiàn)得更少、也更容易被追蹤。5. 常見問題與排查技巧實錄癥狀可能原因解決方向推理很長但答案依然是錯的推理方向從一開始就跑偏了在系統(tǒng)提示里要求先列出問題約束再做假設(shè)最后驗證響應(yīng)延遲明顯上升預(yù)算過大推理token量太大降低預(yù)算或者把任務(wù)拆成多個小步驟分別思考響應(yīng)里根本沒有thinking字段版本不支持、參數(shù)未生效、字段名有變化確認模型版本檢查請求參數(shù)查看官方文檔的響應(yīng)格式推理塊被截斷沒有最終答案max_tokens不夠推理吃光了全部預(yù)算調(diào)大max_tokens或調(diào)小budget_tokens多輪對話時報告簽名無效沒有回傳上一輪的signature或簽名被改動正確傳遞簽名不要修改推理塊內(nèi)容賬單明顯變貴推理token也按輸出token計費簡單任務(wù)不開啟用路由把復(fù)雜任務(wù)分配進來這里單獨講一個被問得最多的坑模型推理方向跑偏。當你發(fā)現(xiàn)它想了一大堆卻給出錯誤答案時不要盲目加大預(yù)算那只會讓它在錯誤方向上走得更遠。正確做法是在系統(tǒng)提示里加入結(jié)構(gòu)約束例如要求模型推理過程中必須依次完成1. 列出所有已知條件和未知量2. 寫出可能的解法并標記最可疑的一個3. 對最終結(jié)論做一次反向驗證4. 如果發(fā)現(xiàn)矛盾回到第2步修正。這種約束能把思考過程擰到正確的軌道上而且它提取出來的結(jié)果也更規(guī)整方便程序做后續(xù)處理。6. 幾點實測經(jīng)驗與避坑總結(jié)最后分享幾個我在實際項目中積累的操作經(jīng)驗。第一個經(jīng)驗是把Extended Thinking當作先遣分析器來用而不是單純的答題開關(guān)。我會先讓模型開啟思考模式產(chǎn)出一份結(jié)構(gòu)化推理報告把這個報告存下來之后再做總結(jié)、問答、生成文檔時普通模式直接引用這份報告就夠了。這樣既拿到了深度的中間產(chǎn)物又不用每次都付出思考模式的成本。第二個經(jīng)驗是關(guān)于隱私設(shè)計的。推理內(nèi)容可能包含用戶原始輸入、模型自身的推測、甚至一些不該展示的中間結(jié)論。如果做面向終端用戶的產(chǎn)品千萬不能把完整推理草稿直接放在界面上。官方API用占位塊做隱私遮蔽這個設(shè)計本身就是給開發(fā)者提個醒思考過程是內(nèi)部數(shù)據(jù)不是展示素材。第三個經(jīng)驗是控制預(yù)期。Extended Thinking是個好東西但它本質(zhì)上只改變思考過程的結(jié)構(gòu)不改變模型知識的邊界。它不會讓模型突然變聰明只是讓它更充分地調(diào)用已有的能力。你該做檢索還是做檢索該搭知識庫還是搭知識庫別指望一個參數(shù)解決所有問題。我個人的習(xí)慣是在做任何涉及復(fù)雜推理的任務(wù)時先以普通模式跑一遍拿基線答案再開啟Extended Thinking對比一次。如果兩次結(jié)論一致說明任務(wù)足夠簡單后續(xù)就不開思考模式如果兩次結(jié)論不一致我會重點檢查模型的推理鏈條判斷哪一次更靠譜。這個流程雖然多花一次請求但對判斷你的任務(wù)到底適不適合開思考模式非常有效長期用下來反而省了不少錢。