最近我參加了一個智能體項目評審場景很有代表性技術團隊用開源框架接了大模型demo 階段非常驚艷能自動寫周報、能查數據庫、能填工單領導看完當場拍板要上線。結果一進生產環境就變了一個樣——接口超時、工具調用失敗、上下文錯亂、回答經常漏掉關鍵條件。團隊一開始懷疑是模型不夠聰明換成更大的模型后問題仍然在別處反復出現。這其實不是某一個團隊的問題。過去兩年里智能體框架、智能體平臺、智能體開發教程層出不窮但真正能在業務里穩定運行、產生持續價值的智能體仍然遠沒有大模型本身普及。恰恰在這個時候我看到 Charlie Holtz 的呼吁——與其繼續堆模型能力不如去做“智能體所需的產品”。這句話點到了根子上智能體的瓶頸從來不是模型不夠強而是圍繞智能體的產品化基礎設施太薄弱。這篇文章我會從三個層面展開先拆解“智能體缺產品”到底缺在哪里再看今天市面上已經出現的智能體產品信號最后給出一條從零搭建智能體產品的最小閉環路徑。你會發現真正拉開差距的不是誰調 prompt 調得更好而是誰更快把一次成功的對話變成一套可靠的產品流程。1. 先看懂 Charlie Holtz 呼吁背后的真實問題1.1 智能體為什么“看起來很聰明用起來不順手”智能體和普通聊天機器人的最大區別是它被賦予了“完成任務”的責任。它不再只是生成一段文字而是要去理解目標、拆解步驟、調用工具、查看結果、迭代方案最后給用戶一個可交付的結果。這個過程中模型負責的是“理解”和“生成”這兩個環節。從行業現狀看模型在這兩塊已經做得足夠好日常對話、寫代碼、總結文檔都能達到可用的水平。可一旦進入真實任務事情就變了一個任務往往包含多個步驟每個步驟都可能出錯而模型自己并不知道哪些步驟真的成功了。很多團隊第一次搭智能體時都會遇到這樣的怪象單獨問模型“幫我查一下本周的銷售額”模型答得很好但把同樣的請求放進智能體里經過工具調用、結果拼接、上下文壓縮之后反而經常丟字段、答非所問。原因不是模型變笨了而是智能體的“工作流”本身沒有一個穩定的產品結構來承接模型的輸出。Charlie Holtz 的呼吁本質上就是在說智能體真正需要的不是更強的推理引擎而是一個能讓模型穩定完成任務的“工作臺”。這個工作臺要負責安排步驟、管理上下文、記錄執行狀態、處理失敗重試、輸出結果。沒有這些模型再聰明也只能在真空里表演。1.2 模型負責“理解”產品負責“穩定交付”這里可以做一個類比把模型想象成一個聰明但經驗不足的新員工他學習能力強、反應快但不知道公司流程、不知道遇到問題該找誰、不知道做過的事情要留痕。而智能體產品相當于給這個新員工配備的一整套工作制度工位上有操作手冊流程系統會告訴他先做什么后做什么出了問題有告警做完任務有復盤。也就是說智能體產品不是要把模型包起來而是要給模型構造一個“可以穩定交付任務”的環境。這個環境至少包括四個部分任務上下文怎么管理、工具調用怎么組織、異常情況怎么處理、執行過程怎么觀測。很多團隊一開始把這些當成“工程細節”先把功能跑通再說。但真實業務里這些細節恰恰是決定成敗的部分。一個沒有觀測日志的智能體用戶反饋“結果不對”時你根本不知道是模型理解偏了還是工具返回錯還是步驟漏了。一個不做上下文管理的智能體對話一長就會“失憶”用戶發現它忘了自己十分鐘前提交的訂單編號。一個不處理重試的智能體只要上游接口抖動一次整個任務就中斷用戶只能重新開始。所以Charlie 呼吁“打造智能體所需的產品”我理解的核心不是去做更花哨的界面而是先把這些不性感但決定生死的產品能力補齊。2. 智能體需要的不是又一個框架而是一套產品鏈路2.1 拆開智能體產品的六個核心模塊從工程實踐看一個能進入真實業務的智能體產品至少需要六個模塊而不是簡單一個“模型 API”的組合。任務編排把一個用戶請求拆成可執行的步驟支持順序執行、條件分支、循環。比如“幫我訂機票”可能要先查行程、比較價格、確認身份、再下單。上下文與記憶管理一次任務中的臨時狀態以及跨任務長期記住的用戶偏好、歷史記錄。沒有這個模塊智能體就是一個“每次見面都假裝不認識你”的客服。工具接入把 API、代碼、數據庫、本地文件封裝成模型可以調用的工具并且能處理工具返回的格式轉換、錯誤信息。執行與反饋負責真正觸發工具調用處理超時、重試、并發限制、權限校驗。這是最容易出問題的層。觀測與日志記錄一次任務從輸入到輸出的完整鏈路每一步模型說了什么、調用了哪個工具、結果是什么、耗時多久。評估與優化用一組評測集持續驗證智能體的準確率、成功率、成本、延遲并根據結果調整 prompt、工具選擇策略和流程設計。你會發現后面五個模塊和模型本身沒有直接關系但它們決定了智能體能不能從“玩具”變成“工具”。市場上很多框架和平臺其實就是在幫你封裝這些通用能力。2.2 從“搭一個 Demo”到“運營一個智能體”的要求變化演示型智能體和產品級智能體的差別比很多人想象中大得多。我用一個具體例子來說明。假設要做一個“請假審批智能體”。Demo 版本只需要做對一件事收到“我要請三天假”之后生成一張請假申請單。這個流程用 Coze 或 Dify 拖拽幾個節點就能跑通看起來效果不錯。但放到企業真實環境里問題會立刻冒出來怎么確認當前用戶就是員工本人請假日期跨周末要不要扣年假員工年假余額不夠怎么辦兩個員工同時提交請假會不會覆蓋數據審批人不同意智能體要不要重新生成方案每一次審批記錄需不需要審計日志這些問題沒有一個能在“模型層”解決必須由產品流程來兜底。產品級智能體本質上是在模型外面加了一圈“業務規則和安全網”。沒有這一圈模型再聰明也無法應對真實世界的復雜度。所以我特別認同 Charlie 強調的“產品”不是指 UI 界面而是指可編排的流程、可觀測的執行、可干預的異常處理、可迭代的評估機制。這是一個從“寫一個腳本”到“運營一套系統”的轉變。注意在搭建智能體之前先區分“演示成功”和“業務可用”。演示成功只需要一條成功路徑業務可用需要覆蓋失敗路徑、邊界路徑和異常路徑。3. 今天市場上已經出現的“智能體產品”信號3.1 平臺型產品Coze、Dify 們解決了什么如果你經常關注智能體開發相關的討論會發現兩個名字出現頻率非常高Coze 和 Dify。它們本質上是兩種不同思路的智能體產品平臺。Coze 更偏向快速搭建對話類智能體提供了很多現成的插件、知識庫能力和分發渠道適合個人開發者或中小團隊快速驗證想法。Dify 則更強調企業級的工作流編排、數據集管理、模型管理和應用運維適合需要定制流程、接入私有數據的團隊。但它們解決的問題其實是同一類把“智能體所需的產品能力”從代碼層提升到了配置層。你不需要手寫一套任務編排引擎也不需要從零維護上下文數據庫平臺已經幫你實現了。這個變化很重要因為它降低了智能體產品化的門檻讓更多業務人員也能參與設計流程。不過也要潑一點冷水平臺降低了搭建門檻但沒有降低產品化門檻。你依然要思考任務邊界怎么劃、工具怎么選、失敗怎么辦、評估怎么做。平臺只是把工具箱給你了怎么用好仍然取決于你的產品能力和業務理解。3.2 企業級智能體與“智能體開發工程師”的出現從最近的熱搜詞里可以明顯看到兩個信號一個是“企業級智能體”另一個是“智能體開發工程師”。這說明智能體已經開始從個人玩具走向企業系統并且衍生出了獨立的崗位需求。企業級智能體和普通智能體最大的區別在于對穩定性、權限、審計和成本控制的要求更高。企業不會接受一個“大部分時候正確”的財務審批助手也不能容忍智能體誤調了沒有權限的內部 API。所以企業級智能體必須做精細化設計什么角色可以觸發什么工具、哪些操作必須人工確認、每一步執行的日志要保留多久、模型調用成本怎么預算。而“智能體開發工程師”這個崗位的出現本質上是把之前分散在 prompt 工程師、后端開發、運維、數據分析里的能力整合成了一個獨立角色。這個角色最重要的技能并不是調 prompt而是懂業務建模、工具設計、流程治理和評測體系。一個合格的智能體開發工程師更像一個“流程產品經理 系統架構師”的結合體。3.3 科研場景里智能體為什么開始強調 Skill 與 Codex 這類組合除了企業和個人場景科研領域也在快速出現智能體產品形態。熱搜詞里“科研 智能體 skill codex”這個組合很有意思它揭示了科研智能體的一個真實需求不是聊天而是執行。科研工作流往往包含代碼編寫與執行、數據解析、論文檢索、圖表生成、結果解讀等一系列步驟。每個步驟都需要調用不同工具。比如讓智能體分析一份實驗數據它不能只給你一段“建議”而應該幫你寫 Python 代碼、運行出來、畫好圖、解釋結果。這里就涉及兩個概念Skill 和 Codex。Skill 可以理解為一個可復用的能力包里面包含了完成某類任務所需的 prompt、代碼、工具調用約定Codex 則是強調代碼執行能力的智能體環境。它們不是要替代大模型而是把模型的能力封裝成更貼近任務執行的產品形態。換句話說科研智能體正在從“問答工具”進化成“科研小助手型產品”。它不再滿足于告訴你“應該怎么做”而是直接幫你做并把過程記錄下來。這也是“智能體所需產品”的一個縮影產品化就是把能力封裝成可以重復執行、可以審計、可以改進的工作流。4. 實操從零搭建一個智能體產品的最小閉環4.1 動手之前先定義輸入、輸出、邊界很多新手搭智能體第一反應是“我要做一個強大的智能體”然后去接一堆模型和工具。這個思路很容易翻車。我更建議反過來先定義清楚輸入、輸出和邊界。你只需要回答幾個問題這個智能體服務誰它只負責哪一類任務用戶通過什么方式提出請求它需要輸出什么格式的結果如果它做不到應該怎么告訴用戶拿一個常見示例“圖書薦購智能體”來說可以這樣定義服務對象圖書館讀者任務類型根據讀者輸入的感興趣主題推薦 3 到 5 本館藏圖書輸入方式自然語言例如“我最近想了解人工智能歷史”輸出格式書名、作者、推薦理由、館藏位置失敗兜底如果沒有檢索到相關圖書推薦館員咨詢入口這個定義過程會讓你的智能體從一開始就有邊界。否則用戶問一句“你好能幫我推薦電影嗎”智能體如果也回答電影推薦那就跑偏了。4.2 最小閉環的基本流程一個典型的智能體最小閉環可以拆成五步接收用戶請求提取關鍵字段調用一個工具組裝結果返回并記錄日志用 Python 偽代碼表示大概是這個樣子def book_recommendation_agent(user_input): # 1. 接收請求并提取關鍵字段 topic extract_topic(user_input) if not topic: return 請告訴我你感興趣的主題例如人工智能、歷史、科幻小說。 # 2. 調用圖書檢索接口 books search_library_books(topic) # 3. 組裝結果 if not books: return 沒有找到相關的館藏圖書你可以咨詢圖書館工作人員獲取更多幫助。 recommendations [] for book in books[:5]: recommendations.append({ title: book.title, author: book.author, reason: generate_reason(topic, book), location: book.location }) # 4. 返回結果并記錄日志此處省略 return format_recommendations(recommendations)在 Coze 或 Dify 里你不需要把每一步都寫成代碼而是通過節點把“意圖識別”“參數提取”“工具調用”“結果輸出”連接起來。但核心邏輯是一樣的先確定輸入再走一個工具調用最后把結果結構化地返回給用戶。不要一上來就把這個流程復雜化。先讓一條主流程能跑通再考慮分支和異常。如果你的智能體連“用戶說了一個主題它就能返回對應圖書”都做不到后面加再多功能都是空中樓閣。4.3 怎么判斷智能體“能用”還是“可產品化”跑通一條路徑之后下一步是評估。我習慣用一個簡單表格來區分“能用”和“可產品化”評估維度Demo 階段可產品化階段成功率成功一次就算完成需要統計多次運行的成功率失敗處理報錯就重來有明確的重試、降級和人工兜底人工介入率可以全程人工監控需要降低到可接受范圍比如低于 10%響應時間不敏感有明確延遲上限超時自動告警成本忽略不計每次調用成本可估算能設預算可觀測性看控制臺輸出能追蹤每一步日志、token 消耗、工具調用耗時評測集沒有至少有 20 到 50 條典型輸入能回歸測試這里的數字不是絕對標準而是一種思考方式。你需要在搭建之前就想好這個智能體做到什么程度才敢讓真實用戶用如果你的答案是“不知道”那說明它離產品化還很遠。建議至少準備 20 條評測用例覆蓋正常場景、邊界場景、錯誤輸入和惡意輸入。不要拿自己寫的那條 happy path 當全部依據。4.4 最容易踩的坑和排查鏈路智能體上線后問題基本躲不開“結果錯誤”“沒有結果”“響應很慢”“調用工具失敗”這幾類。很多人第一反應是調模型參數實際上大部分問題都出在更外圍的地方。我建議遇到問題按這個順序排查先看現象是報錯、卡住、無輸出還是輸出不符合預期不同現象對應的方向完全不同。再看輸入用戶請求有沒有缺失字段上下文窗口是不是已經塞了太多歷史內容工具返回的格式是否被截斷再看環境依賴庫版本、模型 API Key、工具權限、網絡超時設置、數據源連接是否正常。再看參數溫度、最大 token、工具選擇策略、并發數、重試次數是否合理比如很多工具調用失敗是因為在函數參數里傳了非法字符而不是模型能力不足。最后看設計任務邊界是不是太寬了一個智能體是不是想承擔太多功能導致每個功能都做不深這個排查鏈路看起來像常識但在實際項目里很多團隊會跳過前幾步直接去換模型或調 prompt最后耗時又無效。先確認“是哪一層壞了”再決定“修哪里”才是智能體產品化過程中最底層的工程素養。5. 給普通開發者的幾條建議5.1 智能體和 Skill 的關系分層不是替代在智能體討論里很多人搞不清模型、Skill、智能體三者的關系。簡單來說模型是“大腦”Skill 是“技能包”智能體是“負責完成任務的項目經理”。一個智能體可以擁有多個 Skill。比如科研智能體可以有“代碼執行”“論文檢索”“圖表繪制”三個 Skill對應不同的工具調用組合。Skill 的好處是可復用你在一個項目里寫好了“代碼執行”技能包其他項目可以直接引用不需要每次重新設計。很多人把智能體和 Skill 對立起來問“用了 Skill 還要不要智能體框架”。其實它們是不同層級的東西。Skill 解決的是“某項能力怎么穩定執行”智能體解決的是“多個能力怎么協同完成一個目標”。二者是分層協作關系。5.2 和 LangChain 的關系框架解決連接產品解決可用性LangChain 這類框架解決的核心問題是“連接”連接模型、工具、記憶、向量庫。它在快速原型階段非常好用能讓你在幾小時內拼出一個能跑的多步驟應用。但 LangChain 不負責解決“可用性”。它不會幫你分析業務邊界不會幫你設計人工兜底流程不會幫你統計任務成功率也不會告訴你哪些工具調用不合理的業務規則。這些都要由產品層來解決。所以我的建議是不要迷信框架。框架可以讓你起步更快但如果你沒有建立評測體系和觀測日志框架搭建的智能體依然是一個黑盒。真正產品化的智能體一定是在框架上疊加了很多自有邏輯和運營機制。5.3 哪些人適合做智能體產品哪些人不適合適合做智能體產品的人通常具備這樣的特征手里有明確的業務問題而且這個問題適合用“任務型對話”解決能接觸到真實工具或數據接口比如內部系統 API、數據庫、文檔庫認可“小步快跑”的迭代方式愿意先用 20 條評測用例跑起來再逐步優化有耐心做流程設計和異常處理而不是只追求模型能力的炫技。不適合做智能體產品的人則往往有這樣幾個特點想要做一個“通用智能體”什么都能聊、什么都能干沒有明確的用戶和場景只憑“這個技術很火”就參與不愿意做觀測和評估覺得日志和評測集是額外負擔指望著“接入一個大模型就自動變聰明”而不是主動設計流程。這不是能力高低的問題而是做事方式是否匹配。智能體產品化是一個需要持續打磨的過程它不會因為模型升級而自動解決。5.4 學習路徑建議如果你現在剛開始接觸智能體產品我建議按下面這條路徑走先跑通一個最小閉環不要接復雜的流程只做一個工具調用比如“查天氣”“查圖書”。再接入真實工具和數據把靜態演示變成動態執行觀察工具返回和模型生成之間的銜接。建立觀測和評估用一個簡單的評分表或日志表記錄每一次任務的輸入、輸出、是否成功、問題在哪。然后處理異常加入超時重試、失敗兜底、人工確認。最后再考慮多智能體協作讓不同智能體分別負責不同子任務并通過一個調度層協同完成。這條路看起來不快但每一步都會幫你積累“智能體產品思維”。等到你面對復雜場景時不會慌著堆功能而是先問這個任務的邊界是什么中間有哪些環節可能失敗我能不能觀測和評估每一步回到那句呼吁先做產品再談智能體Charlie Holtz 的呼吁之所以值得認真對待是因為它把視角從“模型能力”拉回到“產品交付能力”。過去兩年我們看到了太多“智能體看起來很厲害”的演示但真正能在業務里長時間穩定運行的例子依然稀缺。問題不在模型而在于很少有人愿意去設計任務編排、處理異常、建立評估、維護日志這些麻煩事。智能體產品化的下一階段真正的稀缺資源不是能調模型的人而是能把一個模型變成可靠產品的人。如果你正在嘗試搭建智能體先別急著追新模型和新框架找個具體場景跑通最小閉環然后補上觀測、評估、失敗處理。這些事看起來費工夫卻正是“智能體所需的產品”真正需要做的事。