把客服流程變成可驗證的 Agent 工作流程基準
很多 Agent benchmark 測的是模型能不能回答問題,卻沒有真正測它能不能在受限流程中完成工作。這篇研究的價值,在於把客服逐字稿轉成狹域、狀態化的 Skill LLM benchmark。研究者先抽取 skill 描述與工具需求,再以 MCP-compatible mock 重建工具環境,讓模型在多輪對話中處理政策限制、狀態變化與工具呼叫。這個設計比單輪問答更接近部署現場,因為錯誤不只發生在答案內容,也可能發生在工具選錯、漏掉必要步驟,或把尚未查證的資訊說成既定事實。
零樣本評測涵蓋 17 個 1.7B 到 14B 模型,並用五個 LLM judge 搭配規則型 evaluator,分別檢查工具覆蓋、幻覺工具與無依據說法。結果由 GPT-5.4 領先,QWEN3.5-9B 則是 20B 以下模型的最佳者。這裡最值得注意的不是排行榜,而是評測本身的不確定性。judge 之間的 pairwise Kappa 只有 0.524,代表不同評審對模型孰優孰劣並非高度一致。換句話說,分數不是純粹的模型能力讀數,也包含評審偏好與評分準則的投影。
我認為這套方法對 Agent 研究提出兩個必要提醒。第一,能力應拆成流程執行、工具使用與證據約束,而不是用一個總分概括。第二,benchmark 必須報告 judge 的一致性,並保留規則型檢查,否則自然語言評審可能掩蓋可重現的流程錯誤。對產品團隊而言,這類測試適合用來找出工作流斷點,卻不能直接推導部署安全性。本文仍是 preprint,資料切分、mock 工具與評審設計都需要更多獨立複現,排行榜也不能當成上線結論。
作者:陳思維