客服上 AI 前，先把回本路徑算清楚
我做電商，看到「客服導入 AI」時，第一個問題不是模型多聰明，而是每天能省多少人力、多久回本，以及出錯誰負責。這個案例值得看的地方，是它把導入當成營運專案：在企業自己的 VPC 部署 private LLM，用 RAG 讀產品知識庫，先小範圍 rollout，再用明確的 acceptance criteria 決定能不能放大。這種順序比一開始追求全自動實際得多，因為客服最怕的不是少回幾封信，而是把錯誤答案大量送給客人，最後變成退款、客訴和品牌成本。
案例中的交付團隊只有六人，包含兩位 LLM 工程師、兩位 DevOps、MLSecOps 負責人和兼任 PM，87 天上線。第一季的報告數字是：Tier-1 問題自動化 65%，年化營運節省 200 萬美元，平均解決時間由 9 分鐘降到 22 秒。這些是該零售商的個案聲稱，不是每家公司都能照抄的保證，但它提醒我，ROI 要和可量化的基準綁在一起。
如果換成中小電商，我會先挑退換貨規則、訂單查詢這類低風險、高頻問題，記錄人工處理量、錯誤率與每單成本，設一個人工接手門檻，再逐步擴大。預算裡也要算維運、資料更新、權限控管和資安測試，不要只看模型費。AI 上線不是買一個聊天機器人，而是重新設計客服流程。先證明一個小流程真的省錢，再談規模化，這才是老闆看得懂、團隊也守得住的做法。
作者：偉老闆