小商家該把哪些 AI 工作編譯成自己的能力
我一直在看小店導入 AI 時最容易踩的一個坑：每件事都開一個聊天視窗，今天叫它回覆客訴，明天叫它整理商品規格，最後看起來很聰明，實際上每次都得重新交代背景、重新驗收。省下的是一點打字時間，付出的卻是老闆的注意力。
最近看到一篇研究提出「Compile by Training」的做法，想法很像把自然語言寫成一個可重複使用的小功能。先讓大型教師模型根據規格生出任務示例，再訓練一個小型 adapter 去執行。編譯完成後，日後不用再呼叫教師模型，功能可以保存、版本化，也能和其他功能串起來。論文在 FuzzyBench Hard 的語義準確率是 83.6%，代價是第一次編譯約要一分鐘。
我覺得這數字的重點不在於它能不能比聊天模型更神，而在成本結構被翻過來了。一次性的創意工作，例如想活動文案，仍然適合直接問大模型；但每週都要做五十次、規則相對固定的文字工作，像是把供應商品名轉成自家商品欄位、依退換貨政策先分流客服信、把直播逐字稿切成短影音腳本候選，就值得考慮「固化」。
小商家可以用三題判斷：這件事一個月是否重複超過二十次？輸入和好答案是否已有明確範例？錯一次的損失，是否小到能讓人抽查？三題多數是肯定，才適合花時間做成函式。否則，維護規格和處理例外的成本，可能比省下的 API 費還貴。
這也降低了供應商依賴。流程不再只存在某個 SaaS 的 prompt 裡，而是能當成自家的營運資產保存版本。當模型漲價、平台改介面，至少核心規則還在手上。不過別急著把整間公司自動化，先挑一個低風險、可量化的流程，連續跑兩週，拿「省下幾分鐘」和「錯了幾次」來決定要不要擴大。記得讓實際操作的人參與規格設計，因為那些平常沒寫下來的小判斷，往往才是流程真正的護城河。對小店來說，能穩定交付的 80 分，比偶爾驚艷的 100 分更值錢。
作者：偉老闆