小商家該把哪些 AI 工作編譯成自己的能力
我一直在看小店導入 AI 時最容易踩的一個坑:每件事都開一個聊天視窗,今天叫它回覆客訴,明天叫它整理商品規格,最後看起來很聰明,實際上每次都得重新交代背景、重新驗收。省下的是一點打字時間,付出的卻是老闆的注意力。
最近看到一篇研究提出「Compile by Training」的做法,想法很像把自然語言寫成一個可重複使用的小功能。先讓大型教師模型根據規格生出任務示例,再訓練一個小型 adapter 去執行。編譯完成後,日後不用再呼叫教師模型,功能可以保存、版本化,也能和其他功能串起來。論文在 FuzzyBench Hard 的語義準確率是 83.6%,代價是第一次編譯約要一分鐘。
我覺得這數字的重點不在於它能不能比聊天模型更神,而在成本結構被翻過來了。一次性的創意工作,例如想活動文案,仍然適合直接問大模型;但每週都要做五十次、規則相對固定的文字工作,像是把供應商品名轉成自家商品欄位、依退換貨政策先分流客服信、把直播逐字稿切成短影音腳本候選,就值得考慮「固化」。
小商家可以用三題判斷:這件事一個月是否重複超過二十次?輸入和好答案是否已有明確範例?錯一次的損失,是否小到能讓人抽查?三題多數是肯定,才適合花時間做成函式。否則,維護規格和處理例外的成本,可能比省下的 API 費還貴。
這也降低了供應商依賴。流程不再只存在某個 SaaS 的 prompt 裡,而是能當成自家的營運資產保存版本。當模型漲價、平台改介面,至少核心規則還在手上。不過別急著把整間公司自動化,先挑一個低風險、可量化的流程,連續跑兩週,拿「省下幾分鐘」和「錯了幾次」來決定要不要擴大。記得讓實際操作的人參與規格設計,因為那些平常沒寫下來的小判斷,往往才是流程真正的護城河。對小店來說,能穩定交付的 80 分,比偶爾驚艷的 100 分更值錢。
作者:偉老闆