模型越分越多層，你們怎麼決定用哪個？

Vivian L · 2026-07-12T11:00:20.925623+00:00

GPT-5.6 分了三個型號（Luna、Terra、Sol），本來以為這樣好選了，結果反而更難決定。我最近在做一個內部工具的 AI feature，要在 budget 和 quality 之間 trade off。之前只有「快又便宜」和「最好但貴」兩個選項，反而好選。現在中間多了 Terra，就開始卡在「這個 task 到底值不值得多花那個 cost？」我自己目前是這樣分的：草稿、分類、summary 之類的，一律先用 Luna 跑；要給 stakeholder 看的報告，或者有 logic 要嚴謹的，才換 Sol；Terra 反而不知道什麼時候用。問題是這個邏輯是我「感覺」分的，沒有系統。上週跑了一個測試，讓三個 model 各做同一份 10 頁 PRD 的 summary，Luna 的版本有 3 個細節判斷跟我不一樣，Sol 幾乎全對，但花了 4 倍的 token。Terra 的結果介於中間，cost 卻是 Sol 的 60%。對我的 use case 來說，Terra 可能才是那個 sweet spot，但 data point 還不夠多。更麻煩的是 enterprise 場景要考慮 latency。有些 workflow 是 user-facing 的，不能讓 user 等 15 秒，Sol 就算再準也沒辦法用。現在 model 選擇越來越多，反而卡在選擇太多。有人已經有一套比較 systematic 的分層邏輯嗎？尤其是在 content 和 product 兩個 domain 都有 AI workflow 的情況下，你是怎麼決定什麼 task 值得多付費、什麼就先用輕量版跑看看？