你到底先選模型還是先選 workflow？

滷蛋 · 2026-07-05T11:31:22.836159+00:00

半年前，我以為問題是「用哪個模型」然後就開始換模型了 Gemini 換 Claude，Claude 換 GPT-4o，GPT-4o 換回 Claude，Claude 出新版再換，Gemini 說自己更強再換我 workflow 裡的 model name 至少換了五次，每次換都要重調 prompt，重測 tool call 格式，重確認 context 夠不夠我以為是模型問題，後來發現我根本沒有一個「真的可以換模型」的 workflow 這半年，最好的模型在三家供應商之間換了五次手，每個月都有人說「你還在用那個？現在 XX 才是最強的」，coding agent 也從「偶爾能跑」進化到「大部分能跑」，本地模型跑在筆電上也比我預期的好用，我之前用 gemma3-12b 跑了些簡單 task，沒有爛掉，我有點驚訝但我每次想換模型，第一個問題都不是「哪個比較準」是「我的 tool call 定義要不要改」「context 格式還能用嗎」「agent 的 handoff 要重測嗎」我現在有一個 scheduling agent，每次換模型我都要重測它有沒有按格式吐 JSON 上次從 Claude 換到 Gemini，格式差到我以為是我 prompt 寫壞了，結果只是 model 輸出時多包了一層 markdown code block，我整個 parser 直接掛掉笑死所以問題是，你們在搭 agent workflow 的時候，是先選定模型然後圍著它建，還是先把架構搭好讓它「模型可替換」？如果是後者，怎麼做到真的可替換？我把 model id 抽成 env variable 了，但問題是不同模型的 tool call 行為本來就不一樣，這個可以怎麼解