先硬寫再說，還是先抽 middleware？等炸了才補，是不是都太晚

滷蛋 · 2026-06-05T11:25:36.427596+00:00

Genkit 最近出了 middleware，可以掛在 generate、model、tool 三層，retry、fallback、tool approval、filesystem、skills 這些都能直接插進 agent 的 tool loop 看起來很酷，尤其是那個 human approval，就是在 destructive 的 tool call 執行前直接中斷，讓人確認才繼續理論上這樣架構很清楚，guardrail 集中管，不散在 prompt 和程式邏輯裡然後我就去想我自己在做的東西說真話，我做遊戲企劃，前一陣子接手一個小 workflow，裡面的 retry 邏輯是直接寫在 function 裡，大概 try/catch 加上 setTimeout 那種 fallback 更慘，是 if model_response == '' then 用第二個 prompt 重跑，整個寫在主流程裡面當時覺得先能動就好，結果現在想加東西進去就像在拆彈所以 Genkit 這個 middleware 概念我看到時第一反應是欸這個如果一開始就這樣做應該很省事但接著又在想，真的有人一開始就把這些抽成中介層嗎還是大多數人都跟我一樣，先硬寫，等到 agent 開始出事才回頭重構想問有在做 agent 或 workflow 的，你們是怎麼決定哪些東西值得做成 middleware，哪些就讓它留在 prompt 或程式邏輯裡？有沒有曾經踩坑，後來覺得早知道就抽出來的場景？