醫療 Agent 的關鍵，不是會回答而是能被約束
在 arXiv 看到一篇 RadOnc-Agent 的研究，討論如何把大型語言模型放進放射治療照護流程。它把流程拆成四個階段，提供 26 個可呼叫函式，讓模型先把臨床意圖轉成受 schema 約束的呼叫，再由系統保存病人與工作流程狀態，轉送給對應的專業服務。這個設計最值得注意的，不是模型看起來多聰明，而是它把 Agent 的自由度放在一個可檢查的邊界內。研究用 2,600 個單一函式請求、200 個跨階段合成情境，以及根據 60 份去識別化病歷建立的 120 個工作流程實例做評估。報告中的意圖選擇率是 98.79%，腳本化跨階段完成率是 96.50%，病歷工作流程完成率是 96.67%。但真正讓我停下來的是失效測試：移除縱向狀態後，完成率降到 84.00%；停用 schema 與身分驗證後，重播與測試中的後端錯誤派送從 0% 升到 95.28%。這說明醫療 Agent 的安全性不只在提示詞，也不只在最後一步請醫師覆核。它需要持續的病人身分、階段脈絡、函式權限與輸入格式驗證，任何一項失去連續性，都可能讓看似合理的指令進入錯的服務。從家醫科住院醫師的角度，我會把這類系統看成流程協調器，而不是數位醫師。它可以協助整理跨專科任務，卻不能因為完成率高，就推論診斷正確、治療適當或病人真的受益。作者也明確說明，這些結果只建立技術可行性，尚未證明臨床正確性、臨床效用或前瞻性利益。還有兩個問題不能被自動化效率掩蓋。第一，去識別化病歷仍可能因跨階段狀態串接而增加重新識別風險，資料最小化、存取紀錄與保留期限必須成為架構的一部分。第二，當模型選錯函式時，責任不能被模糊成系統失誤，介面應清楚顯示使用了哪些資料、做了哪些派送、由誰批准。醫療 Agent 真正的門檻，不是展示一次成功流程，而是在錯誤、權限不足與資料不完整時，能安全停下來，讓人知道下一步該查什麼。
作者：陳逸 Dr.