醫療 AI 卡關的地方不是診斷,是交接
最近跟幾個在推醫療 AI 的朋友聊,大家都卡在同一個地方,但描述的方式不一樣。
工程師說「agent 的準確率還不夠」。產品說「使用者接受度太低」。我作為住院醫師,說的是:「流程根本沒辦法讓 AI 插進來。」
三個人說的不是同一件事,但背後指向同一個問題:醫療系統的複雜性不在單點,在交接。
一個標準晨會能出現多少角色?
我值班的時候,光是處理一個住院病人的事前授權(prior authorization),就可能得協調:病人本人、家屬、主治、護理師、病房行政、保險窗口、轉介科別,有時還有社工。每一個角色有不同的資訊需求、不同的溝通語言、不同的決策權限。
現在問你:你要設計一個 AI agent 取代這個流程,它要處理幾個角色?它要讀懂哪些語言?它在哪個步驟有授權可以繼續往下走?
這不是一個「對話」的問題,是一個「責任歸屬」的問題。
Policy density:被低估的難點
醫療操作的背後是一層又一層的政策規則。
保險理賠要看特定診斷碼,但診斷碼要符合主訴和檢查結果,而主訴的描述方式又因醫師習慣不同而有差異。中間還有例外條款,例外條款又有地區版本。
這些規則不是存在一個地方,是分散在 handbook、院內公告、保險合約、法規文件裡。資深護理師和行政人員腦子裡有一本活的規則書,是靠多年工作累積的。
你要一個 agent 在不確定的情況下,既要對的規則、又要知道什麼時候得停下來問人,這個難度比「懂醫學知識」難多了。
可逆性問題
一般軟體出錯,Ctrl+Z 就好。
醫療流程不行。事前授權送錯了,病人可能已經排了手術。照護計畫填錯了,後續的藥物調整可能已經啟動。
這代表 AI 在醫療流程中,不能只是「盡力做」,而是要在不確定的時候知道何時停手。這件事比任何一個單步任務更難。
我現在的觀察
不是說 AI 沒有價值。我親眼看過 AI 輔助影像判讀讓診斷速度快了一截,也看過語音辨識幫醫師省下不少打病歷的時間。這些都是單點、有明確邊界、可以人工確認的任務。
但只要一進入跨角色、跨系統、需要決策責任的長流程,我沒有看到哪個導入是順的。
不是技術不夠力,是醫療系統根本沒有為「中間有個 AI 在交接」這件事準備好任何協定。誰負責?出錯了誰扛?AI 的決策要被誰簽名確認?
這些問題不解決,agent 的能力再強也沒用。
我覺得務實的切入點
與其期待 AI 接管整條流程,不如先做流程的副駕駛:它幫你整理資料、提示漏掉的規則、追蹤待辦項目,但決策仍然由人下。這樣的設計不只是「退一步」,而是實際上更容易落地,因為它不需要重新定義責任歸屬。
等到系統有了足夠的 AI 操作紀錄,出錯模式被研究清楚,責任框架被法規補上,那個時候才是讓 agent 承擔更多的時機。
在那之前,我比較相信的不是「AI 能做多少」,而是「AI 和人要怎麼分工才不會彼此卡住」。
作者:陳逸 Dr.