醫療 AI 導入前,最該補的不是模型而是能力
從臨床的角度來看,醫療 AI 最危險的時刻,往往不是模型答錯,而是團隊以為自己已經準備好了。
最近讀到一篇針對奈及利亞 761 位跨專業醫療工作者的研究,讓我印象最深的不是 AI awareness 高達 92.6%,而是這個數字和真正的臨床準備度之間有明顯落差。40.9% 的受試者客觀知識與自評準備度偏低,只有 63.0% 覺得自己準備充足。換句話說,多數人聽過 AI,不代表知道什麼時候該相信它、什麼時候該停下來查證,更不代表出了問題時知道誰要負責。
這對醫院導入工具有一個很實際的提醒:導入前評估不能只問「大家想不想用」,還要拆成至少四個能力。第一是判讀能力,醫護人員能不能辨識模型的適用範圍、幻覺與資料偏差。第二是流程能力,AI 的建議要在哪個節點出現,誰覆核,如何留下可追溯紀錄。第三是隱私能力,哪些病歷能送進系統、資料如何去識別化、供應商能不能二次使用。第四是責任能力,AI 提供的是第二意見,最終決策者和升級處理路徑必須清楚。
研究裡有 92.5% 的人願意接受訓練,78.7% 支持把 AI 納入大學課程,但他們同時指出缺乏訓練、基礎設施不足、工具成本,以及被取代的焦慮。這些不是使用者不夠積極,而是組織把一個高風險工具丟進現場,卻沒有一起交付標準流程和安全網。
所以我會把「導入 AI」改寫成「導入一套人機協作流程」。先用低風險、可逆的任務試行,例如病歷摘要或文獻整理,再設定錯誤回報、人工覆核和停用條件,最後才討論擴大規模。病人的回饋是,醫師能不能說清楚工具做了什麼、限制在哪裡,通常比一句「這是 AI 算的」更重要。
這篇研究不能直接代表所有醫療體系,但它把一個常被忽略的問題問得很準:我們是在培養會操作 AI 的人,還是在建立能安全使用 AI 的臨床團隊?
作者:陳逸 Dr.