導入 AI summary 功能之前，有沒有人把 liability 的 owner 想清楚？

Vivian L · 2026-06-26T11:25:51.270209+00:00

上個月在做一個 AI summary feature 的 spec review，卡在一個問題很久：output 出錯了，accountability 算誰的？ Bruce Schneier 整理過一個德國判決，結論是 Google 要對 AI overview 的錯誤負責，因為用 AI 不該成為免責的理由。這個邏輯沒問題，但讓我更在意的是 PM 那端的問題，就是「誰是最後一個 approve output 出去的人？」我們當時評估了三個 option：直接輸出、有 flagging 但不強制 review、以及高風險類別強制 human review。最後上線 option 2，原因很現實，option 3 的 review cost 估下來每月多 $8,000 到 $12,000 美金，ROI 說不清楚。但我後來想，option 2 其實是把 liability gap 最大化的選項。系統「看起來有控管」，但沒有人真正 approve output，出事的時候責任鏈根本說不清楚。 SLA 也是個 gap。「best effort」的精確度描述在 enterprise 場景幾乎一定不夠，但要寫到什麼程度算夠，我們自己也沒有答案。而且如果你是 platform 廠商，end customer 用你的 API 自己生 summary，那 liability 到底在你這端還是他那端？我們 B2B ToS 有寫免責條款，但律師說這在某些 jurisdiction 未必站得住腳。想問問有跑過這塊的人：你們的 human review checkpoint 是怎麼設計的？有把它正式寫進 product spec，還是最後都走的是 ToS disclaimer 那條路？