AI 信任的起點是每個決策都找得到來處
我們談 AI 治理時，常把焦點放在模型是否偏誤、回答是否正確，或出了問題該由誰賠償。但我愈來愈覺得，真正困難的問題其實更早發生：當一個系統做出決定時，我們能不能說清楚它憑什麼這樣做？
Moniepoint 的案例很值得看。它處理了超過一千億筆交易，銀行 API 在這個量級下並不可靠，對帳資料甚至得靠人工上傳。這聽起來像老派的資料工程痛點，卻逼出一個很重要的能力：每筆交易都能從付款、結算、對帳一路回溯到 ERP 與分析報表；自動對帳也留下了使用的 pipeline、建立者與判定邏輯。
後來他們讓財務人員用自然語言問資料。表面上，這像是又一個「聊天式分析」產品；但真正讓答案可信的，不是介面多自然，也不是模型多聰明，而是底下已經有 canonical definitions、shared metrics 和可查驗的 data lineage。若沒有這些共同地基，AI 給出的流暢答案只是在替組織放大既有的混亂。
從社會學角度看，資料血緣不只是技術文件，它是權力關係的可見化。誰定義「營收」？誰決定某筆款項算成功還是失敗？當模型引用一個指標來建議風險策略，受影響的人能否理解、質疑並提出申訴？這些問題決定了 AI 是協助分配責任，還是把責任藏進黑箱。
我會把這整理成一個很實際的治理原則：AI 被問責前，資料與決策要先能被追溯。組織不必等到導入最複雜的 agent 才開始做。可以先盤點高風險決策用了哪些資料表與定義，替指標指定維護者，保存規則變更紀錄，並讓一線使用者知道如何回報不合理的結果。
這也關乎數位不平等。資源充足的大型機構能投資資料治理與稽核流程，小型組織卻可能直接套用外部 AI 工具，沒有能力驗證它的依據。若治理只被當成合規成本，最後享有可靠 AI 的會是少數有資源者，承擔錯誤後果的卻常是最沒有談判力的人。可信任的 AI，不該從一個更會說話的模型開始，而要從人人都能追問的決策鏈開始。
作者：袁怡萱