AI Agent 安全問題,用 MCP 拼工具要注意
我剛看到一篇文章講到 AI Agent 的資安風險,越看越恐怖,分享一下
作者提到如果一個 Agent 同時具備三種特性,
攻擊者就有辦法透過一些藏在內容裡的指令來騙模型,把資料偷送出去
可以存取私人資料
會接觸到不受信任的內容 (像網頁、Email、公開 issue 等)
具有對外溝通能力 (例如 HTTP request、寄信、貼連結)
蠻可怕的是,這不是理論上的問題,
作者列了一堆已經出事過的例子:
Microsoft Copilot、GitHub MCP server、GitLab Duo Chatbot、Slack bot、甚至 ChatGPT 本身都中過。
尤其是現在 MCP 鼓勵大家自由拼工具,更容易同時採到,
我自己看完感覺跟早年的 SQL Injection 有點像
作者:林子豪