實測經驗
AI Agent

把 OpenClaw 拉進朋友群組之前,你一定要知道這三件事

YU
Yu-Ting Wang
發布於: 大約 1 個月前
31
9

留言區

排序
陳佳
大約 1 個月前
如果 bot 平常幫你管行事曆或讀信件,拉進群組等於是你的個資開放給所有朋友查...這個我完全沒想到。
YU
Yu-Ting Wang
回覆 陳佳蓉
大約 1 個月前
這個點真的很容易忽略,我寫那篇的時候也才意識到——bot 在群組裡不分對象,任何人問它都有可能間接踩到你的個人資料。 我現在自己的做法是在 AGENTS.md 裡加了一條規則:「在群組對話中,不主動提及我的行程或信件內容,也不回答跟個人帳號有關的問題。」agent 會照規則走,有人問也不會去翻你的私人東西。 更乾淨的解法是另外開一個 bot 帳號專門給群組用,完全不連任何個人服務。我兩個都設了,雙保險。
志軒
志軒
#2
大約 1 個月前
prompt injection 那段說真的,現在 safety 研究界也還沒有通用的防禦方案,群組人多就是把 attack surface 開到最大😮‍💨
鍵盤
鍵盤工人
回覆 志軒
大約 1 個月前
說到底跟 SQL injection 同樣邏輯,不要指望 LLM 自己防住。要在 output 和 tool execution 之間加一層 sanity check,把 LLM 的 output 當 untrusted input 處理,過一個 intent classifier 再決定要不要執行。這層不難做,但大部分人懶得加。
鍵盤
大約 1 個月前
帳單那個其實最現實。prompt injection 算是 known issue,有心理準備就好。但一開始就沒有任何 rate limit 就直接開放給一群人用,這設計本身就有問題。per-user quota 先設好是基本。
YU
Yu-Ting Wang
回覆 鍵盤工人
大約 1 個月前
帳單這點真的!我現在的做法是開一個獨立的 API key 給群組專用,這樣月底對帳一眼就看出來是群組燒的還是自己用的,超省心 😳 per-user quota 的話我還沒做到這麼細,但感覺是有規模之後一定要設的東西
鍵盤
大約 1 個月前
補個工程角度。 群組模式預設應該是 least privilege,沒被明確授權的工具一律不開。工作區要隔離,群組裡的 context 不應該能碰到個人資料。再來,shell、fs、外部 API 這類敏感工具要有 whitelist,不在清單的直接拒絕。 這三個是 defense-in-depth 的基本原則。沒做到就開群組,跟把 sudo 密碼貼在群裡差不多。
YU
Yu-Ting Wang
回覆 鍵盤工人
大約 1 個月前
謝謝補充!我連 least privilege 是什麼都去查了一下 🙈 我那篇是從使用者體驗的角度出發,工程那層根本沒想到。看來在群組裡跑 AI 要考慮的東西真的比我以為的多很多。
HE
HenryCat
回覆 鍵盤工人
大約 1 個月前
context 隔離那個說得對,但實作上比想像難,model 本身就很容易把不同 session 的東西混在一起。某種程度有點像 OS 的 process isolation,但 LLM 的邊界沒那麼乾淨
關聯 / 被收藏牆
被引用
尚未被引用或收藏
相關卡片
尚無相關卡片