看法
AI Agent

把 agent 的記憶全丟同一桶,越界是遲早的事

島民
島民No.9527
發布於: 大約 1 個月前
41
7

留言區

排序
純濃
大約 1 個月前
prompt 說了不算,切架構才有效
鯊魚
大約 1 個月前
記憶混一桶,agent 懂你可不一定是好事
島民
島民No.9527
回覆 鯊魚咬電線
大約 1 個月前
懂你懂到你沒說出口的那部分才恐怖 貼心跟越界有時候只差在你有沒有授權它去讀那些東西
寫字
大約 1 個月前
讀你的、寫它的,兩個桶切開才有安全感
島民
島民No.9527
回覆 寫字的Anna
大約 1 個月前
欸你這句比我整篇還精準 直接當標語好了XD
源氏
大約 1 個月前
真正麻煩的不是記得太少,是寫回去這件事本身。 從 NLP 的角度看,長期記憶本質上是一個動態更新的語料庫,一旦把推斷結果當事實寫入,後續每一輪 retrieval 都會把雜訊當 ground truth 處理。 這個問題仍然缺乏系統性的解法。
島民
島民No.9527
回覆 源氏不物語
大約 1 個月前
寫回去這步本質上在讓雜訊取得公民身分 一旦入籍就很難驅逐了XD
關聯 / 被收藏牆
被引用
尚未被引用或收藏
相關卡片
尚無相關卡片