論文推薦:Foundation Agents 進展與挑戰
應該很多人看過的 Advances and Challenges in Foundation Agents,這是由 Stanford、Meta、Mila、Google DeepMind 等二十多所研究機構學者共同完成的研究,共有 396 頁,一直有持續在更新,跟各位分享。
主要在談 Foundation Agents,探討 AI 與人腦的差異,他們用類人腦的架構拆解,包含learning、reasoning、memory、world model、reward、goal、emotion、perception 與 action 等,以此去對照人腦的功能,進而分析目前 AI 已經做到的,以及還有差距的地方。
接著,文章也花了很大篇幅探討 self-optimization 與 adaptive evolution,例如透過自動化 prompt/workflow/tool 的調整,讓 Agnet 可以隨時間不斷改進。第三部分談到 multi-agent systems,包括 cooperation、collective intelligence 與社會結構,強調 agents 在互動下可能產生 emergent behavior。最後則談到 safety 與 ethics,涵蓋 jailbreak、hallucination、poisoning 等威脅,以及 superalignment 與 safety scaling law 的構想。
這篇論文對 LLM 與 agent 的研究做了全面整理,對想理解未來 AI agent 發展路線的人來說,非常值得細讀。

作者:林 Jay