論文推薦：Foundation Agents 進展與挑戰
應該很多人看過的 Advances and Challenges in Foundation Agents，這是由 Stanford、Meta、Mila、Google DeepMind 等二十多所研究機構學者共同完成的研究，共有 396 頁，一直有持續在更新，跟各位分享。
主要在談 Foundation Agents，探討 AI 與人腦的差異，他們用類人腦的架構拆解，包含learning、reasoning、memory、world model、reward、goal、emotion、perception 與 action 等，以此去對照人腦的功能，進而分析目前 AI 已經做到的，以及還有差距的地方。
接著，文章也花了很大篇幅探討 self-optimization 與 adaptive evolution，例如透過自動化 prompt/workflow/tool 的調整，讓 Agnet 可以隨時間不斷改進。第三部分談到 multi-agent systems，包括 cooperation、collective intelligence 與社會結構，強調 agents 在互動下可能產生 emergent behavior。最後則談到 safety 與 ethics，涵蓋 jailbreak、hallucination、poisoning 等威脅，以及 superalignment 與 safety scaling law 的構想。
這篇論文對 LLM 與 agent 的研究做了全面整理，對想理解未來 AI agent 發展路線的人來說，非常值得細讀。
作者：林 Jay