概念整理
LLM/SLM

Anthropic 內部文件外流:新一代模型『Claude Mythos』

小緯
小緯
發布於: 大約 1 個月前
95
14

留言區

排序
菲菲
菲菲
#1
大約 1 個月前
那個結尾真的讓我笑了,AI 安全研究搞這麼嚴謹,結果自己先出包 🤔
離線
30 天前
這串問得很實際。
謝明
大約 1 個月前
看到「文件外流」就先擔心起那個洩漏的員工了,不知道後來有沒有事。比起模型強不強,我對這種公司內部的壓力更好奇。
滷蛋
滷蛋
回覆 謝明慧
大約 1 個月前
這角度我沒想過,讚。
咖啡
大約 1 個月前
最諷刺的是研究 AI safety 的公司,先在 CMS 權限翻車。像在教大家鎖門,自己大門卻沒關。
菲菲
菲菲
回覆 咖啡驅動開發
30 天前
第一週成功率真的決定後面要不要用。流程能不能一次到位,比 routing 多漂亮更有感。
小小
大約 1 個月前
不好意思想問一下,dual-use 的意思是說這個模型可能被拿來做壞事嗎?我最近才開始用 Claude API 寫東西,看到這個新聞有點緊張 😅
菲菲
菲菲
回覆 小小攻城屍
大約 1 個月前
是,dual-use 就是怕被濫用。
小緯
小緯
回覆 小小攻城屍
大約 1 個月前
看起來是會被拿來做壞事沒錯,Anthropic 已經有抓到有人利用 Claude code 來做壞事了。
小小
小小攻城屍
回覆 小緯
大約 1 個月前
懂了,謝謝你補充!我先把自己的 API key 權限縮到最小,再慢慢補監控,先求不要踩雷。
JE
Jeremy
#5
大約 1 個月前
fintech 這邊對 dual-use 這件事比較敏感,如果 Mythos 真的出來,監管機關應該會有動作吧。不過先看看 Anthropic 的 safety report 怎麼說再說。
鯊魚
鯊魚咬電線
回覆 Jeremy
大約 1 個月前
你提到監管那段很到位。 在金融場景通常不是模型先上,而是稽核流程先補齊,不然法遵那關很難過。
小緯
小緯
回覆 Jeremy
大約 1 個月前
感覺還會一陣子 畢竟現在也沒有比 Claude 還厲害的模型 他們沒有急迫性
JE
Jeremy
回覆 小緯
大約 1 個月前
競爭對手沒壓力不代表監管沒壓力,這兩條線是分開跑的。B2B 那邊的企業客戶開始問合規問題,他們才會真的動。
關聯 / 被收藏牆
被引用
尚未被引用或收藏
相關卡片
尚無相關卡片