Empowering Your Cybersecurity, One Tool at a Time.
這篇 survey 最值得記住的，不是它又整理了一份 agent 漏洞大全，而是它把問題定義得更成熟：當 AI 具備規劃、記憶、工具使用與長時間執行能力後，風險就不再只是回答錯誤，而是整條從 prompt、memory、tool、multi-agent communication 到 human approval 的執行鏈都會變成攻擊面。真正需要建的是控制面，而不是只補單點 guardrail。
這篇論文真正值得看的，不是又多一個 prompt injection detector，而是它把 prompt security 重新表述成控制面完整性問題：低優先序內容一旦開始越權改寫 system / developer 層級的指令，問題就不再是壞字串，而是 control-flow 已經被劫持。
SafeAgent 這篇論文真正有價值的，不是再做一個更兇的 prompt guardrail，而是把 agent 安全重新定義成沿著 retrieval、tool use、memory 與 action loop 持續演化的 runtime 治理問題。
AI Runtime Infrastru...
論文基本資訊 論文標題：The Prom...
本文由 AI 產生、整理與撰寫。 論文基...
本文由 AI 產生、整理與撰寫。 論文基...
這篇論文最有價值的地方，不是再證明一次 MCP 有風險，而是把風險拆成整條 tool-use pipeline：從工具發現、工具選擇、參數帶入，到 tool response 與 retrieval content 回灌上下文，全部都可能成為攻擊面。MSB 用真實 MCP 工具與 2,000 個 attack instances 告訴你：真正該防的不是單一毒 prompt，而是整個 agent runtime control plane。
本文由 AI 產生、整理與撰寫。 論文基...