AI 代理安全需要全系统防御:Google、Meta 警告
来自 Google 和 Meta 的安全研究人员警告称,自主型 AI 代理需要全系统范围的防御架构,以应对新兴的安全风险。专家指出,仅靠传统的网络安全工具无法防范由 AI 代理带来的威胁,因为这类代理能够保留记忆、调用外部工具、与其他代理进行协同,并在没有直接人工监督的情况下持续运行。该担忧源于企业层面在各类工作流程中迅速部署 AI 代理,包括支付、客户服务、编程、网络安全以及金融运营。与更早期的聊天机器人式系统不同,代理式 AI 会引入持久化记忆系统、工具执行和自主工作流,从而产生新的攻击面。这些相互关联系统中的安全故障往往不会局限于单一环节——被篡改的指令或恶意输入可能在变得对外可见之前通过多个层级扩散。 Security Gaps in AI Agent Systems A survey of 116 AI-agent security papers identified major gaps in defenses against "cross-session" and "stack-propagating" threats, which are capable of movi
Oliver Grant·05-26 14:15