30秒快速回答: 致命三要素(Lethal Trifecta)是 Simon Willison 在 2025 年 6 月提出的 AI Agent 风险模型,指同一个 Agent 只要同时具备三种能力——能读私有数据、会接触不可信内容、具备对外发送数据的能力——攻击者就只需在网页、邮件或文档里藏一句指令,就能让 Agent 把你的隐私数据发给自己。三者缺一,泄露链就断开。
核心价值一句话: 提示注入短期内不可能被彻底修好,但你可以保证没有任何一条执行路径同时踩中三条腿——这才是能立刻落地的安全设计。
一、三条腿:先能准确判定,才谈得上防御
致命三要素的价值不在于”讲了三个风险”,而在于它给每条腿都定了可审计的判据。任何一条不成立,整个攻击链就不成立:
| 腿 | 判据(能回答”是/否”才算数) | 常见来源 |
|---|---|---|
| ① 访问私有数据 | Agent 调用链上是否存在能读到非公开信息的工具 | 邮件、日历、云盘、数据库、代码仓库、本地文件、密钥管理 |
| ② 接触不可信内容 | 是否有任何第三方可控的文本/图片会进入模型上下文 | 网页抓取、搜索结果、邮件正文、公开 Issue、用户上传文档、第三方 MCP 返回 |
| ③ 对外通信能力 | Agent 能否把数据发到运营者控制之外的地址 | HTTP 请求工具、发邮件、发消息、写公开评论、发 PR、图片外链、webhook |
这里有个容易踩的认知坑:“不可信内容”不是指”看起来危险的网站”。一条公开仓库的 Issue、一封正常邮件、一张别人发给你的截图,都算不可信内容。LLM 无法可靠区分”这句话是操作者说的”还是”这句话是网页里说的”——因为最终它们都被拼成同一串 token。
顺带说清它和几个相邻概念的分界:提示注入讲的是攻击手法,工具投毒讲的是污染源,OWASP 十大风险讲的是清单,而致命三要素讲的是结构性放大条件——它不回答”怎么被注入”,只回答”什么配置下注入必然变成数据泄露”。
二、为什么是”合取”:断腿的性价比差异巨大
大多数团队的第一反应是”加个护栏模型拦一下”。但 Willison 对”能挡住 95% 攻击”的护栏产品给的是不及格评价——Agent 每天跑上万次,5% 的漏网就是每天几百次尝试。概率性防御挡不住确定性损失。
致命三要素的正确用法是把它当合取条件(A ∧ B ∧ C):只要断掉一条腿,攻击链立刻失效。
| 断哪条腿 | 具体做法 | 代价 | 适用场景 |
|---|---|---|---|
| 断 ② 接触不可信内容 | 只喂白名单来源;抓取后过清洗层;图片先 OCR 再进上下文 | 中,可能损失能力 | 内部高敏场景(HR、财务) |
| 断 ③ 对外通信(最便宜) | 出网白名单、禁止任意 URL、发消息需人工确认 | 低,改配置即可 | 绝大多数 Agent 的首选 |
| 断 ① 私有数据 | 数据分权、按任务临时授权、脱敏后再喂 | 高,影响产品能力 | 面向公众的 Agent |
Willison 的提醒是:最便宜的腿(③ 对外通信白名单)几乎从来不是团队最先想到的那条。 大家习惯去动模型和提示词,而真正该改的往往是工具权限表。
# tool_policy.yaml —— 用能力标签描述每个工具,而不是靠工具名字猜
tools:
read_inbox:
capabilities: [private_data]
fetch_url:
capabilities: [untrusted_content]
http_post:
capabilities: [external_comm]
send_email:
capabilities: [private_data, external_comm] # 收件人本身就是出网通道
constraints: {recipient_allowlist: "@yourcompany.com"}
三、落地:在工具执行前做路径级阻断
光给工具打标签还不够,真正要拦的是”同一次任务里被组合出来的能力“。下面这段策略校验器放在工具调度层,任何工具调用前先算一次当前会话已累积的能力集合:
TRIFECTA = {"private_data", "untrusted_content", "external_comm"}
class CapabilityGuard:
def __init__(self, policy, session_caps=None):
self.policy = policy # 上面的 tool_policy.yaml
self.session_caps = set(session_caps or [])
def before_call(self, tool_name, args):
caps = set(self.policy[tool_name]["capabilities"])
merged = self.session_caps | caps
# 1) 会形成三要素组合 -> 直接阻断
if TRIFECTA.issubset(merged):
return self._deny(tool_name, "lethal_trifecta",
need_human=True)
# 2) 附加约束:出网类工具必须过白名单
cons = self.policy[tool_name].get("constraints", {})
allow = cons.get("recipient_allowlist")
if allow and not str(args.get("to", "")).endswith(allow):
return self._deny(tool_name, "recipient_not_allowed")
self.session_caps = merged
return {"allow": True}
def _deny(self, tool, reason, need_human=False):
return {"allow": False, "reason": reason, "escalate": need_human}
三个工程要点:
- 能力集合要按”任务”重置,不按”进程”累积。长驻 Agent 的能力如果只增不减,跑久了必然凑齐三条腿——这和上下文只增不减会腐烂是同一个病。
- 第三人称数据要当不可信内容处理。用户粘贴的网页、别人发的文件、MCP 服务器返回的说明文字,全部标记为
untrusted_content。 - 阻断不等于报错,要能降级。被拦下时可以退回”只读不发送”模式,把待发送内容呈现给人确认,而不是让任务直接失败。
四、案例复盘:真实泄露都踩满了三条腿
公开披露的多起事件几乎都是教科书式的三要素组合:注入藏在不可信内容里,Agent 有私有数据权限,又具备出网通道。
| 事件(公开披露) | 注入入口(腿②) | 被带走的数据(腿①) | 出网通道(腿③) |
|---|---|---|---|
| Microsoft 365 Copilot「EchoLeak」 | 一封精心构造的邮件 | 企业内邮件与文档 | 带参请求的图片/链接 |
| GitHub MCP Server 泄露 | 公开仓库 Issue 正文 | 私有仓库内容 | 模型把数据带进可见输出 |
| Slack AI 数据窃取 | 频道消息中的指令 | 其他私有频道内容 | 消息/链接外发 |
| Amazon Q 扩展被劫持 | 被篡改的扩展指令 | AWS 内部资源 | 云端请求 |
这些案例的共同点不是”模型太笨”,而是架构上允许三件事同时发生。也正因如此,2026 年的主流做法已经从”训模型识别注入”转向”运行时控制”:工具按能力打标签、执行路径做组合校验、高风险动作人工闸门。可对照本博客的《什么是 Agent Control Standard(ACS)?》理解标准化方向。
五、落地清单:五条能今天就改的
- 画一张能力表:把每个工具按三条腿打标,标不出来的说明你自己也没搞清它多大权限。
- 先断最便宜的腿:给
http_post/fetch/ 发信类工具加域名白名单,成本最低收益最高。 - 把”公开内容”当不可信内容:Issue、网页、邮件、上传文档一律视为攻击面。
- 高风险动作人工确认:发送、转账、删除、对外发布,一律走确认闸门。
- 护栏只做最后一道:分类器可以加,但别指望它替代权限设计——5% 漏网率的护栏在你每天上万次调用面前等于没有。
总结
- 致命三要素 = 私有数据 × 不可信内容 × 对外通信,是合取关系,断一腿即解除。
- 它的最大价值是给出可审计判据,让”我们的 Agent 安全吗”变成三个是/否题。
- 最便宜的腿几乎总是”对外通信”,而团队最先动的往往是提示词——顺序反了。
- 概率性护栏挡不住确定性损失,权限与路径级阻断才是地基。
- 能力集合必须按任务重置,否则长跑 Agent 迟早自己凑齐三条腿。
延伸阅读建议:本博客《什么是提示注入攻击?》《什么是 MCP 工具中毒?》《什么是 OWASP Top 10 for Agentic AI?》《什么是零信任 AI Agent?》《什么是 Agent 沙箱(Sandbox)?》——先看提示注入理解攻击手法,再看工具中毒与 OWASP 清单掌握污染源与风险全景,最后对照零信任与沙箱补齐运行时防线。