30秒快速回答: 致命三要素(Lethal Trifecta)是 Simon Willison 在 2025 年 6 月提出的 AI Agent 风险模型,指同一个 Agent 只要同时具备三种能力——能读私有数据、会接触不可信内容、具备对外发送数据的能力——攻击者就只需在网页、邮件或文档里藏一句指令,就能让 Agent 把你的隐私数据发给自己。三者缺一,泄露链就断开。

核心价值一句话: 提示注入短期内不可能被彻底修好,但你可以保证没有任何一条执行路径同时踩中三条腿——这才是能立刻落地的安全设计。


一、三条腿:先能准确判定,才谈得上防御

致命三要素的价值不在于”讲了三个风险”,而在于它给每条腿都定了可审计的判据。任何一条不成立,整个攻击链就不成立:

腿 判据(能回答”是/否”才算数) 常见来源
① 访问私有数据 Agent 调用链上是否存在能读到非公开信息的工具 邮件、日历、云盘、数据库、代码仓库、本地文件、密钥管理
② 接触不可信内容 是否有任何第三方可控的文本/图片会进入模型上下文 网页抓取、搜索结果、邮件正文、公开 Issue、用户上传文档、第三方 MCP 返回
③ 对外通信能力 Agent 能否把数据发到运营者控制之外的地址 HTTP 请求工具、发邮件、发消息、写公开评论、发 PR、图片外链、webhook

这里有个容易踩的认知坑:“不可信内容”不是指”看起来危险的网站”。一条公开仓库的 Issue、一封正常邮件、一张别人发给你的截图,都算不可信内容。LLM 无法可靠区分”这句话是操作者说的”还是”这句话是网页里说的”——因为最终它们都被拼成同一串 token。

顺带说清它和几个相邻概念的分界:提示注入讲的是攻击手法,工具投毒讲的是污染源,OWASP 十大风险讲的是清单,而致命三要素讲的是结构性放大条件——它不回答”怎么被注入”,只回答”什么配置下注入必然变成数据泄露”。


二、为什么是”合取”:断腿的性价比差异巨大

大多数团队的第一反应是”加个护栏模型拦一下”。但 Willison 对”能挡住 95% 攻击”的护栏产品给的是不及格评价——Agent 每天跑上万次,5% 的漏网就是每天几百次尝试。概率性防御挡不住确定性损失。

致命三要素的正确用法是把它当合取条件(A ∧ B ∧ C):只要断掉一条腿,攻击链立刻失效。

断哪条腿 具体做法 代价 适用场景
断 ② 接触不可信内容 只喂白名单来源;抓取后过清洗层;图片先 OCR 再进上下文 中,可能损失能力 内部高敏场景(HR、财务)
断 ③ 对外通信(最便宜) 出网白名单、禁止任意 URL、发消息需人工确认 低,改配置即可 绝大多数 Agent 的首选
断 ① 私有数据 数据分权、按任务临时授权、脱敏后再喂 高,影响产品能力 面向公众的 Agent

Willison 的提醒是:最便宜的腿(③ 对外通信白名单)几乎从来不是团队最先想到的那条。 大家习惯去动模型和提示词,而真正该改的往往是工具权限表。

# tool_policy.yaml —— 用能力标签描述每个工具,而不是靠工具名字猜
tools:
  read_inbox:
    capabilities: [private_data]
  fetch_url:
    capabilities: [untrusted_content]
  http_post:
    capabilities: [external_comm]
  send_email:
    capabilities: [private_data, external_comm]   # 收件人本身就是出网通道
    constraints: {recipient_allowlist: "@yourcompany.com"}

三、落地:在工具执行前做路径级阻断

光给工具打标签还不够,真正要拦的是”同一次任务里被组合出来的能力“。下面这段策略校验器放在工具调度层,任何工具调用前先算一次当前会话已累积的能力集合:

TRIFECTA = {"private_data", "untrusted_content", "external_comm"}

class CapabilityGuard:
    def __init__(self, policy, session_caps=None):
        self.policy = policy                      # 上面的 tool_policy.yaml
        self.session_caps = set(session_caps or [])

    def before_call(self, tool_name, args):
        caps = set(self.policy[tool_name]["capabilities"])
        merged = self.session_caps | caps
        # 1) 会形成三要素组合 -> 直接阻断
        if TRIFECTA.issubset(merged):
            return self._deny(tool_name, "lethal_trifecta",
                              need_human=True)
        # 2) 附加约束:出网类工具必须过白名单
        cons = self.policy[tool_name].get("constraints", {})
        allow = cons.get("recipient_allowlist")
        if allow and not str(args.get("to", "")).endswith(allow):
            return self._deny(tool_name, "recipient_not_allowed")
        self.session_caps = merged
        return {"allow": True}

    def _deny(self, tool, reason, need_human=False):
        return {"allow": False, "reason": reason, "escalate": need_human}

三个工程要点:

  1. 能力集合要按”任务”重置,不按”进程”累积。长驻 Agent 的能力如果只增不减,跑久了必然凑齐三条腿——这和上下文只增不减会腐烂是同一个病。
  2. 第三人称数据要当不可信内容处理。用户粘贴的网页、别人发的文件、MCP 服务器返回的说明文字,全部标记为 untrusted_content。
  3. 阻断不等于报错,要能降级。被拦下时可以退回”只读不发送”模式,把待发送内容呈现给人确认,而不是让任务直接失败。

四、案例复盘:真实泄露都踩满了三条腿

公开披露的多起事件几乎都是教科书式的三要素组合:注入藏在不可信内容里,Agent 有私有数据权限,又具备出网通道。

事件(公开披露) 注入入口(腿②) 被带走的数据(腿①) 出网通道(腿③)
Microsoft 365 Copilot「EchoLeak」 一封精心构造的邮件 企业内邮件与文档 带参请求的图片/链接
GitHub MCP Server 泄露 公开仓库 Issue 正文 私有仓库内容 模型把数据带进可见输出
Slack AI 数据窃取 频道消息中的指令 其他私有频道内容 消息/链接外发
Amazon Q 扩展被劫持 被篡改的扩展指令 AWS 内部资源 云端请求

这些案例的共同点不是”模型太笨”,而是架构上允许三件事同时发生。也正因如此,2026 年的主流做法已经从”训模型识别注入”转向”运行时控制”:工具按能力打标签、执行路径做组合校验、高风险动作人工闸门。可对照本博客的《什么是 Agent Control Standard(ACS)?》理解标准化方向。


五、落地清单:五条能今天就改的

  1. 画一张能力表:把每个工具按三条腿打标,标不出来的说明你自己也没搞清它多大权限。
  2. 先断最便宜的腿:给 http_post / fetch / 发信类工具加域名白名单,成本最低收益最高。
  3. 把”公开内容”当不可信内容:Issue、网页、邮件、上传文档一律视为攻击面。
  4. 高风险动作人工确认:发送、转账、删除、对外发布,一律走确认闸门。
  5. 护栏只做最后一道:分类器可以加,但别指望它替代权限设计——5% 漏网率的护栏在你每天上万次调用面前等于没有。

总结

  • 致命三要素 = 私有数据 × 不可信内容 × 对外通信,是合取关系,断一腿即解除。
  • 它的最大价值是给出可审计判据,让”我们的 Agent 安全吗”变成三个是/否题。
  • 最便宜的腿几乎总是”对外通信”,而团队最先动的往往是提示词——顺序反了。
  • 概率性护栏挡不住确定性损失,权限与路径级阻断才是地基。
  • 能力集合必须按任务重置,否则长跑 Agent 迟早自己凑齐三条腿。

延伸阅读建议:本博客《什么是提示注入攻击?》《什么是 MCP 工具中毒?》《什么是 OWASP Top 10 for Agentic AI?》《什么是零信任 AI Agent?》《什么是 Agent 沙箱(Sandbox)?》——先看提示注入理解攻击手法,再看工具中毒与 OWASP 清单掌握污染源与风险全景,最后对照零信任与沙箱补齐运行时防线。