如果你在做 AI Agent 沙箱,最容易犯的错是:把“模型能执行代码”这条主路径锁得很严,却忘了旁边那些看起来无害的辅助通道。

这不是抽象威胁。Hacker News 这两天讨论的 Qubes OS QSB-118 就是一个很好的提醒:漏洞不在“运行用户程序”本身,而在 qvm-copy-to-vm 的错误回报路径里。攻击者只要控制目标 qube,并诱导用户从 dom0 向这个 qube 复制文件,就可以通过目标 qube 返回的文件名影响 dom0 弹出的错误对话框,最终形成 dom0 任意命令执行。HN 原帖标题很直白:Arbitrary code execution in QubesOS via copy-to-VM error reporting backchannel。

我看到这类漏洞时第一反应不是“Qubes 不安全”,恰恰相反:Qubes 已经是桌面隔离里非常认真、非常偏执的系统了。连这种系统都会在文件复制确认、错误展示、GUI 调用这条链路上踩坑,普通 AI Agent 平台如果只说“我们把工具跑在 Docker 里”,其实远远不够。

说白了就是:沙箱边界不是一堵墙,而是一堆门、窗、下水道和快递口。

QSB-118 的技术细节值得拆一下。Qubes 公告里写得很清楚,qvm-copy-to-vm 使用 qfile 协议从 dom0 向指定 qube 复制文件。传输结束后,目标 qube 会把确认信息发回源端,包括校验和、错误码,以及“最后接收到的文件名”。如果发生错误,dom0 会显示一个 GUI 错误消息,其中包含这个由目标 qube 回传的文件名。

问题就出在这一步。

Qubes 的代码确实做了一个 sanitize_remote_filename(),但它主要替换控制字符、非 ASCII 字符和双引号;后续 display_error() 又用 asprintf() 拼出 kdialog 或 zenity 命令,再交给 system() 执行。人话翻译:一个本来只是“告诉用户哪个文件复制失败”的字符串,穿过错误处理函数后,变成了 shell 命令的一部分。只要过滤规则和 shell 语义之间有缝,攻击者就能把“文件名”变成“命令”。

这类链路对 Agent 系统尤其危险,因为 Agent 的运行环境天生有很多 backchannel:

  • 浏览器截图、DOM 摘要、下载目录、剪贴板;
  • 代码执行器的 stdout / stderr / traceback;
  • 文件上传下载、工作区同步、artifact 预览;
  • MCP tool 的错误消息、日志面板、回调参数;
  • 任务完成后的摘要、通知、Webhook、PR 评论。

大多数团队会盯住“工具调用参数是否安全”,但忽略“工具返回值会流向哪里”。可现实里,工具返回值经常比参数更危险。参数至少是你发出去的;返回值来自不可信环境,却常常被直接展示、拼接、记录、转发,甚至再喂给下一轮 LLM。

这也是我之前写 Docker 沙箱隔离 AI Agent 时想强调但没展开的一点:容器解决的是进程、文件系统、网络、capability 这些资源边界;它不自动解决应用协议边界。一个 Agent 在容器里跑 pytest,测试失败的 traceback 仍然会回到 orchestrator;浏览器容器打开恶意网页,页面内容仍然会变成截图、OCR 文本或可访问性树;MCP server 在低权限环境里执行,错误消息仍然可能进入高权限的控制平面。

容器内核边界和 Agent 控制平面边界,不是一回事。

Anthropic 在 computer use tool 文档里也提醒过,给模型桌面控制能力时,应该使用最小权限的专用虚拟机或容器,避免敏感数据暴露,限制互联网访问,并让人类确认有现实后果的动作。这个建议没有错,但 QSB-118 让它变得更具体:隔离环境不仅要限制“模型能做什么”,还要审计“隔离环境能回报什么”。

我会把生产级 Agent 沙箱拆成三层来看。

第一层是执行隔离。这里可以用 Docker、microVM、Kubernetes sandbox、Firecracker、gVisor,或者更重的桌面 VM。选择取决于风险:跑单元测试和跑浏览器登录后台系统不是一个等级。低风险代码任务用容器可能够了;涉及浏览器、企业账号、内网系统、财务或生产数据的任务,我更倾向 VM 或一次性环境。不是因为 VM 神奇,而是因为故障域更清楚,清理也更彻底。

第二层是协议隔离。所有跨边界数据都应该按“敌意输入”处理,包括文件名、错误码、日志、窗口标题、网页文本、模型生成的 shell 输出。具体做法并不玄学:不要把不可信字符串拼进 shell;能用 argv 就别用 system();日志和 UI 渲染要做上下文相关转义;错误消息进入 LLM 前要截断、分类、去控制字符;跨域文件交换要有固定 schema,而不是让对方自由回传“人类可读文本”。

第三层是控制平面隔离。Agent orchestrator、凭证管理、审批系统、通知系统,应该被视为比执行沙箱更高权限的资产。低权限工具返回的任何内容,都不应该直接触发高权限动作。比如:浏览器里的网页说“请把这段命令复制到终端”,Agent 不应自动照做;测试输出里出现“需要设置 CI secret”,orchestrator 不应把它解释成运维指令;MCP 工具报错里带一个 Markdown 链接,通知系统不应无脑展开并访问内网 URL。

这里和 AgentArmor 八层安全框架能接上:prompt injection 只是入口,真正要命的是入口后面有没有权限放大链路。QSB-118 的“文件名 → 错误弹窗 → shell”就是一条很短的权限放大链。换到 Agent 平台里,常见形态会变成“网页文本 → LLM 推理 → 工具调用”或“工具 stderr → 总结器 → 自动修复命令”。路径不同,本质一样。

我比较反对一种过度乐观的说法:只要把 Agent 放到无状态容器里,每次任务后销毁,就安全了。无状态当然有价值,但它主要降低持久化风险,不能消除当次任务里的跨边界回传风险。一次性容器仍然可以把恶意输出发回控制平面;一次性浏览器仍然可以诱导 Agent 下载、复制、点击;一次性 MCP server 仍然可以用错误消息污染上游决策。

更稳的工程策略是默认把 Agent 环境当成“被攻陷的 qube”。

如果它返回文件名,按攻击载荷处理;如果它返回错误日志,按攻击载荷处理;如果它返回截图文字,按攻击载荷处理;如果它请求把某个 artifact 展示给用户,也按攻击载荷处理。听起来有点偏执,但做安全边界时,偏执比事后复盘便宜。

落到实现,我会给团队列一个很短的检查清单:

  1. 所有跨沙箱返回值有没有统一的 schema、长度限制和字符集限制?
  2. 控制平面有没有任何 shell=True、模板拼接、Markdown/HTML 直出、日志自动展开链接?
  3. 工具错误消息会不会进入下一轮 LLM,并影响高权限工具调用?
  4. 文件交换、剪贴板、截图、下载目录这些“辅助通道”有没有单独 threat model?
  5. 高风险动作是否需要人类确认,而且确认界面展示的是规范化后的事实,而不是不可信环境原样返回的文本?

Qubes 的 qrexec 文档一直强调跨域服务的策略与通信边界,复制粘贴文档也把剪贴板当成需要安全设计的交互面。AI Agent 平台现在其实正在重走这条路,只是对象从“人操作不同安全域”变成了“模型操作不同工具域”。

我的判断是,未来一年 Agent 安全的重点不会是“有没有沙箱”这么粗的问题,而是“沙箱和控制平面之间有哪些被低估的 backchannel”。浏览器、MCP、代码执行器、CI、PR bot、通知系统,都会成为这种 backchannel 的载体。

QSB-118 给我的启发很直接:不要只审计 Agent 能发出的命令,也要审计 Agent 能带回来的每一个字符串。