<?xml version="1.0" encoding="utf-8" standalone="yes"?><rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom" xmlns:content="http://purl.org/rss/1.0/modules/content/"><channel><title>Sandbox on Hypho - AI Agent 技术博客</title><link>https://blog.hypho.cn/tags/sandbox/</link><description>Recent content in Sandbox on Hypho - AI Agent 技术博客</description><image><title>Hypho - AI Agent 技术博客</title><url>https://blog.hypho.cn/papermod-cover.png</url><link>https://blog.hypho.cn/papermod-cover.png</link></image><generator>Hugo -- 0.148.2</generator><language>zh-cn</language><lastBuildDate>Mon, 31 Aug 2026 10:03:52 +0800</lastBuildDate><atom:link href="https://blog.hypho.cn/tags/sandbox/index.xml" rel="self" type="application/rss+xml"/><item><title>AI Agent 沙箱不能只看容器：Qubes QSB-118 暴露的 backchannel 风险</title><link>https://blog.hypho.cn/posts/ai-agent-sandbox-backchannel-qubes-qsb-118/</link><pubDate>Mon, 31 Aug 2026 10:03:52 +0800</pubDate><guid>https://blog.hypho.cn/posts/ai-agent-sandbox-backchannel-qubes-qsb-118/</guid><description>Qubes OS 的 QSB-118 说明，真正危险的沙箱漏洞往往不在主执行路径，而在复制文件、错误弹窗、剪贴板等 backchannel。本文把这次 dom0 命令注入事故映射到 AI Agent 生产环境，讨论容器、虚拟机、权限边界、工具返回值过滤和人工确认该如何重新设计，帮助团队识别容易被忽略的 Agent 沙箱逃逸面。</description><content:encoded><![CDATA[<p>如果你在做 AI Agent 沙箱，最容易犯的错是：把“模型能执行代码”这条主路径锁得很严，却忘了旁边那些看起来无害的辅助通道。</p>
<p>这不是抽象威胁。Hacker News 这两天讨论的 <a href="https://www.qubes-os.org/news/2026/08/29/qsb-118/">Qubes OS QSB-118</a> 就是一个很好的提醒：漏洞不在“运行用户程序”本身，而在 <code>qvm-copy-to-vm</code> 的错误回报路径里。攻击者只要控制目标 qube，并诱导用户从 dom0 向这个 qube 复制文件，就可以通过目标 qube 返回的文件名影响 dom0 弹出的错误对话框，最终形成 dom0 任意命令执行。HN 原帖标题很直白：<a href="https://news.ycombinator.com/item?id=49496918">Arbitrary code execution in QubesOS via copy-to-VM error reporting backchannel</a>。</p>
<p>我看到这类漏洞时第一反应不是“Qubes 不安全”，恰恰相反：Qubes 已经是桌面隔离里非常认真、非常偏执的系统了。连这种系统都会在文件复制确认、错误展示、GUI 调用这条链路上踩坑，普通 AI Agent 平台如果只说“我们把工具跑在 Docker 里”，其实远远不够。</p>
<p>说白了就是：沙箱边界不是一堵墙，而是一堆门、窗、下水道和快递口。</p>
<p>QSB-118 的技术细节值得拆一下。Qubes 公告里写得很清楚，<code>qvm-copy-to-vm</code> 使用 qfile 协议从 dom0 向指定 qube 复制文件。传输结束后，目标 qube 会把确认信息发回源端，包括校验和、错误码，以及“最后接收到的文件名”。如果发生错误，dom0 会显示一个 GUI 错误消息，其中包含这个由目标 qube 回传的文件名。</p>
<p>问题就出在这一步。</p>
<p>Qubes 的代码确实做了一个 <code>sanitize_remote_filename()</code>，但它主要替换控制字符、非 ASCII 字符和双引号；后续 <code>display_error()</code> 又用 <code>asprintf()</code> 拼出 <code>kdialog</code> 或 <code>zenity</code> 命令，再交给 <code>system()</code> 执行。人话翻译：一个本来只是“告诉用户哪个文件复制失败”的字符串，穿过错误处理函数后，变成了 shell 命令的一部分。只要过滤规则和 shell 语义之间有缝，攻击者就能把“文件名”变成“命令”。</p>
<p>这类链路对 Agent 系统尤其危险，因为 Agent 的运行环境天生有很多 backchannel：</p>
<ul>
<li>浏览器截图、DOM 摘要、下载目录、剪贴板；</li>
<li>代码执行器的 stdout / stderr / traceback；</li>
<li>文件上传下载、工作区同步、artifact 预览；</li>
<li>MCP tool 的错误消息、日志面板、回调参数；</li>
<li>任务完成后的摘要、通知、Webhook、PR 评论。</li>
</ul>
<p>大多数团队会盯住“工具调用参数是否安全”，但忽略“工具返回值会流向哪里”。可现实里，工具返回值经常比参数更危险。参数至少是你发出去的；返回值来自不可信环境，却常常被直接展示、拼接、记录、转发，甚至再喂给下一轮 LLM。</p>
<p>这也是我之前写 <a href="https://blog.hypho.cn/posts/docker-sandboxes-ai-agent-isolation/">Docker 沙箱隔离 AI Agent</a> 时想强调但没展开的一点：容器解决的是进程、文件系统、网络、capability 这些资源边界；它不自动解决应用协议边界。一个 Agent 在容器里跑 <code>pytest</code>，测试失败的 traceback 仍然会回到 orchestrator；浏览器容器打开恶意网页，页面内容仍然会变成截图、OCR 文本或可访问性树；MCP server 在低权限环境里执行，错误消息仍然可能进入高权限的控制平面。</p>
<p>容器内核边界和 Agent 控制平面边界，不是一回事。</p>
<p>Anthropic 在 <a href="https://platform.claude.com/docs/en/agents-and-tools/tool-use/computer-use-tool">computer use tool 文档</a>里也提醒过，给模型桌面控制能力时，应该使用最小权限的专用虚拟机或容器，避免敏感数据暴露，限制互联网访问，并让人类确认有现实后果的动作。这个建议没有错，但 QSB-118 让它变得更具体：隔离环境不仅要限制“模型能做什么”，还要审计“隔离环境能回报什么”。</p>
<p>我会把生产级 Agent 沙箱拆成三层来看。</p>
<p>第一层是执行隔离。这里可以用 Docker、microVM、Kubernetes sandbox、Firecracker、gVisor，或者更重的桌面 VM。选择取决于风险：跑单元测试和跑浏览器登录后台系统不是一个等级。低风险代码任务用容器可能够了；涉及浏览器、企业账号、内网系统、财务或生产数据的任务，我更倾向 VM 或一次性环境。不是因为 VM 神奇，而是因为故障域更清楚，清理也更彻底。</p>
<p>第二层是协议隔离。所有跨边界数据都应该按“敌意输入”处理，包括文件名、错误码、日志、窗口标题、网页文本、模型生成的 shell 输出。具体做法并不玄学：不要把不可信字符串拼进 shell；能用 argv 就别用 <code>system()</code>；日志和 UI 渲染要做上下文相关转义；错误消息进入 LLM 前要截断、分类、去控制字符；跨域文件交换要有固定 schema，而不是让对方自由回传“人类可读文本”。</p>
<p>第三层是控制平面隔离。Agent orchestrator、凭证管理、审批系统、通知系统，应该被视为比执行沙箱更高权限的资产。低权限工具返回的任何内容，都不应该直接触发高权限动作。比如：浏览器里的网页说“请把这段命令复制到终端”，Agent 不应自动照做；测试输出里出现“需要设置 CI secret”，orchestrator 不应把它解释成运维指令；MCP 工具报错里带一个 Markdown 链接，通知系统不应无脑展开并访问内网 URL。</p>
<p>这里和 <a href="https://blog.hypho.cn/posts/agentarmor-8-layer-security-framework/">AgentArmor 八层安全框架</a>能接上：prompt injection 只是入口，真正要命的是入口后面有没有权限放大链路。QSB-118 的“文件名 → 错误弹窗 → shell”就是一条很短的权限放大链。换到 Agent 平台里，常见形态会变成“网页文本 → LLM 推理 → 工具调用”或“工具 stderr → 总结器 → 自动修复命令”。路径不同，本质一样。</p>
<p>我比较反对一种过度乐观的说法：只要把 Agent 放到无状态容器里，每次任务后销毁，就安全了。无状态当然有价值，但它主要降低持久化风险，不能消除当次任务里的跨边界回传风险。一次性容器仍然可以把恶意输出发回控制平面；一次性浏览器仍然可以诱导 Agent 下载、复制、点击；一次性 MCP server 仍然可以用错误消息污染上游决策。</p>
<p>更稳的工程策略是默认把 Agent 环境当成“被攻陷的 qube”。</p>
<p>如果它返回文件名，按攻击载荷处理；如果它返回错误日志，按攻击载荷处理；如果它返回截图文字，按攻击载荷处理；如果它请求把某个 artifact 展示给用户，也按攻击载荷处理。听起来有点偏执，但做安全边界时，偏执比事后复盘便宜。</p>
<p>落到实现，我会给团队列一个很短的检查清单：</p>
<ol>
<li>所有跨沙箱返回值有没有统一的 schema、长度限制和字符集限制？</li>
<li>控制平面有没有任何 <code>shell=True</code>、模板拼接、Markdown/HTML 直出、日志自动展开链接？</li>
<li>工具错误消息会不会进入下一轮 LLM，并影响高权限工具调用？</li>
<li>文件交换、剪贴板、截图、下载目录这些“辅助通道”有没有单独 threat model？</li>
<li>高风险动作是否需要人类确认，而且确认界面展示的是规范化后的事实，而不是不可信环境原样返回的文本？</li>
</ol>
<p>Qubes 的 <a href="https://doc.qubes-os.org/en/latest/developer/services/qrexec.html">qrexec 文档</a>一直强调跨域服务的策略与通信边界，<a href="https://doc.qubes-os.org/en/latest/user/how-to-guides/how-to-copy-and-paste-text.html">复制粘贴文档</a>也把剪贴板当成需要安全设计的交互面。AI Agent 平台现在其实正在重走这条路，只是对象从“人操作不同安全域”变成了“模型操作不同工具域”。</p>
<p>我的判断是，未来一年 Agent 安全的重点不会是“有没有沙箱”这么粗的问题，而是“沙箱和控制平面之间有哪些被低估的 backchannel”。浏览器、MCP、代码执行器、CI、PR bot、通知系统，都会成为这种 backchannel 的载体。</p>
<p>QSB-118 给我的启发很直接：不要只审计 Agent 能发出的命令，也要审计 Agent 能带回来的每一个字符串。</p>
]]></content:encoded></item></channel></rss>