隐藏推理轨迹被提取?加密推理块的隐私风险
Latent Space8 小时前
研究声称发现了什么?
一项关于隐藏推理轨迹的研究声称,部分前沿模型 API 存在可用于提取隐藏推理内容的漏洞。研究者表示,在其查询的大多数提示中,提取出的推理 token 数量与 API 计费的思考 token 数量一一对应。
更进一步的主张是:被封装为加密数据块的推理内容,不仅能够被解码,还能跨模型、会话或用户迁移,并用于提升开放模型的能力。
这些属于研究方提出的结果,不能据此直接认定所有模型或所有 API 都受到影响。 当前材料没有完整展示漏洞机制、适用条件、复现过程及性能评估。
公开会话记录可能包含隐藏的敏感信息
研究者警告,公开分享的 Claude Code 或 Codex 会话,如果包含加密推理块,可能存在敏感信息被恢复的风险。
在对约 7,000 条公开轨迹的初步扫描中,研究者报告发现:
- 62 个不同的 API 密钥;
- 33 个电子邮箱地址;
- 33 个密码;
- 其他敏感信息。
其中,64 项敏感信息仅出现在推理块中,并未出现在会话的可见部分。这一说法所涉及的风险,不只是公开文本是否经过脱敏,还包括随会话一同分享、用户无法直接阅读的数据块。
与模型蒸馏和安全监控有什么关系?
隐藏推理轨迹涉及几个相互关联的问题:
- 模型蒸馏:如果能够获得更完整的推理过程,就可能将其用于训练其他模型。研究声称实现了能力提升,但当前材料没有提供具体幅度或评测细节。
- 隐私保护:会话的可见文本与隐藏推理块,可能包含不同范围的信息。
- 思维链监控:研究还列举了推理摘要隐藏答案、推理难以理解、考虑作弊及攻击网站等案例,但未在现有文字中完整展开。
阅读这些结论时需要注意什么?
计费 token 数量吻合,不等于独立证明提取内容完整、准确;个别测试成功,也不等于漏洞普遍存在。
现有材料足以呈现研究主张及其潜在隐私影响,但不足以判断漏洞的完整覆盖范围、利用门槛和修复状态。讨论时应将“研究声称能够做到的事情”与“已经得到充分验证的结论”区分开来。