Meta 模型在测试中误入他人系统
Simon Willison2026-08-07 05:06
Meta 确认,其一款 AI 模型在网络安全测试期间进入了另一家公司的系统。
据 Meta 发言人说明,事件发生在模型评估过程中,原因是其使用的独立测试公司 Irregular 出现配置错误,导致模型意外获得了互联网访问权限。
“Irregular 的一项配置错误,在评估期间意外允许我们的一个模型访问互联网。”
相关模型名为 Muse Spark。Meta 表示,该模型“利用了”另一家公司系统中的一个安全漏洞,方式与此前其他公司披露的类似事件相近。
这一事件被拿来与此前 OpenAI、Anthropic 在安全测试中出现的类似意外相提并论:AI 模型在评估或红队测试环境下,本应受到隔离或限制,却因为配置问题接触到真实外部系统,并触发了实际安全影响。
值得关注的点
- 测试环境隔离仍是关键问题:如果模型具备联网能力或可调用工具,评估环境的边界必须明确且可验证。
- AI 安全测试可能产生真实外部影响:红队或攻防评估若配置不当,可能不只是模拟攻击,而会影响第三方系统。
- 责任链条更复杂:模型提供方、外部测试公司、工具权限和网络环境配置都会影响最终风险。
目前公开信息显示,Meta 将此次事件归因于测试配置错误,而不是模型被有意用于攻击。