腾讯 Hy4 Preview：770B 参数、百万上下文的开源权重大模型

腾讯推出了新的开放权重文本大模型 Hy4 Preview。这是一个仅支持文本输入、暂无视觉能力的 LLM，主要公开信息包括：

• 总参数量：770B
• 激活参数量：49B
• 上下文窗口：1M token
• 模型文件规模：约 1.56TB

相比腾讯此前在 7 月发布的 Hy3，Hy4 Preview 的规模有明显提升。Hy3 的公开规格为：

• 总参数量：295B
• 激活参数量：21B
• 上下文窗口：256,000 token
• 模型文件规模：约 598GB

推理档位：high 与 no_think

从 Hy4 Preview 的聊天模板可以看到，模型似乎提供了两个推理强度选项：

{%- if not reasoning_effort is defined %}
{%- set reasoning_effort = 'high' %}
{%- elif reasoning_effort not in ['high', 'no_think'] %}
{%- if reasoning_effort is none %}
{{- raise_exception('reasoning_effort error : None, should be no_think/high') }}
{%- else %}
{{- raise_exception('reasoning_effort error : ' + reasoning_effort + ', should be no_think/high') }}
{%- endif %}
{%- endif %}

也就是说，reasoning_effort 默认值是 high，另一个可选值是 no_think，看起来用于关闭推理。

一个 SVG 生成测试

有人使用默认的 high 推理档位，让 Hy4 Preview 生成“鹈鹕骑自行车”的 SVG 图像描述。模型输出的是一个扁平矢量卡通风格画面：一只白色鹈鹕，带有大橙色喙，骑着红色自行车向右行驶；背景有灰色道路、白色虚线、浅蓝天空、黄色太阳、白云和表示速度的水平线。

在推理轨迹中，模型还出现了类似这样的思考片段：

也许加一个头盔？这能强化骑车主题，但可能会遮住头。也许小骑行帽或头盔？用户没有要求；可以加红色头盔？可能挺可爱。但鹈鹕有大喙，头盔可能会遮挡。最好还是不加。

也许加太阳镜？不。

也许加水？不。

这个片段值得注意的一点是：推理文本使用了略显简略的英语表达。一个可能的解释是，在隐藏推理文本中，完整语法并不一定有助于任务完成，也可能不够节省 token。

观察

Hy4 Preview 的核心看点在于：参数规模较 Hy3 显著增加，支持百万 token 上下文，并在模板层面暴露了较简单的推理强度控制。对于关注开放权重大模型、长上下文模型和推理模式设计的开发者来说，这些信息值得继续跟踪。