先按数据边界选入口
Hy4 Preview 于 2026-08-28 开源,同时进入 WorkBuddy、CodeBuddy,并可通过腾讯云 TokenHub 和 OpenRouter 调用。四条入口解决的不是同一个问题:产品内使用换来更低部署成本,API 适合快速接入,本地权重则把数据和运行环境留在自己的边界内。
四条路径各自适合什么
| 入口 | 适合 | 先确认 |
|---|---|---|
| CodeBuddy | IDE 内代码修改、分支和工具调用 | 账号权益、上下文和积分规则 |
| WorkBuddy | 桌面办公与轻量代码任务 | 工作区权限、数据保留和免费额度 |
| TokenHub/OpenRouter | 接入 Claude Code、Codex 或自建 Agent | 模型 ID、协议、价格和日志策略 |
| 本地 vLLM/SGLang | 不能把代码送出组织边界的场景 | GPU 数量、显存、驱动和运维成本 |
不要把“49B 激活参数”理解成一张普通显卡就能运行。模型总参数约 770B、上下文 1M,官方模型卡给出了 FP8 和张量并行部署示例。
先用 API 做协议验证
在购买或借用硬件前,先用 TokenHub 或 OpenRouter 发一条短请求,确认模型 ID、thinking 参数和工具调用格式。
curl -s "${HY4_BASE_URL}/chat/completions" \
-H "Authorization: Bearer ${HY4_API_KEY}" \
-H "Content-Type: application/json" \
-d '{"model":"tencent/hy4-preview","messages":[{"role":"user","content":"返回 OK"}],"max_tokens":32}'上例使用 OpenRouter 的 endpoint 和模型 ID;TokenHub 要改成平台提供的 endpoint、Key 变量和 hy4-preview 模型 ID。不要把示例 Key 或真实 Key 写进仓库。成功标准是返回的 model、上下文限制和计费记录与平台文档一致。
本地部署先验证能不能启动
官方模型卡给出了 vLLM/SGLang 的部署入口和 tensor-parallel-size 8 示例。准备本地环境时,先只加载模型、发送一个短请求,再开启工具调用和长上下文;不要一开始就把 max_model_len 设到 1M。
记录以下数据:
- 权重格式和实际磁盘占用
- GPU 型号、数量和显存余量
- 首 token 延迟与稳定吞吐
- 4K、64K、256K 输入下的显存变化
reasoning_effort=high与no_think的输出差异
官方模型卡还列出早期版本会过度思考和过度验证,这是模型限制事实;是否影响你的代码 Agent,需要用真实任务复测。
工具调用的验收顺序
先测试普通文本,再测试单个只读工具,最后测试写文件和测试命令。每一步都检查请求协议、工具名、参数 JSON 和工具结果是否回到下一轮上下文。
如果 API 能返回文本但工具调用失败,先查平台是否支持对应 tool-call parser;如果本地服务启动但首 token 极慢,先降低并发和上下文长度,不要把问题归因于模型能力。
什么时候值得上本地集群
只有当数据不能离开本地、API 账单已超过运维成本,或需要长期固定版本时,本地部署才有明确理由。否则先使用 CodeBuddy/WorkBuddy 或 API 完成协议和质量验证。
最终成功标准是:入口、模型 ID、思考模式、工具调用、延迟、成本和数据边界都能被记录,而不是“模型权重下载完成”。