先按数据边界选入口

Hy4 Preview 于 2026-08-28 开源,同时进入 WorkBuddy、CodeBuddy,并可通过腾讯云 TokenHub 和 OpenRouter 调用。四条入口解决的不是同一个问题:产品内使用换来更低部署成本,API 适合快速接入,本地权重则把数据和运行环境留在自己的边界内。

四条路径各自适合什么

入口适合先确认
CodeBuddyIDE 内代码修改、分支和工具调用账号权益、上下文和积分规则
WorkBuddy桌面办公与轻量代码任务工作区权限、数据保留和免费额度
TokenHub/OpenRouter接入 Claude Code、Codex 或自建 Agent模型 ID、协议、价格和日志策略
本地 vLLM/SGLang不能把代码送出组织边界的场景GPU 数量、显存、驱动和运维成本

不要把“49B 激活参数”理解成一张普通显卡就能运行。模型总参数约 770B、上下文 1M,官方模型卡给出了 FP8 和张量并行部署示例。

先用 API 做协议验证

在购买或借用硬件前,先用 TokenHub 或 OpenRouter 发一条短请求,确认模型 ID、thinking 参数和工具调用格式。

Bash
curl -s "${HY4_BASE_URL}/chat/completions" \
  -H "Authorization: Bearer ${HY4_API_KEY}" \
  -H "Content-Type: application/json" \
  -d '{"model":"tencent/hy4-preview","messages":[{"role":"user","content":"返回 OK"}],"max_tokens":32}'

上例使用 OpenRouter 的 endpoint 和模型 ID;TokenHub 要改成平台提供的 endpoint、Key 变量和 hy4-preview 模型 ID。不要把示例 Key 或真实 Key 写进仓库。成功标准是返回的 model、上下文限制和计费记录与平台文档一致。

本地部署先验证能不能启动

官方模型卡给出了 vLLM/SGLang 的部署入口和 tensor-parallel-size 8 示例。准备本地环境时,先只加载模型、发送一个短请求,再开启工具调用和长上下文;不要一开始就把 max_model_len 设到 1M。

记录以下数据:

  • 权重格式和实际磁盘占用
  • GPU 型号、数量和显存余量
  • 首 token 延迟与稳定吞吐
  • 4K、64K、256K 输入下的显存变化
  • reasoning_effort=high 与 no_think 的输出差异

官方模型卡还列出早期版本会过度思考和过度验证,这是模型限制事实;是否影响你的代码 Agent,需要用真实任务复测。

工具调用的验收顺序

先测试普通文本,再测试单个只读工具,最后测试写文件和测试命令。每一步都检查请求协议、工具名、参数 JSON 和工具结果是否回到下一轮上下文。

如果 API 能返回文本但工具调用失败,先查平台是否支持对应 tool-call parser;如果本地服务启动但首 token 极慢,先降低并发和上下文长度,不要把问题归因于模型能力。

什么时候值得上本地集群

只有当数据不能离开本地、API 账单已超过运维成本,或需要长期固定版本时,本地部署才有明确理由。否则先使用 CodeBuddy/WorkBuddy 或 API 完成协议和质量验证。

最终成功标准是:入口、模型 ID、思考模式、工具调用、延迟、成本和数据边界都能被记录,而不是“模型权重下载完成”。

参考来源

Tencent releases and open-sources Tencent Hy4 previewTencentHy4-preview model card and deploymentHugging FaceTokenHub API model listTencent Cloud

相关文章

MiniMax H3 本地部署教程:用 SGLang 跑通 768P 原生音视频智能编程 / 约 10 分钟AI 编程开始按量计费后,团队终于得给每次 Agent 长跑算账了智能编程 / 约 11 分钟Claude、GPT、Gemini 怎么选:AI Coding 任务分配和验证清单智能编程 / 约 12 分钟7 个关键洞察:AI Coding 工具真正改变的不是写代码,而是验证代码智能编程 / 约 18 分钟

作者信息