腾讯混元团队于11月16日正式发布Hy4 flash模型,将其定位为性价比最高的Hy系列产品。该模型总参数量224B,包含64B Engram参数,每个token激活12B,支持多模态输入与100万token上下文长度,API价格较此前版本大幅下降。
在官方WorkIndex评测集中,其单任务成本仅为Hy4的1/20,用户盲测满意度接近Claude Haiku 5.5,且任务处理时长最短。目前模型已接入腾讯云TokenHub、WorkBuddy、元宝、企业微信、QQ等多款产品。
核心优化技术
高性价比来自三个阶段的协同改进。预训练引入混合注意力、LatentMoE和Engram架构,后者是一种可扩展查表式参数模块,能以较低算力扩充容量,同时KV cache降至Hy4的1/6。
后训练通过自蒸馏获得智能水平,并用强化学习压缩输出长度50%。推理阶段采用megakernel、4bit量化和dflash技术,实现超过150 tps解码速度,支持大规模低成本部署。
对站群运营人员的实际价值
站群运营中,AI常用于内容生成、数据分析和自动化管理,传统模型推理成本较高。Hy4 flash这类高效设计能显著减少支出,让低成本站群方案更容易扩展规模,同时保持性能稳定。
技术人员可测试该模型在日常工作任务中的表现,结合自身站群程序调整集成方式。在服务器资源分配上,也能因模型效率提升而优化配置,避免不必要开支。