腾讯发布混元Hy4 flash 主推高性价比日常办公AI能力

Source

品玩11月17日讯,腾讯近日发布混元最新语言模型Hy4 flash,定位为迄今性价比最高的Hy系列模型。该模型总参数224B,其中包含64B Engram参数,单次推理仅激活12B参数,支持多模态输入和100万上下文长度。

模型在预训练阶段引入混合注意力、LatentMoE、Engram等架构,KV cache大小降至Hy3的1/24、Hy4的1/6;后训练阶段通过自蒸馏Hy4获得综合智能,再经强化学习将端到端任务输出长度压缩50%;推理阶段结合megakernel、4bit量化、DFly等手段,解码速度超过150 tps。

在内部评测集WorkIndex上,Hy4 flash单任务成本为Hy4 preview的1/13、Hy4的1/20。85位内部用户盲测显示,其满意度接近Claude Haiku 5.5,任务时长最短。模型已在腾讯云TokenHub、WorkBuddy、元宝、企业微信等产品上线,11月30日前提供限时优惠,后续计划开源并高频迭代。