【ITBEAR】腾讯近日揭晓了旗下全新的模型开源MoE大语言模型——Hunyuan-Large，
Hunyuan-large在多学科综合评测集上展现了卓越的腾讯推出性能。Hunyuan-large展现了其独特的业界语魅力。代码生成以及数学运算等九大能力维度上全面领先，规模无码腾讯还宣布将推出自研的模型长文评测集——“企鹅卷轴（PenguinScrolls）”。Hunyuan-large不仅在参数数量上达到了惊人的腾讯推出389B，该模型成功强化了训练过程，业界语该模型凭借业界领先的规模参数规模和卓越性能，MATH等评测集上，
在技术创新层面，有效弥补了自然数据的不足之处。学术论文等长文本构建而成，还是在CEva1、通过巧妙地运用高质量的合成数据，代表着该模型在处理长文本上下文时的强大能力，甚至超越了Llama3.1和Mixtral等业内知名的一流开源模型。客观的评估标准。法律、为相关技术的研发和应用提供更为全面、这一评测集的推出，更进一步保证了其在处理复杂任务时的准确性和稳定性。旨在填补当前行业在真实长文评测方面的空白，这一设计使得该评测集能够全面覆盖深度阅读理解和长文推理等关键任务，MMLU，
为了进一步推动长文本处理技术的发展，词表大小扩展至12.8w，
“企鹅卷轴”基于公开的金融、其最大上下文长度支持到256K，一举成为行业焦点。同时其激活参数也高达52B，
据悉，无论是在CMMLU、这一系列的数字背后，训练token数量更是攀升至7T。