腾讯混元开源首款混合推理MoE模型Hunyuan-A13B,推动大模型技术生态发展
创始人
2025-06-29 19:41:26
0

6月27日,腾讯混元宣布开源首个混合推理MoE模型Hunyuan-A13B,总参数80B,激活参数仅13B。这一创新模型在性能表现上令人瞩目,效果比肩同等架构领先开源模型,同时推理速度更快,性价比更高,为开发者带来了更具优势的选择,显著降低了获取优质模型能力的门槛。

即日起,开发者便可在Github和Huggingface等开源社区便捷地获取该模型。与此同时,模型API也在腾讯云官网正式上线,全面支持快速接入部署,极大地便利了开发者将其应用于各类项目中。

值得一提的是,Hunyuan-A13B是业界首个13B级别的MoE开源混合推理模型。基于先进的模型架构,它展现出了极为强大的通用能力,在多个业内权威数据测试集上成绩斐然,尤其在Agent工具调用和长文处理能力方面表现突出。在实际应用场景中,该模型为用户提供了灵活的思考模式选择。快思考模式能够提供简洁、高效的输出,适用于那些追求速度和最小计算开销的简单任务;而慢思考模式则涉及更深层次、更全面的推理步骤,比如反思和回溯等过程,对于复杂任务的处理更为擅长。这种独特的融合推理模式对计算资源分配进行了优化,用户能够通过“think/no_think”轻松切换思考模式,从而在效率和特定任务准确性之间找到最佳平衡。

对于当下热门的大模型Agent能力,腾讯混元构建了一套多Agent数据合成框架。该框架接入了MCP、沙箱、大语言模型模拟等多样的环境,并借助强化学习,让Agent在多种环境中进行自主探索与学习,进一步增强了Hunyuan-A13B的性能表现。在长文处理方面,Hunyuan-A13B支持256K原生上下文窗口,在多个长文数据集中脱颖而出,取得了优异的成绩。

Hunyuan-A13B模型对个人开发者十分友好,在较为严格的条件下,仅需1张中低端GPU卡即可完成部署。目前,它已成功融入开源主流推理框架生态,能够无损支持多种量化格式。在相同输入输出规模的情况下,整体吞吐能力是前沿开源模型的2倍以上。

Hunyuan-A13B集成了腾讯混元在模型预训练、后训练等多个环节的创新技术,这些技术协同作用,显著增强了模型的推理性能、灵活性和推理效率。在预训练环节,Hunyuan-A13B训练了20Ttokens的语料,涵盖多个领域,高质量的语料为提升模型通用能力奠定了坚实基础。此外,腾讯混元团队通过系统性分析、建模与验证,构建了适用于MoE架构的ScalingLaw联合公式。这一成果不仅完善了MoE架构的ScalingLaw理论体系,更为MoE架构设计提供了可量化的工程化指导,有力地提升了模型预训练的效果。在后训练环节,Hunyuan-A13B采用多阶段的训练方式,有效提升了模型的推理能力,同时兼顾了模型在创作、理解、Agent等方面的通用能力。

不仅如此,腾讯混元还在此次开源中推出了两个新数据集——ArtifactsBench和C3-Bench,旨在填补行业内相关评估标准的空白。其中,ArtifactsBench用于弥合大语言模型代码生成评估中的视觉与交互鸿沟,构建了一个包含1825个任务的新基准,涵盖从网页开发、数据可视化到交互式游戏等九大领域,并按难度分级,能够全面评估模型的能力;C3-Bench则针对Agent场景模型面临的三个关键挑战,即规划复杂的工具关系、处理关键的隐藏信息以及动态路径决策,设计了1024条测试数据,有助于精准发现模型能力的不足之处。

相关内容

热门资讯

原创 苹... 有不少朋友疑惑苹果iPhone 16 Pro和16 Pro Max有什么区别?该选择哪一款更好?各自...
第五轮学科评估对比:西安交大突... 在之前的文章中,我们已经提及西安交通大学第五轮学科评估的表现可圈可点,新晋的3个A+学科:机械工程、...
vivo钱包遭用户投诉贷款利率... 文:WEMONEY研究室 随着移动互联网时代到来,智能手机已经成为了生活的必需品。目前,很多手机如...
原创 2... 从去年华为用上了麒麟芯片开始,华为的市场份额就蹭蹭的往上涨,当时抢购的人特别多,一时间还买不到现货,...
2024年OPPO手机全攻略:... 手机已不仅仅是通讯工具,它更是我们记录生活、享受娱乐、提升工作效率的重要伙伴。随着科技的飞速发展,O...
虚拟资料变现还值得做吗?闲鱼卖... 大家好,今天给大家带来的是咸鱼虚拟资料类项目分享,这个项目其实出来很久了,有些人觉得虚拟资料没水准,...
2025年值得入手的2款智能手... 在科技飞速发展的今天,智能手表已成为我们生活中不可或缺的伙伴。无论是健康监测、信息提醒,还是时尚搭配...
解决FaceTime无法使用的... FaceTime是苹果公司推出的一款视频通话应用,广泛应用于iPhone、iPad和Mac等设备上。...
gta5加载慢怎么办 gta5... 许多玩家在GTA5游戏过程中都会遇到加载速度慢的问题,那么gta5加载慢怎么办?今天加游加速器就来告...
iPhone 16系列手机网速... 在智能手机的世界里,网速往往是衡量一部手机性能的重要指标之一。 尤其是随着5G时代的到来,用户对于高...