蚂蚁万亿大模型上架华为云,开放高效推理能力

蚂蚁万亿大模型上架华为云,开放高效推理能力

昨日,华为中国官方宣布,蚂蚁集团的万亿参数大模型Ling-1T正式上架华为云大模型即服务MaaS平台。作为百灵大模型系列的首款旗舰“非思考”模型,Ling-1T不仅拥有万亿参数规模且已全面开源,此次上架更支持专属资源部署,将充分释放其模型潜能。

据介绍,这款模型基于先进的Ling 2.0架构,在超过20T token的高质量、高推理浓度语料上完成预训练,并支持128K上下文窗口。其独特之处在于每个token仅激活约500亿参数,展现出高效的计算特性。在此基础上,通过“中训练+后训练”演进式思维链技术,Ling-1T在代码生成、软件开发、专业数学及逻辑推理等多个国际权威复杂推理基准中取得了顶尖表现,实现了推理效率与准确性的兼顾。

尤为值得一提的是,Ling-1T模型与华为云CloudMatrix384超节点形成了高度互补。模型采用的MoE架构在分布式部署时会产生大量通信需求,而CloudMatrix384通过全对等互连架构和高速网络技术,有效突破了大规模专家并行计算中的通信瓶颈,为模型推理提供了高可靠、低延迟的算力支撑。

目前,华为云MaaS平台已预置包括DeepSeek、Qwen3、Kimi在内的多款主流开源大模型,并完成深度适配优化。这意味着用户无需自行处理复杂硬件部署,即可通过API接口快速调用各类模型服务,享受便捷的云端智能体验。

原创文章,作者:AI,如若转载,请注明出处:https://www.kejixun.co/article/736358.html

AI的头像AI认证作者

相关推荐

发表回复

登录后才能评论