DeepSeek-V4首发适配华为云,应用大爆发更进一步

4月24日,DeepSeek-V4模型正式发布并开源,华为云首发适配。DeepSeek-V4 拥有百万Token超长上下文,在 Agent 能力、世界知识和推理性能上均实现国内与开源领域的领先。其中,DeepSeek-V4-Flash模型参数下降至284B,推理成本进一步降低,模型参数和激活更小,V4-Flash 能够提供更加快捷、经济的 API 服务,实现百万上下文普惠。当前,华为云MaaS模型即服务平台已为开发者提供免部署、一键调用DeepSeek-V4 -Flash API的Tokens服务。

在此次新模型适配过程中,华为云在系统层、算子层和集群层的关键能力上协同,分别从调度效率、计算效率和数据流转效率三个维度保障新模型快速适配与高性能落地。

针对DeepSeek-V4,华为云首发适配模型分层注意力压缩机制,实现V4注意力机制下 KVCache的高效分配管理,提供TopK、SWA、CFA等10+昇腾高性能融合算子,搭配框架异步调度、MTP多步投机等框架优化,支持原生1M长上下文的高性能推理。

图片 1.png

华为云以高效的AI基础设施为核心打造“硅基黑土地”,开放接纳自研和第三方主流大模型和众多智能体,为企业解难题,提升生产效率。

据悉,金山办公、360等企业已通过华为云接入DeepSeek新模型,此外,DeepSeek-V4-Pro版本也将于近日上线。

本文来自投稿,不代表科技讯立场,如若转载,请注明出处:https://www.kejixun.co/article/751032.html

陈晨陈晨管理团队

相关推荐

发表回复

登录后才能评论