返回顶部
AiGoe.com 首页 AI快讯

寒武纪宣布全面适配DeepSeek-V3.2-Exp 模型,推理引擎开源来袭! ...

AI快讯 2025-9-30 16:43 55人浏览 0人回复
摘要

寒武纪宣布已成功适配最新发布的 DeepSeek-V3.2-Exp 模型,并同时开源了大模型推理引擎 vLLM-MLU 的源代码。此消息无疑为 AI 行业注入了一剂强心针,也让对 AI 技术充满期待的开发者们欣喜不已。DeepSeek-V3.2-Exp ...

 寒武纪宣布已成功适配最新发布的 DeepSeek-V3.2-Exp 模型,并同时开源了大模型推理引擎 vLLM-MLU 的源代码。此消息无疑为 AI 行业注入了一剂强心针,也让对 AI 技术充满期待的开发者们欣喜不已。

DeepSeek-V3.2-Exp 是深度求索公司推出的一个实验性模型,它在功能和效率上都进行了全新的尝试。寒武纪对此表现出了极大的关注与支持,认为这标志着他们在大模型软件生态建设方面取得了重大进展。寒武纪的研发团队利用其技术积累,快速实现了对这一全新模型的适配,展示了其在技术创新上的领先地位。

在技术实现方面,寒武纪通过 Triton 算子进行了快速适配,并采用了 BangC 融合算子来优化性能。这些技术的结合,不仅提升了计算效率,还降低了在处理长序列数据时的训练和推理成本。这对于希望提升 AI 应用效率的企业来说,意味着能够更经济高效地实现复杂的计算任务。

值得一提的是,DeepSeek-V3.2-Exp 引入了全新的 Sparse Attention 机制,这一创新使得模型在面对复杂任务时表现更加出色。而寒武纪的技术优势则进一步增强了该模型的计算效率,为客户提供了强有力的软硬件解决方案。

寒武纪对此次合作的成功表示乐观,他们期待着与 DeepSeek 的进一步合作,推动 AI 技术的更大突破。同时,开源的 vLLM-MLU 源代码也为开发者们提供了一个良好的平台,让更多的技术人员能够参与到这一创新的生态中。

可以说,寒武纪与 DeepSeek 的合作标志着 AI 技术的一次新飞跃,未来的应用场景将更加丰富多样。通过这次技术的升级,AI 将在各个行业中发挥更大的作用,为我们的生活带来更多便利。

项目地址:https://github.com/Cambricon/vllm-mlu

本文暂无评论,快来抢沙发!

推荐阅读
热门问答
AiGoe.com 成立于2014年8月,是目前国内优秀的开源技术社区,拥有超过300万会员,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作

  • Powered by Discuz! X3.5 | Copyright © 2001-2020, Tencent Cloud. |
  • | 营业执照 | |星点互联科技有限公司|鲁ICP备19001237号-21|鲁公网安备 4236902302000354号