当前位置:首页 > Deepseek最新资讯 > 正文内容

华为昇腾、寒武纪宣布适配DeepSeek最新模型

3周前 (09-30)Deepseek最新资讯104

  V3.2-Exp在V3.1-Terminus的基础上首次引入了团队自研的DeepSeek Sparse Attention (一种稀疏注意力机制,DSA),针对长文本的训练和推理效率进行了探索性的优化和验证。

  DSA是一种针对Transformer架构的优化技术。在大语言模型的技术机制中,注意力机制是一个核心组件,决定了模型如何在文本序列中聚焦关键信息,实现语义理解与生成。

  简单对比来看,在Transformer架构中,传统的注意力机制是“稠密的”,处理长文本时计算量会呈指数级增长。DSA则是一种“稀疏”方案,更高效,成本也更低。

  除技术创新与价格“腰斩”外, DeepSeek此次开源TileLang版本算子,同样引发业内高度关注。

  作为一款实验版本,DeepSeek认识到“新模型仍需在更广泛的用户真实场景中进行大规模测试,以排除在某些场景下效果欠佳的可能”。

  为方便用户进行对比测试,DeepSeek为此前发布的V3.1-Terminus临时保留了额外的API访问接口,将开放至10月15日,调用价格与V3.2-Exp一致。

  根据业内分析deepseek,传统的Transformer全连接注意力机制,虽然在模型效果上表现出色,但其“稠密的”注意力机制使得计算复杂度随着文本长度增加,计算量呈指数级增长。这使得在处理长文本时,模型面临巨大的计算资源压力,训练时间被大幅拉长,推理速度也难以满足实时性需求。

  针对长文本处理的主要计算瓶颈,DeepSeek Sparse Attention(DSA)首次实现细粒度稀疏注意力机制。

  DSA机制能够自适应地选择关键注意力头与局部上下文窗口。简单对比来看,在Transformer架构中,传统的注意力机制是“稠密的”,处理长文本时计算量会呈指数级增长。DSA则是一种“稀疏”方案,更高效,成本也更低。

  通过引入DSA机制,V3.2-Exp实现了长文本训练和推理效率的大幅提升。同时,在与前代模型V3.1-Terminus的严格对齐比较中,V3.2-Exp在各项核心能力上都保持了与V3.1-Terminus基本持平的水准。

  得益于新模型服务成本的大幅降低,DeepSeek API的价格也大幅下调,开发者调用DeepSeek API的成本将降低50%以上。

  DeepSeek V3.2-Exp发布后,华为昇腾、寒武纪和海光信息也第一时间宣布完成了与其适配,显示出当前国产AI软硬件生态的协同发展。

  同时还值得注意的是,DeepSeek此次开源了新模型研究中设计和实现的GPU算子,包括 TileLang 和 CUDA 两种版本。DeepSeek建议社区在进行研究性实验时,使用基于 TileLang 的版本以方便调试和快速迭代。

  TileLang是由北京大学计算机学院副研究员杨智团队主导开发的开源AI算子编程语言,专门为简化复杂的GPU算子开发而设计,在Tile粒度上进行编程和编译,实现模型算子和硬件的高效协同。开发者使用TileLang可以用更简洁的代码表达复杂计算,同时获得接近手写算子的高性能,从而显著提升AI算子的开发效率。

  TileLang团队核心成员董宇骐此前曾介绍,TileLang实现了FlashAttention算子开发,代码量从超500行减少至80行,并保持了与官方版本持平的性能。

  TileLang与国产硬件生态适配。“华为计算”在9月29日傍晚宣布昇腾已实现DeepSeek-V3.2-Exp 0day支持,并面向开发者开源所有推理代码和算子实现。其称,昇腾已实现TileLang的Sparse Flash Attention和Lightning Indexer算子开发,后续将支持更完备的NPU算子并提升性能和泛化性。原文出处:华为昇腾、寒武纪宣布适配DeepSeek最新模型,感谢原作者,侵权必删!

标签: deepseek

“华为昇腾、寒武纪宣布适配DeepSeek最新模型” 的相关文章

信凯科技(001335.SZ):目前没有与Deepseek在自研国产芯片材料外着

信凯科技(001335.SZ):目前没有与Deepseek在自研国产芯片材料外着

  公司目前没有与Deepseek在自研国产芯片材料外着色供应方面有合作。公司的主要业务集中在有机颜料等着色剂的产品开发deepseek、销售及服务方面;产品广泛应用于油墨、涂料和塑料等领...

詹姆斯坐骨神经痛跷二郎腿?DeepSeek:危险!可能加重伤情

詹姆斯坐骨神经痛跷二郎腿?DeepSeek:危险!可能加重伤情

  直播吧10月13日讯 NBA季前赛,湖人主场迎战勇士,詹姆斯坐在了更高的椅子上,但跷了个二郎腿。   经DeepSeek分析,对于坐骨神经痛患者,跷二郎腿是一个非常不...

朱啸虎警示行业:DeepSeek重要地位尚未被充分认知

朱啸虎警示行业:DeepSeek重要地位尚未被充分认知

  行业活动中,来自知名投资机构的代表对人工智能发展格局作出重要研判。活动由科技创新企业与行业媒体共同筹办,聚焦人工智能领域前沿动向。   金沙江创投核心管理层成员在研讨...

奥克斯空调全系产品拥抱鸿蒙系统,共启智能互联新纪元

奥克斯空调全系产品拥抱鸿蒙系统,共启智能互联新纪元

  2025年9月16日,由华为技术有限公司承办的第四届“828企业家活动——鸿启新程·算赋浙商”在浙江杭州盛大举行,奥克斯空调受邀参会。据悉,奥克斯空调早已深度融入鸿蒙智能生态,其全系产...

DeepSeek暗示国产芯片有望大规模使用

DeepSeek暗示国产芯片有望大规模使用

  8月22日,A股算力板块再度成为“执牛耳者”。截至收盘,本轮行情的“股王”寒武纪以20%涨停报收,总市值来到惊人的5200亿人民币;晶圆龙头中芯国际A/H股分别上涨14.19%和10....

AI赛道又卷起来了!DeepSeek开源新模型,OpenAl推出AI浏览器!科创

AI赛道又卷起来了!DeepSeek开源新模型,OpenAl推出AI浏览器!科创

  10月20日,国产AI公司DeepSeek宣布开源最新大模型DeepSeek-OCR,这是一种视觉-文本压缩范式,通过用少量的视觉token来表示原本需要大量文本token的内容,以此...