当前位置:首页 > Deepseek最新资讯 > 正文内容

DeepSeek“开源周”第二天开源EP通信库

6个月前 (02-25)Deepseek最新资讯329

新京报贝壳财经讯(记者罗亦丹)北京时间2月25日,DeepSeek发布了其“开源周”第二天的成果:DeepEP,第一个用于MoE模型(混合专家模型)训练和推理的开源EP通信库。

据了解,EP为Expert Parallelism(专家并行),是一种在大规模分布式AI模型训练中使用的技术,能用于提升模型并行处理能力和训练效率。

DeepSeek介绍,DeepEP的特点包括:高效且优化的全对全(all-to-all)通信,节点内和节点间支持NVLink和RDMA,用于训练和推理预填充的高吞吐量内核,用于推理解码的低延迟内核,原生FP8调度支持,灵活的GPU资源控制,实现计算与通信重叠。

DeepSeek发布公告截图


“DeepSeek“开源周”第二天开源EP通信库” 的相关文章

大模型落地家庭娱乐场景 三星电视接入DeepSeek-R1

大模型落地家庭娱乐场景 三星电视接入DeepSeek-R1

近日,三星电视正式接入DeepSeek-R1,AI能力进一步得到强化。据悉,用户无需复杂的操作步骤,唤醒智能语音助手三星小贝,在对应的语音助手对话页面内,即可便捷体验深度思考功能。三星电视融合Deep...

WPS+OfficeAI 助手调用 DeepSeek,青云科技助你办公更智能

WPS+OfficeAI 助手调用 DeepSeek,青云科技助你办公更智能

人工智能技术的发展为办公场景带来了全新的变革机遇,办公效率的提升成为企业和个人追求的重要目标。青云科技旗下AI算力云——基石智算CoresHub 凭借高度标准化的平台与应用集成,帮助用户在办公中充分利...

甘咨询子公司已经开始接入DeepSeek平台并计划将其应用于相关业务流程中

甘咨询子公司已经开始接入DeepSeek平台并计划将其应用于相关业务流程中

甘咨询子公司已经开始接入DeepSeek平台并计划将其应用于相关业务流程中e公司讯,甘咨询在互动平台表示,公司正积极探索并研究人工智能与大数据等先进技术,包括深度求索(DeepSeek)在内的创新解决...

跨境电商试练AI,DeepSeek取代了ChatGPT

跨境电商试练AI,DeepSeek取代了ChatGPT

“接下来半年我们会看到AI应用在国内的蓬勃发展,DeepSeek会带来AI应用的枝繁叶茂。”聊起DeepSeek,跨境电商商家钱大柱这样说道。这样的技术论断来自“外行”的跨境商家并不寻常,背后是AI与...

接入DeepSeek!汉阳政务服务开启“AI时代”

接入DeepSeek!汉阳政务服务开启“AI时代”

AI智能客服“知小音”24小时在线,数字人“汉小阳”实时解答。3月6日,武汉市汉阳区政务服务全面接入DeepSeek智能技术。线上,手机打开“汉阳云政务”微信小程序,身着一袭古装的AI智能客服“知小音...

DeepSeek助力贵阳贵安营商环境再上新台阶

DeepSeek助力贵阳贵安营商环境再上新台阶

3月7日上午,贵阳贵安DeepSeek部署应用新闻发布会举行。贵阳市投资促进局副局长秦军介绍了DeepSeek赋能贵阳贵安招商引资、完善配套服务,优化营商环境的做法和取得成效。贵阳市数智化推进招商引资...