当前位置:首页 > Deepseek最新资讯 > 正文内容

deepseek公布大语言模型部署方法专利

3个月前 (08-01)Deepseek最新资讯325

  天眼查App显示,近日,deepseek关联公司杭州深度求索人工智能基础技术研究有限公司申请的“一种大语言模型的部署方法及系统”专利公布。

  摘要显示,该发明涉及人工智能领域,有益效果在于将预填充阶段和解码阶段分别部署在高性能计算能力和大内存的机器上,均衡负载任务,实现最大化的硬件利用,减少闲置算力,降低整体延迟,提高吞吐量,增强系统的扩展性和容错性。

标签: deepseek

“deepseek公布大语言模型部署方法专利” 的相关文章

寒武纪Day 0适配DeepSeek-V3.2-Exp,同步开源推理引擎vLLM

寒武纪Day 0适配DeepSeek-V3.2-Exp,同步开源推理引擎vLLM

  寒武纪在公众号发文表示,2025年9月29日,寒武纪已同步实现对深度求索公司最新模型DeepSeek-V3.2-Exp的适配,并开源大模型推理引擎vLLM-MLU源代码。针对本次的De...

中国信通院标准所联合发布《基于智能IP广域网(AI WAN)的存算分离与云边协同

中国信通院标准所联合发布《基于智能IP广域网(AI WAN)的存算分离与云边协同

  智能时代加速到来,企业模型训练、推理算力需求爆炸式增长。对于企业来说,采用第三方云上智算资源是降低资本支出的最佳选择,但在数据入算、模型微调、推理输出等过程中可能面临数据、模型泄漏的问...

OPTA给出了高阶数据,西甲面对多人防守带球过人次数:维尼修斯第一 亚马尔第二

OPTA给出了高阶数据,西甲面对多人防守带球过人次数:维尼修斯第一 亚马尔第二

  其实维尼修斯最恐怖的是这赛季上半赛季,比上赛季还恐怖,60分钟制造一球,萨拉赫都被他压过去了 这是上半赛季的多边形图,只能说小熊的发挥是比上赛季和上半赛季差了 但是很多人太夸张了 什么...

北京亦庄推出全市首个电梯实时监管体系

北京亦庄推出全市首个电梯实时监管体系

  8月28日,北京亦庄创新发布最新消息,北京经济技术开发区(简称"北京经开区"或"经开区",又称"北京亦庄")正全面构建以物联...

DeepSeek预测:佛罗伦萨VS那不勒斯!孔蒂不败神话遭终结?德布劳内率队冲击

DeepSeek预测:佛罗伦萨VS那不勒斯!孔蒂不败神话遭终结?德布劳内率队冲击

  意甲第3轮焦点战,佛罗伦萨将在弗兰基球场迎战领头羊那不勒斯。主队目前2轮皆平(进球1/失球1)排名第12,场均仅0.5个进球的效率位列联赛倒数第四。反观孔蒂执教的那不勒斯两战全胜且一球...

英特尔 Gaudi 2E AI 宣布为 DeepSeek V3.1 提供加速支持

英特尔 Gaudi 2E AI 宣布为 DeepSeek V3.1 提供加速支持

  IT之家查询获悉,英特尔 Gaudi 2E 采用 7nm 制程,配备 96GB HBM2E 内存、48MB SRAM,具备 2.4TB 总内存带宽,针对随机访问deepseek、线性访...