当前位置:首页 > Deepseek最新资讯 > 正文内容

DeepSeek“开源周”第二天开源EP通信库

8个月前 (02-25)Deepseek最新资讯442

新京报贝壳财经讯(记者罗亦丹)北京时间2月25日,DeepSeek发布了其“开源周”第二天的成果:DeepEP,第一个用于MoE模型(混合专家模型)训练和推理的开源EP通信库。

据了解,EP为Expert Parallelism(专家并行),是一种在大规模分布式AI模型训练中使用的技术,能用于提升模型并行处理能力和训练效率。

DeepSeek介绍,DeepEP的特点包括:高效且优化的全对全(all-to-all)通信,节点内和节点间支持NVLink和RDMA,用于训练和推理预填充的高吞吐量内核,用于推理解码的低延迟内核,原生FP8调度支持,灵活的GPU资源控制,实现计算与通信重叠。

DeepSeek发布公告截图


“DeepSeek“开源周”第二天开源EP通信库” 的相关文章

东方国信:Deepseek目前对公司业绩影响较小

东方国信:Deepseek目前对公司业绩影响较小

每经AI快讯,有投资者在投资者互动平台提问:尊敬的董秘你好,有新闻报道称东方国信幕僚智数、大模型训推平台等产品快速完成了与DeepSeek-R1系列大模型的深度集成,标志着内蒙古和林格雨新区中国移动、...

AI赋能,绿动未来:挚达科技接入DeepSeek全球化布局的新篇章

AI赋能,绿动未来:挚达科技接入DeepSeek全球化布局的新篇章

随着全球对可持续发展的重视,新能源汽车产业正以前所未有的速度蓬勃发展。然而,在全球化进程中,新能源汽车服务企业面临着多语言支持、跨文化服务以及本地合规审核等多重挑战。海外市场对于能够提供无缝对接、符合...

继基础电信运营商后,广东多地政府部门接入DeepSeek

继基础电信运营商后,广东多地政府部门接入DeepSeek

当下,DeepSeek朋友圈正持续“扩容”:一方面,其访问使用量急速上升,已成为最快突破3000万日活跃用户量的应用;而移动、电信、联通三家基础电信企业已全面接入DeepSeek。此外,广东多地政府部...

全面适配!京东云将DeepSeek推理场景性能提升50%

全面适配!京东云将DeepSeek推理场景性能提升50%

央广网北京3月3日消息 在DeepSeek为期五天的“开源周”中,其连续开源的五大核心技术(FlashMLA、DeepEP、DeepGEMM、DualPipe & EPLB、3FS文件系统),...

DeepSeek API 的返回值格式是什么?

DeepSeek API 的返回值格式是什么?

DeepSeek API 的返回值格式是什么?DeepSeek API的返回值格式通常是JSON格式。这种格式返回的数据包括生成的文本内容、状态码(用于判断请求是否成功)、错误信息(若请求失败时)等。...

从DeepSeek看人工智能自主创新的战略价值

从DeepSeek看人工智能自主创新的战略价值

作者:彭一杰(北京大学光华管理学院研究员、人工智能研究院多智能体与社会智能中心主任)随着全球科技竞争的加剧,人工智能已成为国家竞争力的重要标志。无论是国家还是行业、个人,都在积极探索如何利用人工智能赋...