当前位置:首页 > Deepseek最新资讯 > 正文内容

DeepSeek开源周第三日 发布高性能通用矩阵乘法库

3个月前 (02-26)Deepseek最新资讯219

新京报贝壳财经讯(记者罗亦丹)北京时间2月26日,DeepSeek进行了其开源周第三日的发布——DeepGEMM,一个支持密集和MoE(专家混合模型)GEMM(通用矩阵乘法)的FP8 (8位浮点数)GEMM库,为V3/R1训练和推理提供支持。

据了解,通用矩阵乘法是许多高性能计算任务的核心,所以其性能优化也是大模型降本增效的重点。

DeepSeek表示,DeepGEMM在Hopper GPU(一种英伟达GPU架构)上最高可达到1350+FP8TFLOPS(每秒万亿次浮点运算),并且像教程一样简洁,可完全即时编译,其核心逻辑只有约300行代码,且在大多数矩阵尺寸上均优于专家调优的内核,并支持密集布局和两种MoE布局。


标签: DeepSeek

“DeepSeek开源周第三日 发布高性能通用矩阵乘法库” 的相关文章

众多产业行业与DeepSeek“联姻结对”,将为我们带来什么?

众多产业行业与DeepSeek“联姻结对”,将为我们带来什么?

新华社北京2月17日电 DeepSeek在多家医院完成本地化部署;微信测试接入DeepSeek;部分地区政务系统已接入……众多行业产业与DeepSeek“联姻结对”的消息接踵而至,令人不禁想问:AI正...

当药师遇到deepseek,学更无止境:从一则网上药学咨询说起

当药师遇到deepseek,学更无止境:从一则网上药学咨询说起

原创 陈默mo 哆啦问药这是哆啦问药的第459期推送*本文为「哆啦问药」原创内容▼大家好,我是陈默,一个想装进所有药学知识的临床药师。事情的起因是这样的:某天,小编在好大夫平台上,接诊了一位患者,他的...

梁文锋推荐的DeepSeek官方 使用教程

梁文锋推荐的DeepSeek官方 使用教程

梁文锋推荐的DeepSeek官方 使用教程⼀、什么是DeepSeek?如何注册和使⽤?什么是 DeepSeek?核⼼功能有哪些?如何下载和注册?⼆、学会这7类提⽰词,让DeepSeek效率翻倍1.新⼈...

《DeepSeek赋能数字政府应用指南》出版发行-电子书将在国内各大数字阅读平台上线

《DeepSeek赋能数字政府应用指南》出版发行-电子书将在国内各大数字阅读平台上线

新华社北京3月21日电 《DeepSeek赋能数字政府应用指南》一书近日由新华出版社出版并面向全国发行。该书电子书将在国内各大数字阅读平台上线。该书由中国经济信息社编写,内容聚焦人工智能技术在数字政府...

广东全省推进DeepSeek部署,开启AI智能服务新篇章!

广东全省推进DeepSeek部署,开启AI智能服务新篇章!

拥抱AI浪潮 加速AI赋能近期,AI系统DeepSeek依托先进的深度学习算法和强大的数据处理能力火热出圈。中国电信广东公司积极拥抱AI浪潮,依托天翼云强大的算力资源和技术优势,为DeepSeek在广...

中国港口接入DeepSeek以提升运营效率

中国港口接入DeepSeek以提升运营效率

海外网2月21日电据香港《南华早报》2月20日报道,中国人工智能企业深度求索的大语言模型DeepSeek正在赋能中国各行业和关键基础设施。报道称,中国三大港口已陆续实施或计划接入DeepSeek,以提...