当前位置:首页 > Deepseek最新资讯 > 正文内容

被曝蒸馏DeepSeek还造假!欧版OpenAI塌方了

2个月前 (08-14)Deepseek最新资讯240

  Mistral最新模型疑似直接蒸馏自DeepSeek,却对外包装成RL成功案例,并刻意歪曲基准测试结果。

  说到Mistral,这家公司被誉为欧洲版OpenAI,是全球开源明星玩家之一,模型性能一直备受好评。

  结果半年过去,剧情反转:Mistral不仅没跑赢DeepSeek,还被曝“借”了人家的成果。

  就像我们开头提到的,推特博主Sam Peach通过分析模型输出中过度使用的词汇模式(Slop),发现了Mistral-small-3.2与DeepSeek-v3之间令人惊讶的高度相似性。

  这种相似性通常很难通过独立训练偶然出现,所以很可能就是蒸馏(distillation)的结果:

  他先统计了模型在创意写作(creativewriting)的输出中,比人类文本更常出现的词和n-gram(词组)。

  最后把这些高频特征进行层次聚类(hierarchicalclustering),生成了一张“相似性图”。

  通过比较相似性图中模型的远近位置,就可以发现Mistral-small-3.2和DeepSeek-v3在图中非常接近,这就表明了它们的输出模式高度相似。

  最新的爆料则进一步指明,Mistral模型和DeepSeek相似不是巧合,而是可能使用了蒸馏。

  离职员工说,Mistral这样做是在假装自家模型的强化学习有效,这不仅歪曲了基准测试结果,而且误导公众。

  而在上一轮融资中(2024年6月),Mistral完成了一轮由General Catalyst领投的6亿欧元(6.45亿美元)的融资,这使其估值上升至58亿欧元(62亿美元),排名全球第四(美国湾区外排名第一)。

  从公司成立以来,Mistral一直保持开源路线,今年开源的模型就包括轻量级模型Mistral Small和主打编程的Mistral Code等。

  相较于主流的大语言模型,主打开源、小快灵的Mistraldeepseek,在多语言处理和推理能力方面具备相当的竞争力,在大模型市场中占据着独特的地位。

  同时他们也推出了自家聊天机器人LeChat,对标ChatGPT,内置深度研究模式、原生多语言推理和高级图像编辑等功能。

  截至目前,Mistral官方还没有回应,就在昨天他们还发布了新模型Mistral Medium V3.1。原文出处:被曝蒸馏DeepSeek还造假!欧版OpenAI塌方了,感谢原作者,侵权必删!

标签: deepseek

“被曝蒸馏DeepSeek还造假!欧版OpenAI塌方了” 的相关文章

DeepSeek V3.1升级,优化语言一致性等能力

DeepSeek V3.1升级,优化语言一致性等能力

  继此前在今年8月DeepSeek线上大模型升级至V3.1,上下文长度从原有的64k拓展至128k后,日前DeepSeek方面宣布,DeepSeek-V3.1已更新至DeepSeek-V...

《MIT科技评论》“50家聪明公司”发布,Deepseek、游戏科学入选

《MIT科技评论》“50家聪明公司”发布,Deepseek、游戏科学入选

  AI 驱动下药物研发正在将发现周期显著缩短;材料科学在以更高性能和更智能的表现探索新的应用;可复用火箭和卫星数据分析正在解析太空经济潜力的“密码”……昨天(12日),EmTech Ch...

DeepSeek破解GPT5推理机密 奥特曼破大防

DeepSeek破解GPT5推理机密 奥特曼破大防

  【#DeepSeek破解GPT5推理机密# 奥特曼破大防】#AI Deep Talk#当地时间8月7日,OpenAI官方正式推出了备受外界期待的、性能更强的新一代人工智能模型GPT-5...

《财富》发布中国科技50强:华为、DeepSeek入选 小米缺席

《财富》发布中国科技50强:华为、DeepSeek入选 小米缺席

  快科技8月22日消息,《财富》中国科技50强榜单发布,华为、DeepSeek、宁德时代等入选,小米缺席。   除上述三家公司,登上榜单的还有阿里巴巴、腾讯科技、比亚迪...

HLE首次突破60分!Eigen-1基于DeepSeek V3.1领先GPT-5

HLE首次突破60分!Eigen-1基于DeepSeek V3.1领先GPT-5

  就在最近,由耶鲁大学唐相儒、王昱婕,上海交通大学徐望瀚,UCLA万冠呈,牛津大学尹榛菲,Eigen AI金帝、王瀚锐等团队联合开发的   最令人振奋的是,这一成就并非...

DeepSeek预测:西班牙人vs瓦伦西亚!米拉缺阵,鹦鹉军团主场恐遭蝙蝠逆袭?

DeepSeek预测:西班牙人vs瓦伦西亚!米拉缺阵,鹦鹉军团主场恐遭蝙蝠逆袭?

  西甲第6轮即将上演一场欧战资格卡位战,排名第4的西班牙人将在RCDE球场迎战第10的瓦伦西亚。主队目前以3胜1平1负积10分紧咬欧冠区,而客队7分距离欧战区仅2分之差。有趣的是,两队近...