当前位置:首页 > Deepseek最新资讯 > 正文内容

被曝蒸馏DeepSeek还造假!欧版OpenAI塌方了

3小时前Deepseek最新资讯10

  Mistral最新模型疑似直接蒸馏自DeepSeek,却对外包装成RL成功案例,并刻意歪曲基准测试结果。

  说到Mistral,这家公司被誉为欧洲版OpenAI,是全球开源明星玩家之一,模型性能一直备受好评。

  结果半年过去,剧情反转:Mistral不仅没跑赢DeepSeek,还被曝“借”了人家的成果。

  就像我们开头提到的,推特博主Sam Peach通过分析模型输出中过度使用的词汇模式(Slop),发现了Mistral-small-3.2与DeepSeek-v3之间令人惊讶的高度相似性。

  这种相似性通常很难通过独立训练偶然出现,所以很可能就是蒸馏(distillation)的结果:

  他先统计了模型在创意写作(creativewriting)的输出中,比人类文本更常出现的词和n-gram(词组)。

  最后把这些高频特征进行层次聚类(hierarchicalclustering),生成了一张“相似性图”。

  通过比较相似性图中模型的远近位置,就可以发现Mistral-small-3.2和DeepSeek-v3在图中非常接近,这就表明了它们的输出模式高度相似。

  最新的爆料则进一步指明,Mistral模型和DeepSeek相似不是巧合,而是可能使用了蒸馏。

  离职员工说,Mistral这样做是在假装自家模型的强化学习有效,这不仅歪曲了基准测试结果,而且误导公众。

  而在上一轮融资中(2024年6月),Mistral完成了一轮由General Catalyst领投的6亿欧元(6.45亿美元)的融资,这使其估值上升至58亿欧元(62亿美元),排名全球第四(美国湾区外排名第一)。

  从公司成立以来,Mistral一直保持开源路线,今年开源的模型就包括轻量级模型Mistral Small和主打编程的Mistral Code等。

  相较于主流的大语言模型,主打开源、小快灵的Mistraldeepseek,在多语言处理和推理能力方面具备相当的竞争力,在大模型市场中占据着独特的地位。

  同时他们也推出了自家聊天机器人LeChat,对标ChatGPT,内置深度研究模式、原生多语言推理和高级图像编辑等功能。

  截至目前,Mistral官方还没有回应,就在昨天他们还发布了新模型Mistral Medium V3.1。原文出处:被曝蒸馏DeepSeek还造假!欧版OpenAI塌方了,感谢原作者,侵权必删!

标签: deepseek

“被曝蒸馏DeepSeek还造假!欧版OpenAI塌方了” 的相关文章

146 万、丹东市公安局 DeepSeek 70B 部署大单

146 万、丹东市公安局 DeepSeek 70B 部署大单

  根据工作需要及建设符合相关数据安全要求。丹东市公安局拟采购 2 套适合中(小)场景应用的 DeepSeek 70B 运行环境。...

黑神话悟空再次登上新闻联播,和DeepSeek一起被点名表扬

黑神话悟空再次登上新闻联播,和DeepSeek一起被点名表扬

  黑神话悟空再次登上新闻联播,和DeepSeek一起被点名表扬,近日,《黑神话:悟空》再次登上中央广播电视总台《新闻联播》的官方抖音号,并受到主持人严於信的特别提及。...

米兰体育报:邓弗里斯的解约条款今日到期,没有球队报价,他将留在国际米兰。

米兰体育报:邓弗里斯的解约条款今日到期,没有球队报价,他将留在国际米兰。

  这几年转会市场越来越怪,豪门只买小年轻,德转和年龄挂钩比例太大,不过随着大巴黎的夺冠,好像也没什么问题   这几年转会市场越来越怪,豪门只买小年轻...

以新发展理念为指引 加快构建新发展格局——习近平总书记引领中国经济高质量发展

以新发展理念为指引 加快构建新发展格局——习近平总书记引领中国经济高质量发展

  “完整准确全面贯彻新发展理念,加快构建新发展格局”,7月23日,习近平总书记主持党外人士座谈会时强调。   决胜“十四五”、谋划“十五五”的关键时刻,7月30日,中共...

第一次听说2017联合会杯智利是小组出局

第一次听说2017联合会杯智利是小组出局

  你说的这个情况,近十年只有意大利输给阿根廷那次。意大利当时都啥样了,就同一年也输了德国 2-5,输了北马其顿和奥地利。世界杯都没进去。输阿根廷不正常吗?   智利15...

IDC最新报告:百度AI搜索登顶国内最佳通用AI搜索

IDC最新报告:百度AI搜索登顶国内最佳通用AI搜索

  也是中方相应环球南方呼声、助力弥合数字和智能鸿沟、匆匆进人工智能向善普惠成长的实际行径。星火·政务底座可实现政务常识问答、案牍天生、表格智能阐发等场景化使用,人工智能在带来前所未有机遇...