DeepSeek上新!开源发布DeepSeek-Prover-V2-671B新模型

快科技4月30日消息,今日,DeepSeek 今日在 AI 开源社区 Hugging Face 发布了一个名为 DeepSeek-Prover-V2-671B 的新模型

据介绍,DeepSeek-Prover-V2-671B 其参数量达到6710亿,使用了更高效的 safetensors 文件格式,并支持 BF16、FP8、F32 等多种计算精度,方便模型更快、更省资源地训练和部署。

在模型架构上,该模型使用了DeepSeek-V3架构,采用MoE(混合专家)模式,具有61层Transformer层,7168维隐藏层。同时支持超长上下文,最大位置嵌入达163840,使其能处理复杂的数学证明,并且采用了FP8量化,可通过量化技术减小模型大小,提高推理效率。

有网友分析,该模型被视为 Prover-V1.5的升级版,专注于形式化定理证明,专门用于攻克数学难题,擅长自动证明定理和复杂计算,类似于 AlphaGo 在围棋中的自我对弈方式。

接下来它的性能测试表现会如何,值得期待。

【本文结束】如需转载请务必注明出处:快科技

文章内容举报

赞(0) 打赏
未经允许不得转载:donews官方支持 » DeepSeek上新!开源发布DeepSeek-Prover-V2-671B新模型

评论 抢沙发

更好的WordPress主题

支持快讯、专题、百度收录推送、人机验证、多级分类筛选器,适用于垂直站点、科技博客、个人站,扁平化设计、简洁白色、超多功能配置、会员中心、直达链接、文章图片弹窗、自动缩略图等...

联系我们联系我们

觉得文章有用就打赏一下文章作者

非常感谢你的打赏,我们将继续提供更多优质内容,让我们一起创建更加美好的网络世界!

支付宝扫一扫

微信扫一扫

登录

找回密码

注册