Kimi开源万亿参数模型K2,性能超全球主流开源模型

36氪获悉,月之暗面Kimi发布MoE架构基础模型K2并同步开源,总参数1T,激活参数32B,在自主编程、工具调用、数学推理等领域超越全球其他开源模型。Kimi K2使用MuonClip优化器实现万亿参数模型的高效训练,在高质量数据遇到瓶颈的背景下通过提升Token效率,找到新的预训练扩展空间。K2具备更强代码能力,擅长通用Agent任务,在多个实际场景中展现出更强的能力泛化及实用性,新模型目前已上线开放体验。

赞(0) 打赏
未经允许不得转载:donews官方支持 » Kimi开源万亿参数模型K2,性能超全球主流开源模型

评论 抢沙发

更好的WordPress主题

支持快讯、专题、百度收录推送、人机验证、多级分类筛选器,适用于垂直站点、科技博客、个人站,扁平化设计、简洁白色、超多功能配置、会员中心、直达链接、文章图片弹窗、自动缩略图等...

联系我们联系我们

觉得文章有用就打赏一下文章作者

非常感谢你的打赏,我们将继续提供更多优质内容,让我们一起创建更加美好的网络世界!

支付宝扫一扫

微信扫一扫

登录

找回密码

注册