
快科技7月28日消息,日前,月之暗面正式发布Kimi K3模型权重及技术报告,并同步开源支撑该模型训练的三项关键基础设施技术:MoonEP、FlashKDA和AgentEnv。
据介绍,三项技术在Kimi K3的训练过程中发挥了重要作用,为大规模模型训练的效率、稳定性以及智能体任务执行提供基础支撑。
据了解,Kimi K3是月之暗面目前能力最强的模型,该模型采用混合专家(MoE)架构,总参数规模达到2.8万亿,具备原生视觉理解能力,并支持最长100万token上下文窗口。
其中,AgentEnv是月之暗面与KVCache.ai联合开发的智能体沙箱系统,主要用于大规模运行Agent环境。
该系统可为Kimi K3后训练提供高保真、强隔离的运行环境,并支持快速快照、恢复及分叉等功能,满足大规模并行智能体工作流和训练任务的需求。
Kimi K3于7月17日正式发布,主要面向长程编程、知识工作及复杂推理等场景。
该模型是目前参数规模最大的开源模型,发布后迅速引发国内外AI行业关注。
特斯拉CEO埃隆·马斯克也在相关评测报道的评论区留言,评价其”令人印象深刻”。
发布数小时后,Kimi K3登顶AI代码工具评测榜单Arena,成为首个获得该榜单第一名的中国大模型。
该榜单运营负责人安杰洛普洛斯表示,Kimi K3的发布可能将倒逼投资者重新审视整个AI行业,并引发资本市场重新洗牌。
此次开放模型权重、技术报告及训练基础设施,意味着月之暗面不再只开放模型本身,而是进一步向开发者和研究机构展示大模型训练及智能体后训练体系。
相关技术的持续开源,有望降低超大规模模型研究和智能体应用开发的门槛,并推动国产开源模型生态从模型能力竞争,进一步延伸至底层工程能力和工具链竞争。