2.8万亿参数!月之暗面正式开源Kimi_K3模型

作者:袖梨 2026-07-31

【PHP中文网快讯】7月27日晚,月之暗面正式对外开源Kimi K3大模型,同步公开了模型权重、技术白皮书,以及支撑Kimi K3训练的核心基础设施技术:MoonEP、FlashKDA与AgentEnv。

7月16日,月之暗面在WAIC 2026召开前夕正式推出全新一代大模型Kimi K3(相关详情可参见PHP中文网此前报道:《月之暗面发布全球首个3万亿级开源大模型Kimi K3》)。据官方披露,Kimi K3是当前全球首个参数量突破2.8万亿的开源大模型,其参数规模约为Kimi K2.5的三倍,原生支持多模态视觉理解能力,并具备长达100万token的超长上下文窗口。在过去一年中,Kimi系列模型有九个月稳居全球开源模型参数规模榜首。

官方表示,Kimi K3是迄今为止月之暗面研发能力最强的开源模型。该模型进一步优化了MoE(Mixture of Experts)稀疏激活机制,采用Stable LatentMoE架构,可在总计896个专家模块中动态选取16个参与前向推理与反向更新。结合创新训练范式及高质量数据集重构策略,相较上一代K2模型,整体算力扩展效率提升约2.5倍,显著提升了硬件资源的实际利用效能。

相关文章

精彩推荐