2.8万亿参数
全球首个3万亿级别开源模型
Kimi K3发布!
整套评测展现出前沿水平能力
7月17日, 海淀区人工智能大模型企业月之暗面Kimi正式推出全球首个开源的3万亿级别模型,面向长程编程、知识工作和推理等前沿智能场景设计。这是一个2.8万亿参数模型,原生支持视觉理解,并拥有100万词元上下文窗口,进一步提升了大模型复杂任务的处理能力。
Kimi表示,虽然Kimi K3的整体表现仍落后于美国最强的闭源模型Claude Fable 5和GPT-5.6 Sol,但在整套评测中展现出前沿水平的能力,并稳定超过了其它所有模型。
全球首个2.8万亿参数开源模型
据介绍, 在过去12个月中的9个月里,Kimi模型都保持着开源模型的规模上限。作为全球首个达到2.8万亿参数规模的开源模型,Kimi K3是Kimi持续推进模型规模边界的最新一步。
Kimi K3基于混合线性注意力机制和注意力残差技术构建,共同构成了架构骨架,让信息在更长序列和更深模型中流动得更顺畅,使模型能够扩展到万亿参数以上的规模。Kimi K3也进一步扩大了混合专家模型的稀疏度,结合稳定的潜在专家模型框架后,可以在896个专家中高效激活16个。再加上训练方法和数据配方的优化,让Kimi K3相比K2的整体扩展效率提升约2.5倍,能更有效地把算力转化为能力。
借助带预填充缓存的混合线性注意力机制,即使在大模型规模和长上下文条件下,Kimi也能以很有竞争力的词元价格提供Kimi K3服务。
据介绍,自发布之日起,用户可通过 kimi.com、最新版Kimi手机App、最新版Kimi Work桌面客户端、Kimi Code和Kimi API使用Kimi K3模型。当前默认思考强度为max(极致),后续更新后会增加low和high两种模式。
持续完成长时间工程任务
Kimi K3具备很强的长程编码能力。在极少人工监督的情况下,可以持续完成长时间工程任务,理解和处理大型代码库,并协调使用终端工具。Kimi K3也擅长结合软件工程与视觉推理的任务,能够利用截图和视觉反馈,优化游戏开发、前端和CAD等场景。
Kimi K3如何将编码能力
转化为开放式软件开发和科学研究能力?
Kimi展示了几个案例
在 GPU内核优化测试中,Kimi搭建了一个内核优化竞技场,想看Kimi K3能不能真正把GPU内核从头到尾优化好。在最大思考强度下,Kimi K3的表现接近闭源模型Fable-5(含回退机制),并明显领先闭源模型Opus 4.8、GPT-5.6 Sol和GPT 5.5。
关于 Kimi K3能否从零构建一套GPU编程系统的测试显示,Kimi K3做的不只是生成几个孤立内核,而是搭起了一套真正可用的编译器栈,包括编程抽象、中间表示、优化pass、后端代码生成,以及接入真实训练负载的能力。
在关于 创作数字作品的演示中,Kimi K3融合强大的3D推理、编程与视觉能力,可将概念、图像和视频转化为完全可玩的交互体验。Kimi K3在代码与实时截图之间无缝迭代,实现真正的视觉闭环,即时看见输出,即刻优化。
3D模拟长征十号火箭发射与回收
3D开放世界游戏
在关于 芯片设计的测试中,作为早期概念验证,Kimi K3设计了一款芯片,用于运行一个基于自身架构构建的nano模型。一颗由模型设计、为模型服务的芯片,正是K3长程智能体能力的体现。
视频由接入Blender MCP的Kimi K3模型生成
在 科研编程方面,Kimi K3可以打通科学文献与可执行代码,自主完成复杂计算研究流程的实现、验证和分析。
智能体知识工作能力全面提升
Kimi介绍,Kimi K3推动了端到端知识工作的进展。除了公开的基准测试,Kimi K3(max)在不同生产场景导向的工作流中都表现出一致优势,表明其智能体知识工作能力得到了全面提升。
关于 推理芯片行业的研究,K3覆盖专用集成电路行业42年历史,经过120多轮递归自我改进,将证据转化为定制图表、动画示意图和交互式视觉叙事。整个过程中,完成了2800多次网页搜索与抓取、1100多次终端数据拉取,处理了87份季报和99份原始PDF,合计超过11000页资料。
关于 可控核聚变产业研究,K3制作了一份咨询报告风格的行业研究,包含时间线、树状图、瀑布图、甘特图,以及达到发布质量的演示文稿。
在最新版Kimi Work桌面客户端中,推出了 小组件和看板两个新功能,让用户与Kimi K3的交互更加可视化,也更具持续性。小组件可以在对话中直接生成交互式组件,并连接本地数据或外部插件,实现持续更新。看板则可以把用户最关心的小组件汇总到一个长期保留的个性化视图中,并围绕某个主题、项目或目标进行组织。
源于原生的多模态架构可以在同一个模型中理解文字、图像和视频,Kimi K3擅长动效设计、动画和视频剪辑。Kimi展示了两个案例,一个是K3制作了一支介绍自己架构的动态图形讲解视频,把技术概念转化为动画图示和转场,时长4分半;
另一个是Kimi K3用5、6段原始素材剪出了自己的品牌视频,完成了选片、动作匹配剪辑、逐帧卡点、音频处理,以及多轮修改。像这样信息密度很高的短视频,通常需要有经验的剪辑师花1到2个工作日完成。
月之暗面Kimi是2023年在海淀区成立的人工智能大模型企业。近年来,中国高度重视人工智能发展,推动人工智能综合实力整体性、系统性跃升,并同世界共享发展经验和技术产品。海淀区作为全国人工智能产业高地和创新策源地,尤其重视营造开源开放的人工智能产业发展环境,培育出一批推动模型技术进步的领军企业。
记者:倪恒虎
编辑:李祎乔
来源:北京号
作者: 北京海淀官方发布