月之暗面发布Kimi K3:2.8万亿参数模型即将开源
新浪科技讯 7月17日晨间消息,月之暗面于今日凌晨正式发布Kimi K3,声称这是公司迄今为止性能最强大的模型。据介绍,Kimi K3拥有2.8万亿参数,采用KDA混合线性注意力机制(Kimi Delta Attention)与注意力残差(Attention Residuals)技术,原生具备视觉理解能力,并支持100万token的上下文窗口。 Kimi K3属于开源模型,专为长程编程、知识工作和推理等前沿智能场景打造。月之暗面表示,尽管Kimi K3的整体性能仍不及最强的闭源模型Claude Fable