7月27日晚,月之暗面官方正式开源KimiK3模型。官方发布了KimiK3的模型权重、技术报告,并开源支撑KimiK3模型训练的关键Infra技术:MoonEP、FlashKDA和AgentEnv。
官方表示,KimiK3是首个达到2.8万亿参数规模的开源模型,在过去12个月中的9个月里,Kimi模型都保持着开源模型的规模上限。
Kimi还进一步扩大了MixtureofExperts(MoE)的稀疏度:结合StableLatentMoE框架后,模型可以在896个专家中高效激活16个。再加上训练方法和数据配方的优化,这些结构性改进让KimiK3相比K2的整体扩展效率提升约2.5倍,能更有效地把算力转化为能力。
开源消息发布后仅仅30分钟,全球知名人工智能开源平台抱抱脸公司HuggingFace上的点赞就超过4000,登顶趋势榜。HuggingFace的CEO亲自发文说,这是该平台史上最快的模型发布增长速度。上线前半小时,就有近3700名开发者蹲在页面前等着下载。
此前报道>>>
7月17日凌晨,月之暗面推出了目前全球参数最大的开源模型新一代模型KimiK3。商业化方面,据月之暗面总裁张予彤7月18日在社交媒体披露,K3模型发布后企业ARR(年度经常性收入)有了数倍的快速增长。记者此前获悉,6月中旬该企业ARR突破3亿美元。
7月19日,月之暗面Kimi发布通知,决定即日起,暂停C端新用户订阅,将已有算力全部投入于服务已订阅用户,保障已订阅用户的全部权益不受影响。同时,其已在全速推进算力扩容。随着新算力陆续到位,将逐步开放更多订阅名额直至全面恢复正常订阅。对于后续新订阅用户,将拆分Kimi主权益和KimiCode权益,以方便更精准匹配算力,保障用户体验。
7月19日,据市场知情人士向记者透露,头部大模型企业月之暗面已向投资人发送上市议案,预计最快6个月内有望完成港股上市。