月之暗面Kimi K3.1 Pro开放权重,同步推出托管智能体服务

澎湃新闻记者 范佳来
来源:澎湃新闻

“已发布Kimi K3.1 Pro的模型权重。我们将持续推进优化开放智能。”

北京时间11月5日凌晨,月之暗面(Moonshot AI)宣布正式对外放出Kimi K3.1 Pro完整模型权重,并在海外技术社区引发热烈讨论,英伟达AI官方账号公开发文送上祝贺。

开放完整模型权重意味着,开发者和企业不再只能通过API接口调用模型,还可以直接下载模型权重,在具备相应算力条件的情况下自行部署和运行,并根据实际需求进行优化和定制。

据官方介绍,Kimi K3.1 Pro属于3T级开放权重模型,采用MoE混合专家架构,总参数规模2.8万亿,单次推理活跃参数1040亿,具备100万token超长上下文窗口,原生支持多模态视觉理解。该模型在原有K3基座之上,依靠大规模跨领域联合强化学习完成能力迭代,并非从零训练的全新基座。

5日,月之暗面还宣布推出Kimi Hosted Agents(托管智能体)服务,将支撑AI智能体(Agent)运行的Harness框架作为云端服务提供给企业和开发者。企业无需自行搭建和维护底层运行框架,即可获得7×24小时托管运行环境,支持长时间复杂任务执行及多智能体协作。

据介绍,Kimi Hosted Agents主要面向两类应用场景:一是集成到企业内部系统,承担业务监控、运维响应等工作;二是嵌入企业面向用户的产品,提供投研助手、智能客服等服务。

在传统开发模式下,企业要让AI智能体稳定运行,通常需要自行搭建代码执行环境,并解决上下文管理、工具调用、权限控制、任务中断恢复等问题。Kimi表示,企业构建一套可靠的Harness基础设施可能需要数月时间,后续还需持续投入维护成本。

Kimi Hosted Agents将上述能力封装为托管服务,企业只需定义任务、配置智能体并接入业务工具,底层运行环境的维护和升级由Kimi负责,以缩短AI智能体从原型开发到实际部署的周期。

生态落地层面,多家算力厂商完成适配。在Kimi K3.1 Pro权重正式发布的同一天,昇腾宣布实现0Day推理适配。依托vLLM Ascend、SGLang 推理框架,该模型可直接在昇腾Atlas系列硬件上开展部署验证。针对模型百万token超长上下文、超大MoE架构的特点,通过缓存、量化等优化手段,缓解大模型对显存资源的高要求,为国内企业本地化部署提供硬件生态支撑。

值得注意的是,本次开放模型权重不等同于OSI定义下的传统开源,训练代码、原始训练数据集并未对外公开,商用使用需要遵循月之暗面自定义的许可协议。虽然企业拿到权重后,可实现本地部署、数据不出域、开展行业二次微调,但2.8万亿级别的超大MoE模型本身仍具备较高的硬件部署门槛。

业内分析认为,Kimi K3.1 Pro进一步缩小开放权重方案与全球顶级闭源模型的性能鸿沟,有望为研发制造、工业设计、金融研究等领域带来新的工具选择。

    责任编辑:李跃群
    图片编辑:沈轲
    校对:丁晓