当地时间10月15日,Meta正式对外发布Muse Spark Open开放权重AI模型。按照Meta官方的表述,这款产品是目前美国地区能力最强的开放权重模型。

模型采用原生多模态架构,整体总参数量达到816B,单次token推理激活参数为42B,最高支持1Mtoken的上下文窗口。产品定位面向代码开发与智能体协作场景,在长时间任务处理、复杂软件工程开发、多步骤逻辑推理等场景表现突出。

桌面端本地部署迎来突破,Mac硬件可直接承载

依托最新的MLX框架优化,Muse Spark Open实现了一项很受开发者关注的能力。在同级别大模型当中,它是第一款仅依靠两台搭载M5Ultra芯片、512GB内存版本的Mac Studio设备,就能在桌面环境完成本地运行的模型。

以往这类超大参数量模型,大多只能在大型数据中心集群运行,普通开发者很难在本地设备上开展测试调试。而Muse Spark Open的落地方案,让具备高性能Mac工作站的技术团队,拥有了本地私有化运行超大模型的可能性。

多渠道开放调用与权重下载,覆盖主流云平台

新版本上线之后,开发者拥有多种途径使用Muse Spark Open。开发者可以通过Baseten、FireworksAI、Groq、Modal、Nebius、Open Router以及Together AI等API服务商,直接调用模型能力。

模型权重文件也同步上架多个平台,包括Amazon Sage Maker AI、Google Cloud Model Garden、HuggingFace与Microsoft Foundry Models,开发者可以按需下载完整权重文件,在自有环境部署。

广泛兼容推理引擎,适配多种硬件芯片

Muse Spark Open已经完成大量适配工作,兼容SGLang、vLLM、Tensor RT-LLM、Hugging Face Transformers、Apple MLX、llama.cpp和Unsloth等当下主流推理引擎。

研发团队针对AMD、苹果、英特尔以及英伟达系列芯片做了深度调优,适配不同硬件生态。开发者如果有二次开发需求,也可以基于PyTorch框架,快速完成模型定制、微调与业务改造。

强化安全对齐,商用授权降低使用门槛

在模型训练的后训练环节,研发团队重点强化安全对齐能力。一系列基准测试结果显示,在全部被测试的风险维度中,该模型都具备完善的安全防护机制,减少各类有害输出风险。

本次开放的模型权重,采用附带限制性商用条款的Muse Model License协议发布。按照协议规则,绝大多数开发者都可以免费获取模型权重并投入使用,降低中小企业和独立开发者尝试大模型智能体、代码开发应用的准入门槛。

面向智能体与代码场景,丰富开发者选择

纵观当前开放权重模型赛道,多数模型偏向通用对话场景。Muse Spark Open的设计重心放在代码工程与多步骤智能体任务,超大上下文窗口可以一次性读入完整项目代码、长文档资料,支持智能体持续完成多轮复杂任务。

跨平台部署能力,搭配API在线调用、本地权重下载两种模式,给开发者提供灵活选择。无论是云端对外提供服务,还是本地私有化部署、离线开发,都可以找到对应的落地方式。随着这类模型陆续开放,开发者搭建自主可控的AI智能体、代码助手的空间,也得到进一步拓展。

(素材来自:Meta 智算芯能前沿网综合)

本文由智算芯能前沿网编辑整理,转载请注明出处。