IBM宣布与Together AI合作,共同提供IBM和Nvidia的AI基础设施。根据IBM与Together AI之间一项为期2.4亿美元的多年协议,IBM有望在IBM云上部署大量Nvidia HGX B300系统,预计于2027年第一季度上线。![]()
将共同利用该集群提供开源模型推断。此次部署是首个专门为推理在IBM Cloud上构建的大型集群,采用HGX B300系统和Nvidia Spectrum-X以太网网络。据英伟达称,它的设计目标是生产比前几代更多的30倍AI工厂产出。
此次合作旨在使Together AI能够为企业提供更优的性能和代币经济效益,帮助企业高效扩展AI部署。Together AI基于这样一个原则:开源模型对AI的未来至关重要,开发者应能够使用开放的模块化堆栈进行构建。公司最近以83亿美元估值完成了一轮8亿美元的C轮融资,以扩展其AI原生云,其平台涵盖推理、训练、微调和代理工作流程等多个能力。公司报告称,其推理产品已显著增长,目前每月服务400万亿个代币。
Together AI最终选择IBM与英伟达,是因为他们创新的产品路线图以及能够以快速AI扩展和最低代币成本的速度交付GPU容量。基于IBM在企业级云能力方面的专业知识,此次合作旨在帮助Together AI继续拓展企业领域,同时让开源AI对全球开发者和企业更易获得。
“企业希望拥有最佳前沿模型的性能,但不愿承担封闭式模型的价格,而这只有在基础设施在大规模下快速且可靠时才行得通,”Together AI首席执行官Vipul Ved Prakash表示。“与IBM及英伟达合作为我们奠定了基础。这个集群让我们更快地将生产级推理带给更多公司,这也是我们推动开源人工智能成为企业首选的重要一步。”
IBM与英伟达扩大合作,推动下一波AI创新
“企业正竞相大规模采用代理型人工智能,以推动真正的业务成果,”IBM Cloud总经理Alan Peacock表示。“IBM和英伟达正在提供可扩展、经济、企业级的AI基础设施,帮助Together AI加速创新,打造下一代AI基础设施。”
“人工智能工厂正成为企业基础设施——如电力和电信——将计算和数据转化为智能,”英伟达高性能计算与人工智能基础设施解决方案高级总监迪昂·哈里斯表示。“借助Nvidia HGX B300系统和Nvidia Spectrum-X以太网网络,IBM和Together AI将提供一个加速计算平台,帮助企业部署开源AI,实现实现实时AI服务所需的性能、效率和规模。”
这项工作是IBM与英伟达之间更大规模合作的最新例子,双方持续携手推动跨基础设施和软件领域的人工智能发展,为企业和初创客户提供性能与效率。IBM 云上的混合环境由 Nvidia GPU 驱动,连接 Nvidia Spectrum-X、以太网网络和 Together AI 推理平台,为组织构建、部署和扩展 AI 系统提供了可靠的基础。此外,IBM和英伟达最近宣布在GPU原生数据分析、非结构化数据提取、本地和云基础设施以及咨询服务方面取得了进展。这些进步旨在帮助组织大规模实施人工智能。