品玩8月12日讯,据 PRNews 报道,IBM宣布与Together AI达成一项为期多年、价值2.4亿美元的合作协议,旨在通过部署NVIDIA AI基础设施,扩展开源AI推理服务。
根据协议,IBM将在其云上部署一个由NVIDIA HGX B300系统组成的大型集群,预计于2027年第一季度投入使用。Together AI将利用该集群提供开源模型推理服务。该集群是IBM云上首个专为推理构建的大规模集群,采用NVIDIA HGX B300系统和NVIDIA Spectrum-X以太网网络,旨在提供比前代产品高30倍的AI工厂产出。
Together AI首席执行官Vipul Ved Prakash表示,此次合作将为其提供快速可靠的基础设施,以更快的速度向更多公司提供生产级推理服务。IBM云总经理Alan Peacock称,双方正交付可扩展、经济的企业级AI基础设施。NVIDIA方面表示,该合作将助力企业在实时AI服务中部署开源AI。