IBM豪掷2.4亿美元,联手Together AI共建Nvidia推理集群

IBM与Together AI达成一项为期多年、总额2.4亿美元的协议,将在IBM Cloud上部署由Nvidia HGX B300组成的专用推理集群,预计2027年第一季度上线。该集群将为Together AI每月400万亿token的推理服务提供算力,助力开源AI在企业市场扩展。

IBM与Together AI达成一项为期多年、总价值2.4亿美元的协议,将在IBM Cloud上部署一套专属的Nvidia推理集群。双方于周二宣布这一合作,为这家开源AI提供商提供大规模企业级GPU算力,以支持其向大型企业客户扩展。

根据协议,IBM将在IBM Cloud内部署大规模Nvidia HGX B300系统集群,硬件预计于2027年第一季度上线。Together AI将利用该算力为开源模型提供推理服务。IBM称,这是IBM Cloud上首个围绕B300构建的专用推理集群,并采用Nvidia Spectrum-X以太网网络。Nvidia表示,该配置相比上一代可产生30倍的“AI工厂产出”,但这一说法尚未得到独立验证。

Together AI最近完成8亿美元C轮融资,估值达83亿美元,用于扩展其所谓的AI Native Cloud。这家成立于2022年的公司向希望在开放模块化AI堆栈(而非封闭模型)上构建应用的企业出租云基础设施。IBM在新闻稿中还提到,Together AI每月通过其推理产品处理400万亿token,并为超过100万开发者提供支持。

Together AI CEO Vipul Ved Prakash表示,这项交易将帮助公司在不要求客户支付前沿模型价格的情况下触达更多客户。“企业希望获得最佳前沿模型的性能,又不愿接受封闭模型的价格标签,而这只有在底层基础设施大规模、快速且可靠的情况下才能实现。”他表示,该集群是“推动开源AI成为企业显而易见选择的重大一步”。

对IBM而言,这笔交易是其与Nvidia持续深化合作的最新动向。IBM Cloud总经理Alan Peacock表示,此次部署与企业对代理式AI的需求相关,IBM与Nvidia正“提供可扩展、经济高效的企业级AI基础设施”,帮助Together AI加速发展。Nvidia HPC和AI基础设施高级总监Dion Harris将AI工厂描述为正在变得像电力和电信一样基本的基础设施。

此外,IBM表示两家公司还在GPU原生数据分析和非结构化数据提取方面展开合作,并计划将Together AI集群定位为向大型企业和初创企业销售AI算力战略的重要组成部分。

免责声明:本文提供的信息不是交易建议。BlockWeeks.com不对根据本文提供的信息所做的任何投资承担责任。我们强烈建议在做出任何投资决策之前进行独立研究或咨询合格的专业人士。

(0)
区块链小猫的头像区块链小猫作者
上一篇 5小时前
下一篇 3小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部