芯片创企Etched获10亿美元订单，剑指英伟达AI推理霸主地位

芯片初创公司Etched声称已收到超过10亿美元的硬件订单，这些硬件专门用于运行已完成训练的AI模型。AI模型运行过程称为推理，已成为企业使用AI成本最高的环节之一。Etched认为其芯片技术能比英伟达的通用GPU更快、更便宜、更节能地完成推理任务。

该公司在公布订单的同时，披露其估值为50亿美元。据TechCrunch报道，Etched的首款芯片已由台积电（TSMC）制造。如果芯片性能达到预期，部分流向英伟达的资金将转移，从而改变前沿AI模型的部署经济学。

Etched联合创始人兼CEO Gavin Uberti表示：“AI发展已到临界点，专用芯片超越通用GPU不可避免，全球技术决策者深知这一点。”与训练阶段不同，推理发生在用户输入提示时。目前，大型语言模型在推理过程中需要查找权重并更新键值（KV）缓存，随着上下文窗口增大，内存容量和带宽的重要性凸显。因此，市场对专为推理设计的芯片需求旺盛，而非能处理更重负载的GPU。

一篇2024年7月发表的论文指出，主流GPU可被描述为“计算重、容量轻”，高算力与低内存组合导致推理时部分计算单元闲置等待数据，这为专门优化内存而非算术效率的硬件创造了机会。

Etched的产品

Etched不销售独立芯片，而是提供“前沿推理集群”，即包含定制硅、网络单元和软件的系统组合。该公司声称已从英伟达、谷歌TPU团队、博通、SK海力士和台积电招募了400多名工程师。

Etched将预期性能提升归功于两项专有技术：低电压推理（LVI）技术使计算模块在低电压下连续运行，减少发热；集群规模内存（CSM）技术将芯片置于低延迟存储系统中，消除长上下文推理和KV缓存增长问题。不过，这些技术尚未得到独立验证，Etched表示将在今年夏天晚些时候首批产品机架发货后公布部分基准测试结果和技术细节。

从濒临破产到明星初创

据TechCrunch报道，Etched迄今已融资约8亿美元，包括去年12月完成的5亿美元融资，投后估值50亿美元。Stripes领投，Jane Street、Hudson River Trading、Two Sigma、Ribbit Capital和VentureTech Alliance参投。其投资者名单还包括知名AI研究员Andrej Karpathy、Geoffrey Hinton、李飞飞、Arthur Mensch和Scott Wu，以及Stanley Druckenmiller和Peter Thiel。

这家初创公司成立于2022年，由哈佛辍学生、Thiel Fellows Robert Wachen和Gavin Uberti创立。2023年大部分时间难以吸引投资者，几乎被所有机构拒绝，直到2024年才获得超1.25亿美元融资。

日益激烈的竞争

Etched进入的市场已相当拥挤。Cerebras今年进行了备受关注的AI芯片IPO，Groq近期完成6.5亿美元融资，亚马逊、谷歌和微软也在自研AI芯片。OpenAI已聘请博通制造定制芯片，表明推理市场已足以容纳英伟达之外的玩家。然而，制造工艺仍是瓶颈。先进封装技术，尤其是台积电的CoWoS（将处理器与高带宽内存连接），已成为行业最大障碍之一。AI晶圆需求预计从2022年到2026年增长近11倍，而台积电占据纯代工市场约72%份额。Etched使用台积电N4P工艺，将与英伟达、AMD等AI芯片制造商竞争相同制造资源。

目前焦点在于执行。据报道，生产已开始，首批推理机架将在未来几个月发货，以完成约10亿美元的销售订单。硬件能否兑现公司承诺的性能提升，需待客户到手后独立验证。暂时而言，LVI和CSM仍属承诺而非确证。若结果成真，这家初创公司有望成为英伟达在AI推理领域最强劲的竞争对手之一。