Boundless 擴展分散式 GPU 運算網路以支援 AI 推理工作負載

Boundless 該公司宣布進軍人工智慧領域，計劃部署其分散式GPU網絡，以支援日益增長的AI推理需求。此舉擴展了該公司現有的基礎設施，該基礎設施最初是為加密貨幣行業的零知識（ZK）證明工作負載而開發的。

「四年前，我們著手解決一個棘手的計算難題，」Boundless 首席執行官 Shiv Shankar 表示，「在此過程中，我們構建了一個規模更大的系統：一個用於協調分佈式 GPU 容量的網絡。如今，人工智能需要同樣的架構，但規模要大得多。開放模型讓團隊能夠更好地掌控他們的構建，但生產級推理仍然受到成本、質量和推理的限制。

該公司的零知識證明網路旨在協調分散式GPU資源、調度運算密集型任務，並維持多台機器的高效運作。 Boundless表示，隨著各組織擴大人工智慧應用的部署，目前正在對同一基礎設施進行調整，以滿足日益增長的人工智慧推理需求。

據該公司稱，人工智慧推理正成為運算需求的重要驅動力，基礎設施成本也日益成為重要的考量。 Boundless引述Gartner的數據指出，預計到2026年，人工智慧優化型基礎設施即服務（IaaS）支出的55%將用於推理，到2029年這一比例將超過65%。

Boundless 將 GPU 網路重新用於 AI 推理

Boundless公司指出，許多人工智慧推理工作負載並不需要高階資料中心GPU，而是可以在成本更低的硬體上高效運行，包括消費級圖形處理器以及最初為加密貨幣挖礦和零知識證明等計算密集型應用而購買的GPU。該公司表示，其目標是透過整合硬體、軟體和推理服務系統，來識別並優化這些未充分利用的運算能力。

該公司目前經營著一個由約 4,000 個 GPU 組成的分散式網絡，該網絡最初是為零知識證明而開發的。作為其人工智慧策略的一部分，Boundless 正在優化該網絡，以提供託管推理基礎設施，包括硬體優化、工作負載自適應、路由、批次、調度、監控和維運支援。

Boundless公司報告稱，早期基準測試表明，與超大規模雲端供應商相比，推理成本最多可降低50%，而非同步工作負載的節省潛力預計最大。該公司還計劃將其原生代幣ZKC整合到人工智慧網路中，營運商需要質押該代幣才能參與，質押水平與收益掛鉤。

Boundless公司表示，此次擴展旨在協助企業以更低的運算成本部署人工智慧推理工作負載。向人工智慧基礎設施的過渡已於今日宣布，而完整的產品發布計劃於今年夏季晚些時候進行。該公司還補充說，將繼續運營其零知識證明網路以及人工智慧推理服務。