Taalas推出客製化AI晶片HC1，速度比現有標準提升十倍

AI硬體新創公司 塔拉斯 推出了HC1，這是一款客製化晶片，旨在以空前的速度運行單一AI模型，可能帶來巨大變革。defi降低人工智慧的經濟性和延遲。該晶片永久嵌入了Meta的 Llama 3.1 將 8B 模型整合到硬體中，繞過通用軟體實現，在 100 毫秒內提供響應，同時消耗傳統系統的一小部分功率和成本。

而 Llama 與前沿模型相比，3.1版本相對較小且略顯過時，但其意義在於底層技術。 Taalas的平台可在數月內重新配置晶片以適應新的AI模型，並計劃在冬季推出更先進、更高密度的方案。這家新創公司的第一代HC1晶片每位用戶每秒可處理約17,000個令牌，速度幾乎是現有標準的十倍，同時將建造成本降低了二十倍，能耗降低了十倍。

Taalas 的方法解決了人工智慧廣泛應用的兩大主要障礙：延遲和營運成本。傳統的人工智慧模型需要大規模基礎設施、大量能源和緩慢的推理速度，這限制了其在需要即時回應的應用（例如智慧體人工智慧和互動式工作流程）中的實際部署。透過將模型硬編碼到專用晶片中並將儲存與運算融合，Taalas 消除了長期以來限制人工智慧效能的瓶頸。

Taalas利用專用晶片和精簡的硬件，提供超快、低成本的AI推理

這家新創公司的設計理念優先考慮完全的模型專用化、簡化硬體堆疊以及將儲存和運算整合到單一晶片上。這種方法使 Taalas 能夠在速度、效率和成本方面實現突破性提升，而無需依賴液冷、高頻寬記憶體或先進封裝等複雜技術。

Taalas成立於兩年半前，目前已發展成為一支由24名經驗豐富的核心工程師組成的精幹團隊，並得到了外部合作夥伴的支持。公司累計融資超過2億美元，其中包括最近一輪的169億美元。 Taalas強調專注和精準的工程技術，而非規模和炒作。

展望未來，Taalas計劃擴展其產品線，預計將於今年春季推出一款中型推理模型，並於今年稍後推出基於其第二代晶片平台（HC2）的前沿LLM模型。該公司旨在將超低成本、亞毫秒級AI推理技術交付給開發者，使以往因延遲和成本問題而難以實現的應用成為可能。