為什麼 NanoGPT 的速通挑戰到現在還不是完全由 AI 自動化研究的呢？

我們正在打造一款 LLM 晶片，提供比任何其他晶片更高的吞吐量，同時實現最低的延遲。我們稱之為 MatX One。 MatX One 晶片基於可分割的脈衝陣列，擁有大型脈衝陣列所著名的能量和面積效率，同時在具有靈活形狀的小型矩陣上也能實現高利用率。該晶片結合了 SRAM 首先設計的低延遲和 HBM 的長上下文支持。這些元素，加上對數字的全新看法，提供了比任何已宣布的系統更高的 LLM 吞吐量，同時匹配 SRAM 首先設計的延遲。更高的吞吐量和更低的延遲為您的訂閱費用提供了更智能、更快速的模型。 我們已經籌集了 5 億美元的 B 輪融資，以完成開發並迅速擴大生產，預計在一年內完成晶片流片。這輪融資由 Jane Street 領投，這是一家最具科技敏感度的華爾街公司，還有 Situational Awareness LP，其創始人 @leopoldasch 撰寫了關於 AGI 的權威備忘錄。參與者包括 @sparkcapital、@danielgross 和 @natfriedman 的基金、@patrickc 和 @collision、@TriatomicCap、@HarpoonVentures、@karpathy、@dwarkesh_sp 等。我們也歡迎來自供應鏈的投資者，包括 Marvell 和 Alchip。 @MikeGunter_ 和我創立 MatX，因為我們認為最適合 LLM 的晶片應該從基本原則出發，深入了解 LLM 的需求及其演變。我們願意放棄小型模型性能、低容量工作負載，甚至編程的便利性，以實現這樣的晶片。 我們現在是一支 100 人的團隊，成員們思考的範疇從學習率計劃、Swing Modulo Scheduling、保護/圓形/粘性位元到盲配連接，所有人都在同一棟大樓內。如果您想幫助我們架構、設計和部署多代晶片的大規模生產，考慮加入我們。