LLM：GPU，還是ASIC？ - asiasworldcity.hk

「香港飛龍」標誌

本文内容：

如果您希望可以時常見面，歡迎標星收藏哦~來源：內容編譯自semiengineering ，謝謝。OpenAI、Anthropic 和 xAI 的首席執行官有着驚人相似的願景——人工智能的進步是指數級的，它將改變人類，其影響將超出大多數人的預期。這不僅僅是猜測。人工智能的市場及其價值如今已是真實存在的：1、使用 GitHub CoPilot 的人類開發人員藉助 AI 可將編碼速度提高 55%。2、GPT-4 在 LSAT 考試中的得分爲 88%，而普通人的得分爲 50%。3我個人正在使用 ChatGPT 進行西班牙語會話練習和語法練習2025 年，OpenAI 的大模型收入將達到約 100 億美元，Anthropic 的大模型收入將達到 20 億至 40 億美元。四年前，GPT-2 提供的是學齡前兒童的智力。GPT-4 就像一箇聰明的高中生。到2028年左右，大模型（LLM）將提供博士級別的智力。到2030年代，法學碩士的智商將超越人類。人工智能的經濟效益也在不斷提升。特定模型的成本每年下降4倍（Anthropic）到10倍（OpenAI）。這是計算能力和算法改進的共同作用。這意味着到2030年，當今模型的運行成本將降至千分之一到十萬分之一。有五家以上的公司有能力和資本做到這一點，其中包括亞馬遜、谷歌、微軟等巨頭。像 OpenAI 和 Anthropic 這樣的初創公司，目前的市值都在 1000 億美元左右，如果它們能夠實現目標，市值將達到 1 萬億美元。大模型項目獲勝者將成爲首家市值 10 萬億美元的公司。它們的成功將給半導體、封裝、數據中心、冷卻和電力領域的增長和產能帶來巨大壓力。到2030年，半導體收入將主要來自人工智能/高性能計算。GPU vs ASIC？是的：超大規模企業需要更多選擇如今，數據中心 AI 加速器 90% 以上都是 NVIDIA GPU，還有一些 AMD GPU，其餘的是定製 ASIC（主要是亞馬遜）。NVIDIA 是唯一一家提供全套解決方案的廠商——涵蓋 GPU、NVlink 網絡、機架、系統和軟件。在 NVIDIA 這一領域，想要匹敵甚至擊敗 NVIDIA 非常困難。該公司的年營收高達 1600 億美元。NVIDIA 有 3 或 4 個客戶購買其超過 10% 的產量，每家客戶每年的購買量接近 200 億美元。但AMD的GPU路線圖正在追趕NVIDIA。其M350將在2025年下半年與Blackwell架構相匹配。其M400將與NVIDIA預計的Rubin架構（Blackwell的繼任者）相匹配。AMD在軟件和互連/系統方面也在迎頭趕上，希望到2026年實現年收入100億美元。即使AMD不如NVIDIA，大型超大規模計算廠商也有望爲其提供業務。他們希望找到NVIDIA的強大替代方案，而這種替代方案能夠爲超大規模計算廠商提供一些定價優勢，並且在NVIDIA供應受限的情況下，能夠更快地提升其數據中心的產能。那麼用於 AI 加速器的 ASIC 呢？就在幾年前，ASIC 在投資者眼中還是個貶義詞——低利潤、低增長。現在，它卻火了，因爲超大規模企業想要更多選擇。亞馬遜、谷歌、Meta 和 OpenAI 都在開發自己的 AI 加速器。當然，還有其他公司也在積極佈局。例如，博通的 AI 收入在三年內飆升了約 10 倍，約佔總銷售額的一半。同樣，Marvell 的 AI 收入也在同一時期飆升，目前 AI 已成爲其最大的業務部門。在三月初的摩根士丹利技術大會上，Open AI 首席執行官 Sam Altman 表示，如果放棄 GPU 的部分靈活性，特定模型的 ASIC 可以非常高效。別忘了，網絡過去使用 x86 處理器。現在則全部使用交換芯片，因爲需要處理的數據包類型變化緩慢。市場正在從以訓練爲主轉向以推理爲主。僅用於推理的 ASIC 可以簡單得多。關鍵在於成本和功耗。而僅限於例如 Transformer 模型的推理 ASIC 則可以更簡單、更便宜。Alchip 的首席執行官表示，ASIC 的性價比比 GPU 高 40%，並且可以針對客戶的特定軟件進行優化。如今的AI加速器通常配備3納米或2納米計算引擎，在“更老”、更便宜的節點上，或許還會配備獨立的5納米SRAM和PHY芯片。Alchip首席執行官表示，AI加速器的NRE成本高達5000萬美元。博通/Marvell可能正在開發更復雜的加速器，採用更多芯片組和3D封裝，開發成本超過1億美元。超大規模計算廠商將擁有超過100人的架構團隊；超過100人負責網絡連接，還有更多人負責軟件開發。這意味着總成本將在三分之一到五億美元之間。他們能負擔得起嗎？如果一家超大規模廠商每年採購 200 億美元，由於有其他選擇，可以從 NVIDIA 獲得 10% 的折扣，那麼它就有能力自主研發 ASIC。如果一家超大規模廠商成功打造出一款成本僅爲 NVIDIA GPU 一半、功耗更低的 ASIC，那麼它就取得了巨大的成功。Alchip 的首席執行官表示，這款 ASIC 的價格可能比 GPU 便宜 40% 左右。超大規模數據中心運營商可能會部署 NVIDIA 和 AMD 的 GPU 來處理最複雜、變化最快的工作負載，以及外部客戶，而內部變化較慢的工作負載則會使用自家的 ASIC。GPU 和 ASIC 的最終組合將取決於相對性能、功耗和可用性。可能是 90% GPU 和 10% ASIC。或者，正如麥肯錫預測的那樣，可能是 10% GPU 和 90% ASIC。每年僅花費 10 億美元的小型客戶將不得不使用 GPU。https://semiengineering.com/gpu-or-asic-for-llm-scale-up/半導體精品公衆號推薦專注半導體領域更多原創內容關注全球半導體產業動向與趨勢*免責聲明：本文由作者原創。文章內容系作者個人觀點，半導體行業觀察轉載僅爲了傳達一種不同的觀點，不代表半導體行業觀察對該觀點贊同或支持，如果有任何異議，歡迎聯繫半導體行業觀察。今天是《半導體行業觀察》爲您分享的第4019期內容，歡迎關注。『半導體第一垂直媒體』實時專業原創深度公衆號ID：icbank喜歡我們的內容就點“在看”分享給小夥伴哦

(本文内容不代表本站观点。)
---------------------------------