AMD首次推出AI芯片挑战英偉達霸主地位
AMD公司發布了新的MI300X人工智能加速器芯片,直接挑战英偉達H100的統治地位,此舉是為了搭上人工智能熱潮。這家科技巨頭的人工智能芯片庫的最新成員,旨在顛覆英偉達在人工智能加速器市場的主導地位。
MI300X是為人工智能任務明確定制的,它配備了高達192GB的內存,使其成為執行大型模型如LLM的理想選擇。AMD選擇高內存配置是一個战略性的選擇,能夠輕松部署龐大的模型。人工智能訓練需要大量的計算能力,但總的來說,它需要大量的vRAM來存儲訓練過程中的信息--這就是為什么一些遊戲GPU可能適合挖掘加密貨幣,但對於人工智能任務來說並不是真的很好。
此外,該芯片的底層架構已經被設計成能夠順利支持生成性人工智能工作負載。AMD首席執行官Lisa Su指出,最新一代的前沿模型可以很容易地在MI300X的192GB HBM3(高帶寬內存)中找到家。
"有了所有這些額外的內存容量,我們實際上對大型語言模型有一個優勢,因為我們可以直接在內存中運行更大的模型"。Lisa Su詳細解釋說,用戶將需要更少的GPU來在更短的時間內完成同樣的任務。
這款產品的推出正值英偉達的市值達到1萬億美元大關之時。雖然AMD的市值還不能與之相比--它剛剛超過2070億美元--但MI300X的發布凸顯了AMD在不斷擴大的人工智能領域做出成績的決心。
為了進一步證明其承諾,AMD在MI300X上成功運行了Falcon 40B LLM。按照Lisa Su的說法,這一成就標志着 "第一次可以完全在內存中運行這種規模的LLM"。
鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。