Sign in

Member Benefits

Get Demands

View Business Cards

Exclusive Service

Noble Identity

AS LOW AS 1.5U /DAY

Meta公布最新一代AI晶片MTIA

Share

2024-04-12

Meta發表第二代自製AI晶片,強調其密集運算效能和稀疏運算效能分別提高3.5倍及7倍

根據Meta提供的數據,下一代MTIA平均時脈(1.35GHz vs. 800 MHz)、記憶體(128MB vs. 64MB)、主機連線速度(PCIe Gen5 vs. PCIe Gen4)都更優異,不過散熱設計功耗(TDP)則較前代更高(90W vs. 25W)意謂可能更為耗電。

軟體架構上,新一代MTIA延續前代設計,包括整合PyTorch 2.0及圖形層捕捉、分析、轉換和擷取機制(如TorchDynamo, torch.export)等,一致化的完整軟體堆疊架構確保新晶片可和MTIA v1平臺上開發的程式碼完全相容。Meta表示,這設計使其可在幾天內將運算環境轉換到新晶片上;不到9個月內,已部署到Meta 16個雲端區域資料中心執行AI模型。

Meta希望藉由自製晶片減少對Nvidia的依賴,同時持續推進AI能力,包括訓練下一代大型語言模型(LLM)。Meta高層本周也在一場活動上預告,將在下個月開源釋出下世代大型語言模型Llama 3。Meta期望在下個月開始部署下一代基礎模型Llama 3的最新套件。Llama 3家族包含多個能力及特性不同的AI模型,將陸續於今年內釋出,而且「很快就會啟動」。

Disclaimer:
Details

Please Play Responsibly:

Casino Games Disclosure: Select casinos are licensed by the Malta Gaming Authority. 18+