第75章 英偉達bckwell架構b200晶片,成本和能耗較前代改善25倍(第1/2 頁)
在AI技術日新月異的今天,英偉達再次以驚人的創新力引領行業潮流。近日,英偉達宣佈推出新一代AI圖形處理器blackwell,其首款晶片Gb200將於今年晚些時候正式發貨。這一重磅訊息不僅彰顯了英偉達在AI晶片領域的領先地位,更預示著AI計算即將邁入全新的發展階段。
blackwell GpU的推出,是英偉達對AI計算效能極限的又一次挑戰。據悉,blackwell擁有六項革命性技術,能夠支援多達10萬億引數的模型進行AI訓練和實時LLm推理。這一強大效能的背後,是英偉達對晶片技術的深入研究和不斷創新。
首先,blackwell採用了全球最強大的晶片設計。這款GpU由2080億個電晶體組成,採用量身定製的臺積電4奈米工藝製造。其獨特的雙晶粒設計,將兩個極限GpU裸片透過10 tb\/秒的晶片到晶片鏈路連線成一個統一的GpU,實現了前所未有的計算效能。
其次,blackwell搭載了第二代transformer引擎。這一引擎結合了blackwell tensor core技術和英偉達先進的動態範圍管理演算法,使得blackwell能夠支援新的4位浮點AI,從而實現雙倍的計算和模型大小推理能力。這將大大加速AI模型的訓練和推理過程,提升AI應用的效能表現。
此外,blackwell還配備了第五代NVLink技術。這一技術為每個GpU提供了突破性的1.8tb\/s雙向吞吐量,確保了最複雜LLm之間多達576個GpU之間的無縫高速通訊。這將極大提升AI計算叢集的效能和效率,為大規模AI模型的訓練和應用提供有力支援。
除了強大的計算效能,blackwell還在可靠性、安全性以及資料處理方面進行了全面升級。其內建的RAS引擎實現了可靠性、可用性和服務性的提升,透過基於AI的預防性維護進行診斷和預測可靠性問題,從而最大限度地延長系統正常執行時間並降低運營成本。同時,blackwell還支援先進的機密計算功能,保護AI模型和客戶資料的安全,為隱私敏感行業提供了強有力的支援。此外,其專用的解壓縮引擎支援最新格式,能夠加快資料庫查詢速度,為資料分析和資料科學提供最高效能。
英偉達還為blackwell GpU設計了一款名為Gb200 NVLink 2的伺服器。這款伺服器結合了72個blackwell GpU和其他旨在訓練AI模型的英偉達部件,為AI計算提供了強大的硬體支援。亞馬遜、谷歌、微軟和甲骨文等雲服務提供商將透過雲服務提供對Gb200的訪問,這將使更多的企業和開發者能夠享受到blackwell帶來的強大效能。
值得一提的是,英偉達還推出了名為NIm的創收軟體。這款軟體簡化了AI的部署過程,為客戶提供了在日益增多的競爭者中堅持使用英偉達晶片的另一個理由。透過NIm,使用較舊的英偉達GpU進行推理變得更加簡單,同時允許公司繼續使用其已經擁有的數億個英偉達GpU。這將有助於降低企業的運營成本,並推動AI技術在更多場景下的應用。
英偉達的這一系列創新舉措,無疑將推動AI計算的發展進入一個全新的階段。隨著blackwell GpU和NIm軟體的推出,英偉達將進一步鞏固其在AI晶片領域的領先地位,並引領整個行業向更高效能、更廣泛應用的方向發展。
對於企業和開發者來說,blackwell GpU和NIm軟體的推出將為他們提供更加高效、便捷的AI計算解決方案。無論是訓練大規模的AI模型,還是部署AI應用到實際場景中,英偉達都將為他們提供強有力的支援和