首頁 > 技術 > 正文

亞馬遜云推出H100 GPU驅動的亞馬遜彈性計算云實例

2023-07-30 11:06:20來源：中關村在線  


(相關資料圖)

近日，英偉達官方公告顯示，亞馬遜云已正式推出由英偉達H100 Tensor Core GPU驅動的新的亞馬遜彈性計算云（EC2）P5實例。該服務允許用戶通過瀏覽器輕松擴展生成式AI、高性能計算（HPC）和其他應用。 NVIDIA H100 GPU的一個重要特點是其對Transformer的優(yōu)化，這是許多最新的先進AI應用所使用的關鍵技術，可確保H100在這些應用中提供更高的性能和效率。盡管亞馬遜尚未對集成AMD MI300芯片到其云服務中作出任何公開承諾，但亞馬遜彈性計算云副總裁Dave Brown證實，他們正在積極考慮這一方案。 英偉達表示，開發(fā)人員和研究人員幾乎每天都在借助大型語言模型（LLMs）發(fā)掘AI的新應用，而將這些新用例推向市場需要加速計算的效率。NVIDIA H100 GPU通過架構創(chuàng)新提供超級計算級性能，包括第四代Tensor Cores、用于加速LLMs的新Transformer引擎以及最新的NVLink技術，可以帶來極其可觀的性能。 據(jù)介紹，EC2 P5實例非常適合訓練和運行復雜LLMs和計算機視覺模型的推理。這些神經(jīng)網(wǎng)絡驅動著最復雜和計算密集型的生成式人工智能應用程序，包括問答、代碼生成、視頻和圖像生成、語音識別等。

標簽：

相關閱讀

精彩推薦

相關詞

推薦閱讀