資訊> 正文

中國工程院院士鄭緯民:AI算力基礎設施設計需要遵循三大平衡原則_全球熱文

時間: 2023-04-24 09:03:44 來源: 流媒體網(wǎng)


(相關資料圖)

在4月21日舉辦的首屆超互聯(lián)新算力產(chǎn)業(yè)暨第三屆中國IDC行業(yè)DISCOVERY大會上,中國工程院院士鄭緯民表示,AI算力是算力基礎設施的重要組成部分,是新基建和國家“東數(shù)西算”工程的關鍵任務抓手。

鄭緯民指出,人工智能計算在海量數(shù)據(jù)、實時響應、極端條件等場景下相較通用計算優(yōu)勢愈發(fā)明顯。預計到2025年,我國人工智能算力總量將超過1800EFlops,AI算力占整個算力的比重超過85%。

“以后的計算機中AI計算機和處理人工智能的計算機將占很大比例,特別是隨著ChatGPT的發(fā)展,算力需求大幅提升,迎來了高速擴張時代?!编嵕暶癖硎?。

在談及AI計算與HPC(高性能計算)的區(qū)別時,鄭緯民指出,HPC通常應用在天氣預報、核聚變模擬、飛行器設計等領域,而AI計算是做分類、回歸、自然語言處理等,二者應用場合不同,運算精度也不一樣。

鄭緯民認為AI算力基礎設施的設計需要遵循計算平衡、網(wǎng)絡平衡、IO子系統(tǒng)平衡的原則。

“傳統(tǒng)的高性能計算機的測試結果與人工智能需要的性能不完全一致。高性能計算算力測試程序主要使用雙精度浮點數(shù)運算,即64位浮點運算,人工智能訓練以單精度浮點數(shù),即32位浮點數(shù)為主?!痹卩嵕暶窨磥?,現(xiàn)在要做符合語言模型的訓練,就要考慮半精度平衡性,即設計中主要考慮半精度運營性能,又要注意雙精度運算能力不能過低,所以雙精度與半精度運算性能之比為1:100較好。

“現(xiàn)在很多廠家都已經(jīng)在考慮這三個平衡設計,國內也有差不多30個城市在建或者建好了AI超算中心?!睋?jù)其預測,HPC+AI+大數(shù)據(jù)中心在未來不超過5年的時間內將會融合到一臺計算機中,“既可以做HPC,又可以做AI,也能處理大數(shù)據(jù)”。

責任編輯:李楠

分享到:版權聲明:凡注明來源“流媒體網(wǎng)”的文章,版權均屬流媒體網(wǎng)所有,轉載需注明出處。非本站出處的文章為轉載,觀點供業(yè)內參考,不代表本站觀點。文中圖片均來源于網(wǎng)絡收集整理,僅供學習交流,版權歸原作者所有。如涉及侵權,請及時聯(lián)系我們刪除!

關鍵詞:

責任編輯:QL0009

為你推薦

關于我們| 聯(lián)系我們| 投稿合作| 法律聲明| 廣告投放

版權所有 © 2020 跑酷財經(jīng)網(wǎng)

所載文章、數(shù)據(jù)僅供參考,使用前務請仔細閱讀網(wǎng)站聲明。本站不作任何非法律允許范圍內服務!

聯(lián)系我們:315 541 185@qq.com