人工智能應用落地正在逐步深入。受疫情影響,很多傳統(tǒng)行業(yè)更加深刻地意識到 AI、大數(shù)據(jù)、5G 等技術的重要性,開始加大對 IT 基礎架構的投資。此外,在國家產業(yè)政策層面,新基建拉開序幕,人工智能、5G、大數(shù)據(jù)等業(yè)務板塊又迎來新風口,智算中心的產業(yè)投資,都給加速計算市場帶來助力。
根據(jù) IDC 發(fā)布的《中國半年度加速計算市場(2020 上半年)跟蹤》報告顯示,2020 年上半年加速服務器市場規(guī)模達到 12.9 億美元,同比 2019 年上半年增長 53.7%。
在整體加速服務器市場中,GPU 服務器目前占據(jù) 93.4%的市場份額。但值得注意的是,非 GPU 加速服務器成長勢頭不可小覷,同比 2019 年上半年增長高達 600%,占整體加速服務器市場 7%,包括:FPGA、ASIC、NPU 等。
IDC 中國分析師杜昀龍告訴<與非網(wǎng)>,非 GPU 加速技術出現(xiàn)如此大的增幅,主要受互聯(lián)網(wǎng)、政府、服務、電信等行業(yè)應用驅動。其中,互聯(lián)網(wǎng)占大部分市場份額,主要用戶為大型互聯(lián)網(wǎng)公司,因為有些定制化產品需要用到非 GPU 技術,同時也能突顯自身在 AI 技術上的差異化優(yōu)勢。
浪潮 AI&HPC 相關業(yè)務負責人曾對筆者表示,隨著數(shù)據(jù)中心用戶對 AI 算力需求的不斷攀升,全球已有上百家公司投入新型 AI 芯片的研發(fā)與設計,AI 計算芯片多元化趨勢愈發(fā)明顯。為了應對計算多元化的需求,越來越多的場景開始引入 GPU、FPGA、ASIC 等硬件進行加速。
從 IDC 近年的研究主體也能看出加速計算的格局變遷。對比 IDC 2018、2019 年兩份研究報告,會發(fā)現(xiàn) 2018 年的研究主體是 GPU 服務器,2019 年的研究主體是加速服務器,調研范圍有所擴大。杜昀龍表示,IDC 確實擴大了對 AI 基礎架構市場的調研,加入了不同加速技術的研究。
此外,AI 服務器主要是訓練和推理兩大工作負載,其中,推理在逐年增長。據(jù)杜昀龍分析,今年上半年,用于推理的加速服務器占 48%的市場份額。隨著大部分 AI 模型訓練逐步成熟,用戶將會逐漸增大推理方面的投資。同時,邊緣計算的發(fā)展,也將成為驅動推理服務器發(fā)展的重要因素。
根據(jù) IDC 今年 5 月發(fā)布的《人工智能基礎架構市場(2019 下半年)跟蹤》報告,預測到 2021 年,用于推理的服務器將超過用于訓練的服務器,達到 51.3%的市場占比。
這也意味著,2021 年或將成為加速服務器競爭格局的分水嶺,GPU 服務器增長趨于穩(wěn)定,非 GPU 服務器包括搭載 FPGA、ASIC、NPU 的服務器增長將比較顯著。
不過,不同 AI 加速芯片在構建 AI 計算時有其鮮明特點,也各有其優(yōu)勢所在:
GPU 領域存在大量的開源軟件和應用軟件,大部分新的 AI 技術會采用 GPU 實現(xiàn)算法加速,GPU 編程的開發(fā)資源也更加容易獲得,開發(fā)部署的難度相對較低。
FPGA 需要開發(fā)者對 FPGA 的芯片特性有較為深入的了解,但其高并行性的特性往往可以使業(yè)務性能得到量級的提升,同時 FPGA 是動態(tài)可編程的,當在數(shù)據(jù)中心部署之后,可以根據(jù)業(yè)務形態(tài)來配置不同的邏輯實現(xiàn)不同的硬件加速功能。
ASIC 芯片在某些特定場景應用能獲得較好的性能加速比,但是 ASIC 開發(fā)風險大,需要有足夠大的市場來保證成本價格,而且從研發(fā)到市場的時間周期很長,在深度學習算法快速迭代的領域應用尚需實際業(yè)務場景考驗。
由于各芯片廠商在 AI 開發(fā)中采用了不同的技術路線,導致芯片的接口、互聯(lián)、協(xié)議上互不兼容,這是目前數(shù)據(jù)中心用戶在 AI 計算基礎設施建設中不得不面臨的硬件分裂化和生態(tài)割裂化的重大挑戰(zhàn)。
浪潮方面在與筆者的交流中曾表示,推理服務器、推理平臺的發(fā)展,是產業(yè) AI 化加速發(fā)展的信號,AI 的算法和應用將走向更多的實際應用場景,更多的 AI 推理平臺將得以落地應用。
杜昀龍也認為,AI 基礎設施正朝著開放式架構發(fā)展,為更靈活、更高效的基礎設施部署做鋪墊。AI 在各行業(yè)的滲透不斷提高,應用場景也將更加廣泛。
對今年全年加速服務器市場的預測,杜昀龍表示,預計市場規(guī)模將達到 30 億美元,其中 GPU 依然占絕大部分市場份額。2021 年,預計 GPU 和非 GPU 加速服務器市場將分別呈現(xiàn)不到 40%和 65%左右的增長,互聯(lián)網(wǎng)依然是主要的采購行業(yè)。