面對重重考驗,AI 芯片未來選擇會是如何?

2019-06-23 11:00:00 來源:互聯網
標簽:
AI   芯片   CPU   GPU

沉舟側畔千帆過,AI熱潮正推動AI芯片市場不斷煥新。據Allied Market Research報告,全球機器學習芯片市場規模到2025年將達到約378億美元。在X86和ARM橫掃業界久矣的IC時代,有望重塑產業格局的AI芯片市場不僅驅動著傳統芯片公司戰略和技術的轉型,同時還吸引了不少巨頭以及初創企業等新玩家,在延續性或顛覆性創新方面各出奇招,引發AI訓練和推理市場的變局。

 

 

格局未定

經過幾年的征戰,訓練和推理芯片的各方勢力雖格局初定,但并不穩固。Habana Labs首席執行官David Dahan就表示,AI模型訓練所需的計算能力每年呈指數增長。因此,提高生產率和可擴展性,解決數據中心和云計算對算力的迫切需求成為至關重要的任務。

 

而這意味著持續的革新。現有的訓練一般采用“CPU+加速芯片”的異構計算模式。目前 Nvidia 的 GPU+CUDA計算平臺可謂最成熟的AI訓練方案,還有GPU+OpenCL以及FPGA+OpenCL來對壘。云服務廠商自研加速芯片如Google的TPU等也在強力布局,諸如Facebook、亞馬遜、百度、阿里、騰訊等也在積極介入,均希望借自主研發的AI芯片以更低的成本滿足自身的個性化需求,最終獲得更強大的優勢。

 

在推理芯片更注重綜合指標,單位能耗算力、時延、成本等要全面均衡。在云端推理芯片中,可謂百家爭鳴。初期雖然采用 CPU/GPU進行加速,但由于應用場景的特殊性,依據具體神經網絡算法優化會帶來更高的效率,ASIC、FPGA等的表現可圈可點。除英偉達、Google、英特爾、賽靈思等巨頭涉足之外,Habana Labs、Wave computing等初創公司也加入戰團,國內的寒武紀、比特大陸亦在布局。

 

Habana Labs中國區總經理于明揚樂觀表示,云端市場尤其是推理市場還處在高速發展的藍海市場階段,而5G和邊緣計算也對云端有了更強的需求,未來前景廣闊。

 

有數字估計,云數據中心服務器中,AI訓練芯片的滲透率將提高到2022 年的13%。而推理芯片在云服務器和企業本地服務器上的滲透率到2022 年分別達到20%和7%。在急劇擴大的市場中,將不斷有選手斜刺里殺出,而最終極的拷問是如何在新老格局對抗中建立獨樹一幟的優勢。

 

新進入者的招法?

而繼去年9月推出推理AI芯片 Goya HL-1000 處理器以來,以色列初創公司Habana Labs再下一程,正式推出用于訓練的AI芯片Gaudi。

 

要知道,Goya推理性能強勁,對標英偉達的V100 GPU、在ResNet-50上進行推理時,可提供了超過4倍的吞吐量、2倍的能效以及一半的延遲。據悉基于Goya HL-1000的 PCIe 卡可實現每秒15000張圖片的吞吐量,延遲時間為1.3毫秒,功耗僅為100瓦,相比GPU等方案表現高出一到三個數量級。而且,Goya已可支持Facebook的機器學習編譯器Glow,其驅動業已集成在Linux中,并可無縫從CPU或GPU中遷移。

 

在推理領域祭出利器之后,這家初創公司雄心不止,訓練芯片Gaudi成為其進軍AI市場的又一大突破,它不僅以性能見長,并且通過創新整合為系統級方案,構建了更高壁壘。

 

Habana Labs首席商務官Eitan Medina介紹,Gaudi優勢在于一是擁有比GPU更高的吞吐量、更高能耗比,其吞吐量比同等數量GPU高出4倍;二是片上集成了10個100GbE以太網端口,每個以太網端口均支持RDMA over Converged Ethernet (RoCE v2) 功能,從而讓AI系統通過標準以太網,在速度和端口數方面獲得幾乎無限的可擴展性。

 

據悉,Gaudi處理器包含32GB的HBM-2內存,有兩種形式:HL-200是支持8個100Gb以太網端口的PCIe卡;HL-205是符合OCP-OAM規范的夾層卡,支持10個100Gb以太網端口或20個50Gb以太網端口。同時,Habana還推出了一款名為HLS-1的8-Gaudi系統,其中包括8個HL-205 Mezzanine卡,帶有用于外部主機連接的PCIe連接器和24個100Gbps以太網端口,用于連接現成的以太網交換機,客戶可通過在19英寸標準機柜中部署多個HLS-1系統實現性能擴展。

 

劍指英偉達,Habana Labs發展出和而不同的路徑。現有最好的英偉達最新16 GPU DGX-2系統,配備8個100G端口,但這仍然是24端口HLS-1提供的一小部分。而且因其通訊接口有限,且采用私有協議,很難大幅擴展。而Gaodi內置的RDMA方案可靈活擴展,應用邊界不受限制。而戲劇性的是,顯然英偉達也看到這一走勢,以69億美元高價收購數據中心InfiniBand網絡的絕對王者——以色列創企Mellanox,其核心技術正是RDMA。

 

如今AI市場的打法還需要軟硬件協同鋪路。Eitan Medina指出,Habana Labs為此打造一個完整的SynapseAI軟件棧,集可編程的TPC、深度學習庫和編譯器等于一體,客戶還可添加專有內核,實現完全可編程和可定制。這款軟件可與 TensorFlow和ONNX等深度學習神經網絡框架無縫交互,并將增加對PyTorch和其他機器學習框架的支持,不斷助力客戶優化AI部署。

 

未來的選擇

雖然Habana Labs并沒有提供太多關于芯片內部細節的信息,但Eitan Medina聲稱它來源于獨特的架構創新,基于第二代Tensor處理核心(TPC),支持用于訓練的典型浮點格式如FP32和bfloat16以及一些整數格式。由于核心的clean-sheet設計,其AI芯片實現了高吞吐量、低時延等,未來將進一步搶占GPU的份額。

 

要知道,Habana Labs去年年底完成超額認購的7500萬美元B輪融資。此次融資由英特爾投資領投,WRV Capital等也加入其中。自2016年創立以來,該公司已籌集到1.2億美元。Eitan Medina表示,這一資金將支持針對推理和訓練解決方案的產品發展藍圖,包括下一代7nm處理器,同時擴展銷售與客戶支持團隊。

 

正所謂明勢、取道、優術,事可成。雖然是初創企業,但Habana Labs的打法非常凌厲,不只以創新性能見長,將其產品組合從AI推理擴展到AI訓練,輔以高性能、低功耗、可擴展、可編程等特性,還以系統級方案應對推理和訓練的潛在需求。

 

但面對英偉達的GPU+CUDA的強生態系統,以及眾多巨頭的兵臨城下,Habana Labs的AI芯片如何落地生根、如何構建穩健的生態,仍將是未來持續的考驗。

 
關注與非網微信 ( ee-focus )
限量版產業觀察、行業動態、技術大餐每日推薦
享受快時代的精品慢閱讀
 

 

繼續閱讀
BeagleBoard.org?推出BeagleBone? AI,支持邊緣人工智能快速入門

BeagleBoard.org?基金會今天宣布正式發布最新、快速且強大的BeagleBoard.org? BeagleBone?低成本開發板,將推動一場全新的人工智能革命。

三星半導體業務觸底反彈?下半年將恢復芯片庫存

與非網9月20日訊,據韓聯社報導,一份新出爐的產業報告顯示,預計韓國科技巨頭三星電子(Samsung Electronics)將持續在第三季座穩全球DRAM市場的龍頭寶座。

ARM 和 Intel 等處理器被曝嚴重安全漏洞,普通人的支付密碼等隨時存在外泄

與非網9月20日訊,如果說此前的硬件漏洞攻擊是打開了房間的防盜門,獲取智能設備核心秘鑰。然而,那么此次的騎士漏洞攻擊則是打開了房間內的保險柜,黑客不需要借助任何外部程序或者鏈接。

當今全球算力巔峰,華為 Atlas 900 AI 訓練集群

與非網9月19日訊,昨日消息,華為全聯接2019大會上,華為副董事長胡厚崑發布了Atlas 900 AI訓練集群。

都說十代酷睿筆記本十分厲害 現在就來告訴你強在哪里

隨著Computex 2019英特爾正式宣布第十代酷睿處理器平臺,新品在隨后的幾個月內不斷涌現在大伙面前。面對著全新的酷睿平臺,對于普通玩家而言多少有點手足無措,聽說第十代酷睿很強,具體強在哪兒又很難說清。花大價錢買筆記本,最害怕買得不明不白。現在就讓筆者來總結一下,第十代酷睿筆記本,厲害在什么地方。

更多資訊
微軟股價上漲 36%,總市值高達 1.08 萬億美元全球第一

與非網9月20日訊,昨日,微軟股價創下歷史新高142.37美元,最終收報141.07美元,漲1.84%,為最高歷史收盤價,最新總市值10771億美元。

半導體人才缺口巨大,紫金到處重金挖人

近日,紫光集團正在建立研發中心,并將于重慶建設12寸DRAM晶圓廠的消息引起業界關注,此次正式進軍內存芯片產業,是紫光繼NAND閃存芯片之后又一重要舉措,紫光的挖角計劃也隨之同步開啟。

自下而上,從應用現狀看FD-SOI技術發展
自下而上,從應用現狀看FD-SOI技術發展

“12nm FD-SOI芯片的成本將和7nm FINFET芯片的成本具有可比性,而7nm FINFET芯片的成本大概為沒100萬晶體管1.3美元。”

AMD 7nm處理器竟然不受臺積電7nm產能影響,AMD走了啥“后門”?

與非網9月19日訊,臺積電7nm產能不足,用戶擔心AMD 7nm處理器缺貨,但是AMD卻不擔心缺貨?

朱一明、楚慶加盟,全球半導體聯盟董事會又加入中國新面孔

與非網9月19日訊,就在9月17日,全球半導體聯盟 (Global Semiconductor Alliance,以下簡稱GSA) 正式宣布任命四位新董事會成員,包括兩位卓越的中國行業領袖為董事會成員——紫光展銳科技有限公司首席執行官楚慶先生,和長鑫存儲技術有限公司董事長/首席執行官暨北京兆易創新科技股份有限公司董事長朱一明先生。

彩票平台开户送彩