9月25日,阿里平頭哥推出含光800AI芯片,以其領先同行的性能震驚業界。而就在8月,華為也發布了自己的AI芯片昇騰910。巧合的是,雙方都選擇了云端AI芯片,為何巨頭都看重了這一領域?隨著他們的入局,云端芯片會對終端AI芯片帶來怎樣的影響?
互聯網巨頭爭先布局AI云端芯片
9月25日,在杭州云棲大會上,阿里巴巴旗下平頭哥第一顆AI自研芯片—含光800正式發布。作為阿里成立平頭哥以來發布的第一款正式流片的AI芯片,這是繼處理器IP核玄鐵910、無劍SoC平臺之后,又一次實力的證明。
在業界標準的ResNet-50測試中,“含光800”推理性能達到78563IPS(每秒能處理7.8萬張圖片),比目前業界最好的AI芯片性能高4倍;能效比500IPS/W(每瓦功率能處理500張圖片),是第二名的3.3倍。
華為:最快的云端訓練芯片
在阿里含光800發布之后,大家不免將它與華為在8月23日全聯接大會發布的AI處理器昇騰910進行對比 。
因為華為的昇騰910與含光800發布之時都號稱算力最強的AI處理器。事實上,兩者的用途并不一致。AI芯片可以劃分為訓練芯片和推理芯片兩種用途,昇騰910是最快的訓練芯片,含光800是最強的推理芯片。訓練是指通過大量標記過的數據在平臺上進行“學習”,并形成具備特定功能的神經網絡模型;推理則是利用已經訓練好的模型輸入新數據通過計算得到各種結論。但他們均屬于云端芯片。
在AI芯片應用場景中,我們通常分為云端和終端,云端主要指大規模數據中心和服務器,終端包括手機、車載、安防攝像頭、機器人等豐富的場景。
除了阿里、華為之外,國內百度、騰訊等也均在芯片領域持續布局。百度布局集中在圖像、語音、無人駕駛等應用層面,騰訊則通過投資比特大陸、Diffbot、iCarbonX、CloudMedx、Skymind、ScaledInference等企業完善其在AI芯片產業鏈的布局。
AI芯片賽道:入局“擁擠”賽道為哪般?
首要原因是,巨頭們入局云端AI芯片,更多是考量自身業務的融合優化。隨著數據量級的增長,無論是百度的搜索、語音交互、無人駕駛還是騰訊社交、新零售、智能硬件等方面布局,或是阿里云計算,物聯網等領域,通用AI芯片已經難以滿足自身業務算法和硬件設計的需求。
相比傳統芯片廠商,互聯網巨頭在涉足芯片領域普遍存在一個共同點,那就是其芯片產品都不是以商品芯片的身份單獨出售,而是與自家的產品捆綁在一起。
含光800將通過阿里云對外輸出AI算力,未來企業可以通過阿里云獲取含光800的算力。同時含光800也主要用于解決圖像、視頻識別、云計算等商業場景的AI推理運算問題,提升運算效率、降低成本,為數據中心提供動力。
而華為發布昇騰910則用于補充AI云端芯片的空白,也用在華為自有服務器和云業務上。
當然,巨頭們的布局并不僅僅是云端AI芯片,也包括終端芯片。大量廠商紛紛進入這條賽道的另一大重要原因,是為了芯片的自主可控。
要想在AI賽道上打一場硬仗,芯片是關鍵的一環。特別是在中美貿易戰的大格局下,在核心的芯片上自主可控也是有必要的,畢竟誰也不想成為下一個中興。
2019年,AI芯片戰場正群雄逐鹿
事實上,在資本助力下,AI芯片這一“增量”市場迅速群雄并起,除了英特爾、英偉達等老牌玩家,初創型AI芯片企業、互聯網巨頭谷歌、新能源汽車科技公司特斯拉、社交網絡鼻祖Facebook也紛紛開始涉足AI芯片。
初創AI芯片企業、互聯網巨頭、傳統芯片廠商同臺競技,AI芯片行業呈現群雄逐鹿的局面。
據美國市場研究公司ReportLinker研究報告,預計到2023年,AI芯片市場規模將達到108億美元,復合年均增長率達到53.6%。
市場大,競爭者也多。截止2018年底,國內芯片設計公司規模已經發展到近1700家,雖然受經濟影響,增速大不如前兩年,但是仍然有不少人想要搶奪這塊蛋糕。
近兩年,各AI芯片廠商的新品競相發布,各環節分工逐漸明顯。AI芯片的應用場景也不再局限于云端,部署于智能手機、安防攝像頭、及自動駕駛汽車等終端的各項產品日趨豐富。
入局者中,既有國內原本做安防、語音語義、人臉識別、云計算等領域解決方案的公司布局AI芯片尋求自研,也有AI算法公司轉向所在領域的AI芯片研究。
不同于傳統芯片市場,AI芯片就是用于計算的芯片,效率高,功能相對單一,且不涉及IP授權問題,應用起來更節約資源且門檻要比通用芯片低,人人可參與這個尚未成型的AI芯片市場變得再正常不過。
實際上在AI芯片的實際落地和巨頭的推動下,這個市場的格局和趨勢正在逐漸清晰。
AI芯片格局初顯,云端一體成為共識
據賽迪顧問統計,2018年中國AI芯片銷售市場中,云端AI芯片占據了76.9%的市場份額,但這并不代表云端芯片會取代終端芯片。相反,終端芯片的重要性正在愈發凸顯,要真正發揮AI的賦能力量,云端和終端配合已成為共識。
“AI芯片在云端的使用,將突破‘城市大腦’‘工業大腦’‘農業大腦’等AI產品成本限制,加速規模化普及。”達摩院芯片技術部曾對外表示。一如阿里巴巴的淘寶網“讓天下沒有難做的生意”,云端AI芯片含光800的推出目標直指“讓天下沒有難做的AI”。
寒武紀 CEO 陳天石表示:“終端的數據量有限,但云可以看到大量用戶的數據,云側的智能處理可以把很多端的信息匯聚在一起。”云端的智能處理在數據方面有其不可替代的巨大優勢,可利用海量數據,訓練出非常強大的模型。
云端芯片的優勢在于強大的算力和學習推斷能力,但是在實際落地中,云端芯片遇到的最大困境是響應不夠及時。比如自動駕駛、安防等領域,都需要作出即時的推斷和響應,這個時候,就需要終端芯片作為補充,解決云端芯片的延遲問題。
在AI芯片圈地運動初期,云端芯片獲取海量數據和降低客戶成本方面的確擁有相當優勢,近年來行業格局初顯,形成了以寒武紀、地平線等初創型芯片公司,曠視、依圖等人工智能公司和華為阿里這樣的巨頭為代表的幾大勢力。
AI芯片市場爭奪逐漸穩定,接下來的實際落地階段,終端AI芯片的需求正在逐漸被發掘。
今年8月的2019世界人工智能大會上,賽迪顧問發布的《中國人工智能芯片產業發展白皮書》中提到,AI芯片發展的一個重要趨勢將從云到云端一體。
隨著邊緣計算興起,“云端一體”方案逐漸成為主流,將智能算法前置,解放中心的計算資源,實現從端到云的邊緣計算+云計算,加快處理速度,實現靈活應用。
在邊緣計算場景,AI芯片主要承擔推斷任務,通過將終端設備上的傳感器(麥克風陣列、攝像頭等)收集的數據代入訓練好的模型推理得出推斷結果。由于邊緣側場景多種多樣、各不相同,對于計算硬件的考量也不盡相同,芯片可以是IP in SoC,也可以是邊緣服務器,對于算力和能耗等性能需求也有大有小。
因此不同于云端場景的“高端、通用”,應用于邊緣側的計算芯片需要針對特殊場景進行針對性設計以實現最優的解決方案,解決GPU計算時代速度和成本的問題。
終端芯片主要應用于智能安防、自動駕駛、移動互聯網和物聯網四大場景。在AI芯片成為主流方案之前,GPU是行業的主要選擇,但GPU芯片的主要問題在于并非為AI運算而生,計算速度不如AI芯片,同時成本高昂。以智能安防為例,主流的智能安防解決方案多基于英偉達Jetson TX1 GPU芯片,其最大的客戶是國內安防巨頭海康威視。據悉,單個芯片成本估算在70~150美元左右,模塊成本在200~300美元。
云端一體的方案還將解決原先高昂的成本問題。由于芯片存在大規模成本邊際效益遞減效應,專用芯片量產后,由AI模塊帶來的每顆芯片和相關存儲成本增加預計在2美元以下,采用ASIC方案的AI攝像頭實現成本將大幅度降低。
嗅到“云端一體”趨勢并深入布局的公司在國內已經有多家,包括阿里、華為等巨頭,也有寒武紀這樣的“業內老兵”。
寒武紀是國內最早進入終端芯片的公司之一。2016年,該公司發布了全球首款商用深度學習專用處理器 IP ——寒武紀 1A 處理器,并于去年11月,發布了三款全新的智能處理器 IP 產品,分別面向低功耗場景視覺應用、高通用性和高性能場景以及終端人工智能產品。
去年5月,寒武紀發布了首款云端智能芯片 MLU100,標志著寒武紀成為同時擁有終端和云端智能處理器產品的公司。從寒武紀的從終端到云端的跨越來看,這樣的布局或為AI芯片領域的主要發展趨勢。
而隨著發展趨勢的明確,中國AI芯片產業在全球環境下的競爭力,也在不斷提高。
AI芯片高地爭奪,中國逆襲的關鍵
AI芯片市場一直由英偉達、英特爾、谷歌等企業主導,而現在的它們正面臨著HabanaLabs、高通等公司的挑戰。最近寒武紀、華為和阿里巴巴新品的發布,宣布國內企業進入這一高地。
市場研究和咨詢公司Compass Intelligence去年發布的2018年度全球AI芯片公司Top24排行榜中,中國公司占據了7席,其中華為(海思)排名第12位、聯發科(MediaTek)排名第14位、Imagination排名第15位、瑞芯微(Rockchip)排名第20位、芯原(Verisilcon)排名第21位、寒武紀(Cambricon)排名第23位、地平線(Horizon)排名第24位。
而一直在科技層面處于頂尖水平的韓國和日本反而在這一波人工智能潮中熄了火,尤其是日本,在機器人研究領域一直處于領先地位,然而卻先發后至,錯過了AI芯片。
韓國僅三星一家上榜,三星直到2018年才發布了其首款AI芯片Exynos 9610,主要應用于三星的旗艦手機。三星在手機市場逐年下滑的情況下,新的AI芯片并不能挽回其頹勢。
在這一波AI芯片中美兩國領跑整個AI芯片產業,雖然目前在市場份額和企業的整體實力上仍存在差距,但是隨著阿里華為等企業推出的最新產品來看,中國AI芯片已經可以憑借高端芯片上爭奪芯片高地。
在芯片這樣的上游領域的實力,將影響中國人工智能產業整體的發展水平,無論是現階段的貿易戰還是接下來全球產業升級,中國無疑已經先抓到了好牌。