AI芯片最強(qiáng)科普

導(dǎo)讀：人工智能已滲透人們的生活，但其背后支撐算力的AI芯片卻鮮少有人真正了解。中國需要芯片強(qiáng)國，在AI芯片方面的差距又在哪里？本文將從技術(shù)、市場(chǎng)、廠商、未來展望等方面全面科普AI芯片，很多問題的答案就在其中。

AI的三大關(guān)鍵基礎(chǔ)要素是數(shù)據(jù)、算法和算力。隨著云計(jì)算的廣泛應(yīng)用，特別是深度學(xué)習(xí)成為當(dāng)前AI研究和運(yùn)用的主流方式，AI對(duì)于算力的要求不斷快速提升。

AI的三大關(guān)鍵基礎(chǔ)要素是數(shù)據(jù)、算法和算力。隨著云計(jì)算的廣泛應(yīng)用，特別是深度學(xué)習(xí)成為當(dāng)前AI研究和運(yùn)用的主流方式，AI對(duì)于算力的要求不斷快速提升。

AI的許多數(shù)據(jù)處理涉及矩陣乘法和加法。AI算法，在圖像識(shí)別等領(lǐng)域，常用的是CNN；語音識(shí)別、自然語言處理等領(lǐng)域，主要是RNN，這是兩類有區(qū)別的算法；但是，他們本質(zhì)上，都是矩陣或vector的乘法、加法，然后配合一些除法、指數(shù)等算法。

CPU可以拿來執(zhí)行AI算法，但因?yàn)閮?nèi)部有大量其他邏輯，而這些邏輯對(duì)于目前的AI算法來說是完全用不上的，所以，自然造成CPU并不能達(dá)到最優(yōu)的性價(jià)比。因此，具有海量并行計(jì)算能力、能夠加速AI計(jì)算的AI芯片應(yīng)運(yùn)而生。

一般的說，AI芯片被稱為AI加速器或計(jì)算卡，即專門用于加速AI應(yīng)用中的大量計(jì)算任務(wù)的模塊（其他非計(jì)算任務(wù)仍由CPU負(fù)責(zé)）。

而從廣義范疇上講，面向AI計(jì)算應(yīng)用的芯片都可以稱為AI芯片。除了以GPU、FPGA、ASIC為代表的AI加速芯片（基于傳統(tǒng)芯片架構(gòu)，對(duì)某類特定算法或者場(chǎng)景進(jìn)行AI計(jì)算加速），還有比較前沿性的研究，例如類腦芯片、可重構(gòu)通用AI芯片等（但距離大規(guī)模商用還有較長距離）。

以GPU、FPGA、ASIC為代表的AI芯片，是目前可大規(guī)模商用的技術(shù)路線，是AI芯片的主戰(zhàn)場(chǎng)，本文以下主要討論的就是這類AI芯片。

AI芯片的分類和市場(chǎng)劃分

一、從兩個(gè)維度對(duì)AI芯片進(jìn)行分類

維度1：部署位置（云端、終端）

AI芯片部署的位置有兩種：云端、終端。所以根據(jù)部署的位置不同，AI芯片可以分為：云AI芯片、端AI芯片。

云端，即數(shù)據(jù)中心，在深度學(xué)習(xí)的訓(xùn)練階段需要極大的數(shù)據(jù)量和大運(yùn)算量，單一處理器無法獨(dú)立完成，因此訓(xùn)練環(huán)節(jié)只能在云端實(shí)現(xiàn)。

終端，即手機(jī)、安防攝像頭、汽車、智能家居設(shè)備、各種IoT設(shè)備等執(zhí)行邊緣計(jì)算的智能設(shè)備。終端的數(shù)量龐大，而且需求差異較大。

云AI芯片的特點(diǎn)是性能強(qiáng)大、能夠同時(shí)支持大量運(yùn)算、并且能夠靈活地支持圖片、語音、視頻等不同AI應(yīng)用?；谠艫I芯片的技術(shù)，能夠讓各種智能設(shè)備和云端服務(wù)器進(jìn)行快速的連接，并且連接能夠保持最大的穩(wěn)定。

端AI芯片的特點(diǎn)是體積小、耗電少，而且性能不需要特別強(qiáng)大，通常只需要支持一兩種AI能力。

相比于云AI芯片來說，端AI芯片是需要嵌入進(jìn)設(shè)備內(nèi)部的，當(dāng)在設(shè)備內(nèi)部中嵌入了端AI芯片之后，能夠讓設(shè)備的AI能力進(jìn)一步提升，并且讓設(shè)備在沒有聯(lián)網(wǎng)的情況之下也能夠使用相應(yīng)的AI能力，這樣AI的覆蓋變得更為全面。

維度2：承擔(dān)任務(wù)（訓(xùn)練、推理）

AI的實(shí)現(xiàn)包括兩個(gè)環(huán)節(jié)：訓(xùn)練、推理。所以根據(jù)承擔(dān)任務(wù)的不同，AI芯片可以分為：用于構(gòu)建神經(jīng)網(wǎng)絡(luò)模型的訓(xùn)練芯片，利用神經(jīng)網(wǎng)絡(luò)模型進(jìn)行推理預(yù)測(cè)的推理芯片。

訓(xùn)練，是指通過大數(shù)據(jù)訓(xùn)練出一個(gè)復(fù)雜的神經(jīng)網(wǎng)絡(luò)模型，即用大量標(biāo)記過的數(shù)據(jù)來“訓(xùn)練”相應(yīng)的系統(tǒng)，使之可以適應(yīng)特定的功能。訓(xùn)練需要極高的計(jì)算性能，需要較高的精度，需要能處理海量的數(shù)據(jù)，需要有一定的通用性，以便完成各種各樣的學(xué)習(xí)任務(wù)。

推理，是指利用訓(xùn)練好的模型，使用新數(shù)據(jù)推理出各種結(jié)論。即借助現(xiàn)有神經(jīng)網(wǎng)絡(luò)模型進(jìn)行運(yùn)算， 利用新的輸入數(shù)據(jù)來一次性獲得正確結(jié)論的過程。也有叫做預(yù)測(cè)或推斷。

訓(xùn)練芯片，注重絕對(duì)的計(jì)算能力，而推斷芯片更注重綜合指標(biāo)， 單位能耗算力、時(shí)延、成本等都要考慮。

訓(xùn)練將在很長一段時(shí)間里集中在云端，推理的完成目前也主要集中在云端，但隨著越來越多廠商的努力，很多的應(yīng)用將逐漸轉(zhuǎn)移到終端。

推理相對(duì)來說對(duì)性能的要求并不高，對(duì)精度要求也要更低，在特定的場(chǎng)景下，對(duì)通用性要求也低，能完成特定任務(wù)即可，但因?yàn)橥评淼慕Y(jié)果直接提供給終端用戶，所以更關(guān)注用戶體驗(yàn)方面的優(yōu)化。

二、AI芯片市場(chǎng)劃分

以部署位置（云端、終端）和承擔(dān)任務(wù)（訓(xùn)練、推理）為橫縱坐標(biāo)，可以清晰的劃分出AI芯片的市場(chǎng)領(lǐng)域，上表，列出了適用于各個(gè)市場(chǎng)的技術(shù)路線及相應(yīng)廠商。

1、云端訓(xùn)練

訓(xùn)練芯片受算力約束，一般只在云端部署。

CPU由于計(jì)算單元少，并行計(jì)算能力較弱，不適合直接執(zhí)行訓(xùn)練任務(wù)，因此訓(xùn)練一般采用“CPU+加速芯片”的異構(gòu)計(jì)算模式。目前NVIDIA的GPU+CUDA計(jì)算平臺(tái)是最成熟的AI訓(xùn)練方案，除此還有兩種方案：

第三方異構(gòu)計(jì)算平臺(tái)OpenCL + AMD GPU或OpenCL + Intel/Xilinx FPGA；

云計(jì)算服務(wù)商自研加速芯片（如Google的TPU）。

訓(xùn)練市場(chǎng)目前能與NVIDIA競(jìng)爭的就是Google，傳統(tǒng)CPU/GPU廠家Intel和AMD也在努力進(jìn)入訓(xùn)練市場(chǎng)。

2、云端推理

如果說云端訓(xùn)練芯片是NVIDIA一家獨(dú)大，那云端推理芯片則是百家爭鳴，各有千秋。

相比訓(xùn)練芯片，推理芯片考慮的因素更加綜合：單位功耗算力，時(shí)延，成本等等。AI發(fā)展初期推理也采用GPU進(jìn)行加速，目前來看，競(jìng)爭態(tài)勢(shì)中英偉達(dá)依然占大頭，但由于應(yīng)用場(chǎng)景的特殊性，依據(jù)具體神經(jīng)網(wǎng)絡(luò)算法優(yōu)化會(huì)帶來更高的效率，F(xiàn)PGA/ASIC的表現(xiàn)可能更突出。

除了Nvidia、Google、Xilinx、Altera（Intel）等傳統(tǒng)芯片大廠涉足云端推理芯片以外，Wave computing、Groq 等初創(chuàng)公司也加入競(jìng)爭。中國公司里，寒武紀(jì)、比特大陸等同樣積極布局云端芯片業(yè)務(wù)。

3、終端推理

在面向智能手機(jī)、智能攝像頭、機(jī)器人/無人機(jī)、自動(dòng)駕駛、VR、智能家居設(shè)備、各種IoT設(shè)備等設(shè)備的終端推理AI芯片方面，目前多采用ASIC，還未形成一家獨(dú)大的態(tài)勢(shì)。

終端的數(shù)量龐大，而且需求差異較大。AI芯片廠商可發(fā)揮市場(chǎng)作用，面向各個(gè)細(xì)分市場(chǎng)，研究應(yīng)用場(chǎng)景，以應(yīng)用帶動(dòng)芯片。

傳統(tǒng)芯片大廠如NVIDIA、Intel、ARM、高通等都積極布局，中國芯片創(chuàng)業(yè)企業(yè)，如寒武紀(jì)、地平線等，也有不俗表現(xiàn)，在一些細(xì)分市場(chǎng)領(lǐng)域頗有建樹。

AI芯片技術(shù)路線

一、AI芯片主要技術(shù)路線

目前，作為加速應(yīng)用的AI芯片，主要的技術(shù)路線有三種：GPU、FPGA、ASIC。

1、GPU

GPU（Graphics Processing Unit），即圖形處理器，是一種由大量核心組成的大規(guī)模并行計(jì)算架構(gòu)，專為同時(shí)處理多重任務(wù)而設(shè)計(jì)。GPU是專門處理圖像計(jì)算的，包括各種特效的顯示，更加針對(duì)圖像的渲染等計(jì)算算法。這些算法與深度學(xué)習(xí)的算法還是有比較大的區(qū)別。當(dāng)然，GPU非常適合做并行計(jì)算，也可以用來給AI加速。

GPU因良好的矩陣計(jì)算能力和并行計(jì)算優(yōu)勢(shì)，最早被用于AI計(jì)算，在數(shù)據(jù)中心中獲得大量應(yīng)用。GPU采用并行架構(gòu)，超過80%部分為運(yùn)算單元，具備較高性能運(yùn)算速度。相比較下，CPU僅有20%為運(yùn)算單元，更多的是邏輯單元，因此CPU擅長邏輯控制與串行運(yùn)算，而GPU擅長大規(guī)模并行運(yùn)算。GPU最早作為深度學(xué)習(xí)算法的芯片被引入人工智能領(lǐng)域，因其良好的浮點(diǎn)計(jì)算能力適用于矩陣計(jì)算，且相比CPU具有明顯的數(shù)據(jù)吞吐量和并行計(jì)算優(yōu)勢(shì)。

2011年谷歌大腦率先應(yīng)用GPU芯片，當(dāng)時(shí)12顆英偉達(dá)的GPU可以提供約等于2000顆CPU的深度學(xué)習(xí)性能，展示了其驚人的運(yùn)算能力。目前GPU已經(jīng)成為人工智能領(lǐng)域最普遍最成熟的智能芯片，應(yīng)用于數(shù)據(jù)中心加速和部分智能終端領(lǐng)域，在深度學(xué)習(xí)的訓(xùn)練階段其性能更是無所匹敵。

在深度學(xué)習(xí)上游訓(xùn)練端（主要用在云計(jì)算數(shù)據(jù)中心里），GPU是當(dāng)仁不讓的第一選擇。目前GPU的市場(chǎng)格局以英偉達(dá)為主（超過70%），AMD為輔，預(yù)計(jì)未來幾年內(nèi)GPU仍然是深度學(xué)習(xí)訓(xùn)練市場(chǎng)的第一選擇。

另外，GPU無法單獨(dú)工作，必須由CPU進(jìn)行控制調(diào)用才能工作。CPU可單獨(dú)作用，處理復(fù)雜的邏輯運(yùn)算和不同的數(shù)據(jù)類型，當(dāng)需要大量的處理類型統(tǒng)一的數(shù)據(jù)時(shí)，則可調(diào)用GPU進(jìn)行并行計(jì)算。

2、FPGA

FPGA（Field-Programmable Gate Array），即現(xiàn)場(chǎng)可編程門陣列，作為專用集成電路領(lǐng)域中的一種半定制電路出現(xiàn)。FPGA利用門電路直接運(yùn)算，速度快，而用戶可以自由定義這些門電路和存儲(chǔ)器之間的布線，改變執(zhí)行方案，以期得到最佳效果。

FPGA可以采用OpenCL等更高效的編程語言，降低了硬件編程的難度，還可以集成重要的控制功能，整合系統(tǒng)模塊，提高了應(yīng)用的靈活性，與GPU相比，F(xiàn)PGA具備更強(qiáng)的平均計(jì)算能力和更低的功耗。

FPGA適用于多指令，單數(shù)據(jù)流的分析，與GPU相反，因此常用于推理階段。FPGA是用硬件實(shí)現(xiàn)軟件算法，因此在實(shí)現(xiàn)復(fù)雜算法方面有一定的難度，缺點(diǎn)是價(jià)格比較高。

FPGA因其在靈活性和效率上的優(yōu)勢(shì)，適用于虛擬化云平臺(tái)和推理階段，在2015年后異軍突起。2015年Intel收購FPGA市場(chǎng)第二大企業(yè)Altera，開始了FPGA在人工智能領(lǐng)域的應(yīng)用熱潮。因?yàn)镕PGA靈活性較好、處理簡單指令重復(fù)計(jì)算比較強(qiáng)，用在云計(jì)算架構(gòu)形成CPU+FPGA的混合異構(gòu)中相比GPU更加的低功效和高性能，適用于高密度計(jì)算，在深度學(xué)習(xí)的推理階段有著更高的效率和更低的成本，使得全球科技巨頭紛紛布局云端FPGA生態(tài)。

國外包括亞馬遜、微軟都推出了基于FPGA的云計(jì)算服務(wù)，而國內(nèi)包括騰訊云、阿里云均在2017年推出了基于FPGA的服務(wù)，百度大腦也使用了FPGA芯片。中國剛剛被Xilinx收購的深鑒科技也是基于FPGA來設(shè)計(jì)深度學(xué)習(xí)的加速器架構(gòu)，可以靈活擴(kuò)展用于服務(wù)器端和嵌入式端。

3、ASIC

ASIC（Application Specific Integrated Circuits），即專用集成電路，是一種為專用目的設(shè)計(jì)的，面向特定用戶需求的定制芯片，在大規(guī)模量產(chǎn)的情況下具備性能更強(qiáng)、體積更小、功耗更低、成本更低、可靠性更髙等優(yōu)點(diǎn)。

ASIC與GPU和FPGA不同，GPU和FPGA除了是一種技術(shù)路線之外，還是實(shí)實(shí)在在的確定的產(chǎn)品，而ASIC就是一種技術(shù)路線或者方案，其呈現(xiàn)出的最終形態(tài)與功能也是多種多樣的。

近年來越來越多的公司開始采用ASIC芯片進(jìn)行深度學(xué)習(xí)算法加速，其中表現(xiàn)最為突出的是Google的TPU。TPU比同時(shí)期的GPU或CPU平均提速15~30倍，能效比提升30~80倍。相比FPGA，ASIC芯片具備更低的能耗與更高的計(jì)算效率。但是ASIC研發(fā)周期較長、商業(yè)應(yīng)用風(fēng)險(xiǎn)較大等不足也使得只有大企業(yè)或背靠大企業(yè)的團(tuán)隊(duì)愿意投入到它的完整開發(fā)中。

AlphaGo就使用TPU，同時(shí)TPU也支持著Google的Cloud TPU平臺(tái)和基于此的機(jī)器學(xué)習(xí)超級(jí)計(jì)算機(jī)。此外，國內(nèi)企業(yè)寒武紀(jì)開發(fā)的Cambricon系列芯片受到廣泛關(guān)注。華為的麒麟980處理器所搭載的NPU就是寒武紀(jì)的處理器。

二、AI芯片技術(shù)路線走向

1、短期：GPU仍延續(xù)AI芯片的領(lǐng)導(dǎo)地位，F(xiàn)PGA增長較快

GPU短期將延續(xù)AI芯片的領(lǐng)導(dǎo)地位。目前GPU是市場(chǎng)上用于AI計(jì)算最成熟應(yīng)用最廣泛的通用型芯片，在算法技術(shù)和應(yīng)用層次尚淺時(shí)期，GPU由于其強(qiáng)大的計(jì)算能力、較低的研發(fā)成本和通用性將繼續(xù)占領(lǐng)AI芯片的主要市場(chǎng)份額。GPU的領(lǐng)軍廠商英偉達(dá)仍在不斷探尋GPU的技術(shù)突破，新推出的Volta架構(gòu)使得GPU一定程度上克服了在深度學(xué)習(xí)推理階段的短板，在效率要求和場(chǎng)景應(yīng)用進(jìn)一步深入之前，作為數(shù)據(jù)中心和大型計(jì)算力支撐的主力軍，GPU仍具有很大的優(yōu)勢(shì)。

FPGA是目前增長點(diǎn)，F(xiàn)PGA的最大優(yōu)勢(shì)在于可編程帶來的配置靈活性，在目前技術(shù)與運(yùn)用都在快速更迭的時(shí)期具有巨大的實(shí)用性，而且FPGA還具有比GPU更高的功效能耗比。企業(yè)通過FPGA可以有效降低研發(fā)調(diào)試成本，提高市場(chǎng)響應(yīng)能力，推出差異化產(chǎn)品。

在專業(yè)芯片發(fā)展得足夠重要之前，F(xiàn)PGA是最好的過渡產(chǎn)品，所以科技巨頭紛紛布局云計(jì)算+FPGA的平臺(tái)。隨著FPGA的開發(fā)者生態(tài)逐漸豐富，適用的編程語言增加，F(xiàn)PGA運(yùn)用會(huì)更加廣泛。因此短期內(nèi)，F(xiàn)PGA作為兼顧效率和靈活性的硬件選擇仍將是熱點(diǎn)所在。

2、長期：三大類技術(shù)路線各有優(yōu)劣，會(huì)長期并存

1）GPU主攻高級(jí)復(fù)雜算法和通用型人工智能平臺(tái)

GPU未來的進(jìn)化路線可能會(huì)逐漸發(fā)展為兩條路，一條主攻高端復(fù)雜算法的實(shí)現(xiàn)，由于GPU相比FPGA和ASIC高性能計(jì)算能力較強(qiáng)，同時(shí)對(duì)于指令的邏輯控制上也更復(fù)雜一些，在面臨需求通用型AI計(jì)算的應(yīng)用方面具有較大優(yōu)勢(shì)。第二條路則是通型人工智能平臺(tái)，GPU由于設(shè)計(jì)方面，通用性強(qiáng)，性能較高，應(yīng)用于大型人工智能平臺(tái)夠高效地完成不同種類的調(diào)用需求。

2） FPGA適用變化多的垂直細(xì)分行業(yè)

FPGA具有獨(dú)一無二的靈活性優(yōu)勢(shì)，對(duì)于部分市場(chǎng)變化迅速的行業(yè)非常適用。同時(shí)，F(xiàn)PGA的高端器件中也可以逐漸增加DSP、ARM核等高級(jí)模塊，以實(shí)現(xiàn)較為復(fù)雜的算法。FPGA以及新一代ACAP芯片，具備了高度的靈活性，可以根據(jù)需求定義計(jì)算架構(gòu)，開發(fā)周期遠(yuǎn)遠(yuǎn)小于設(shè)計(jì)一款專用芯片，更適用于各種細(xì)分的行業(yè)。ACAP的出現(xiàn)，引入了AI核的優(yōu)點(diǎn)，勢(shì)必會(huì)進(jìn)一步拉近與專用芯片的差距。隨著 FPGA 應(yīng)用生態(tài)的逐步成熟，F(xiàn)PGA 的優(yōu)勢(shì)也會(huì)逐漸為更多用戶所了解。

3） ASIC芯片是全定制芯片，長遠(yuǎn)看適用于人工智能

因?yàn)樗惴◤?fù)雜度越強(qiáng)，越需要一套專用的芯片架構(gòu)與其進(jìn)行對(duì)應(yīng)，而ASIC基于人工智能算法進(jìn)行定制，其發(fā)展前景看好。ASIC是AI領(lǐng)域未來潛力較大的芯片，AI算法廠商有望通過算法嵌入切入該領(lǐng)域。ASIC具有高性能低消耗的特點(diǎn)，可以基于多個(gè)人工智算法進(jìn)行定制，其定制化的特點(diǎn)使其能夠針對(duì)不同環(huán)境達(dá)到最佳適應(yīng)，在深度學(xué)習(xí)的訓(xùn)練和推理階段皆能占據(jù)一定地位。

目前由于人工智能產(chǎn)業(yè)仍處在發(fā)展的初期，較高的研發(fā)成本和變幻莫測(cè)的市場(chǎng)使得很多企業(yè)望而卻步。未來當(dāng)人工智能技術(shù)、平臺(tái)和終端的發(fā)展達(dá)到足夠成熟度，人工智能應(yīng)用的普及程使得專用芯片能夠達(dá)到量產(chǎn)水平，此時(shí)ASIC芯片的發(fā)展將更上一層樓。

此外，AI算法提供商也有望將已經(jīng)優(yōu)化設(shè)計(jì)好的算法直接燒錄進(jìn)芯片，從而實(shí)現(xiàn)算法IP的芯片化，這將為AI芯片的發(fā)展注入新的動(dòng)力。

AI芯片市場(chǎng)分析

一、AI芯片市場(chǎng)概覽

2018年全球AI芯片市場(chǎng)規(guī)模預(yù)計(jì)將超過20億美元，隨著包括谷歌、Facebook、微軟、亞馬遜以及百度、阿里、騰訊在內(nèi)的互聯(lián)網(wǎng)巨頭相繼入局，預(yù)計(jì)到2020年全球市場(chǎng)規(guī)模將超過100億美元，其中中國的市場(chǎng)規(guī)模近25億美元，增長非常迅猛，發(fā)展空間巨大。

目前全球各大芯片公司都在積極進(jìn)行AI芯片的布局。在云端，Nvidia的GPU芯片被廣泛應(yīng)用于深度神經(jīng)網(wǎng)絡(luò)的訓(xùn)練和推理。Google TPU通過云服務(wù)Cloud TPU的形式把TPU開放商用。老牌芯片巨頭Intel推出了Nervana Neural Network Processors（NNP）。而初創(chuàng)公司如Wave Computing、Groq、寒武紀(jì)、比特大陸等也加入了競(jìng)爭的行列，陸續(xù)推出了針對(duì)AI的芯片和硬件系統(tǒng)。

智能手機(jī)是目前應(yīng)用最為廣泛的邊緣計(jì)算終端設(shè)備，包括三星、蘋果、華為、高通、聯(lián)發(fā)科在內(nèi)的手機(jī)芯片廠商紛紛推出或者正在研發(fā)專門適應(yīng)AI應(yīng)用的芯片產(chǎn)品。另外，也有很多初創(chuàng)公司加入這個(gè)領(lǐng)域，為包括智能手機(jī)在內(nèi)的眾多類型邊緣計(jì)算設(shè)備提供芯片和系統(tǒng)方案，比如寒武紀(jì)、地平線等。傳統(tǒng)的IP廠商，包括ARM、Synopsys、Cadence等公司也都為手機(jī)、平板電腦、智能攝像頭、無人機(jī)、工業(yè)和服務(wù)機(jī)器人、智能音箱等邊緣計(jì)算設(shè)備開發(fā)專用IP產(chǎn)品。此外在終端應(yīng)用中還蘊(yùn)藏著IoT這一金礦，AI芯片只有實(shí)現(xiàn)從云端走向終端，才能真正賦予“萬物智能”。

二、四大場(chǎng)景的芯片賽道

1、數(shù)據(jù)中心

在云計(jì)算數(shù)據(jù)中心，上游訓(xùn)練端GPU是當(dāng)仁不讓的第一選擇。目前GPU的市場(chǎng)格局以英偉達(dá)為主（超過70%），AMD為輔，預(yù)計(jì)未來幾年GPU仍然是深度學(xué)習(xí)市場(chǎng)的第一選擇。

下游推理端更接近終端應(yīng)用，更關(guān)注響應(yīng)時(shí)間而不是吞吐率，需求更加細(xì)分，除了主流的GPU芯片之外，下游推理端可容納FPGA、ASIC等芯片。競(jìng)爭態(tài)勢(shì)中英偉達(dá)依然占大頭，但隨著AI的發(fā)展，F(xiàn)PGA的低延遲、低功耗、可編程性（適用于傳感器數(shù)據(jù)預(yù)處理工作以及小型開發(fā)試錯(cuò)升級(jí)迭代階段）和ASIC的特定優(yōu)化和效能優(yōu)勢(shì)（適用于在確定性執(zhí)行模型）將凸顯出來。

2、自動(dòng)駕駛

自動(dòng)駕駛對(duì)芯片算力有很高的要求， 而受限于時(shí)延及可靠性，有關(guān)自動(dòng)駕駛的計(jì)算不能在云端進(jìn)行，因此終端推理芯片升級(jí)勢(shì)在必行。根據(jù)豐田公司的統(tǒng)計(jì)數(shù)據(jù)，實(shí)現(xiàn)L5級(jí)完全自動(dòng)駕駛，至少需要12TOPS的推理算力，按照Nvidia PX2自動(dòng)駕駛平臺(tái)測(cè)算，差不多需要15塊PX2車載計(jì)算機(jī)，才能滿足完全自動(dòng)駕駛的需求。

目前，自動(dòng)駕駛上游系統(tǒng)解決方案逐漸形成英偉達(dá)與英特爾-Mobileye聯(lián)盟兩大競(jìng)爭者。

除了上述兩大主力汽車芯片競(jìng)爭方，百度雖然與英偉達(dá)合作密切（Apollo開放平臺(tái)從數(shù)據(jù)中心到自動(dòng)駕駛都將使用英偉達(dá)技術(shù)，包括Tesla GPU和DRIVE PX 2，以及CUDA和TensorRT在內(nèi)的英偉達(dá)軟件），卻也采用Xilinx的FPGA芯片加速機(jī)器學(xué)習(xí)，用于語音識(shí)別和汽車自動(dòng)駕駛。

3、安防

AI正在以極其聲勢(shì)浩大的節(jié)奏全面“入侵”整個(gè)安防產(chǎn)業(yè)。作為這一波人工智能浪潮最大落地領(lǐng)域——安防，是必爭之地。一大批AI芯片廠商扎堆涌入，其中既有AI芯片創(chuàng)業(yè)玩家，也有傳統(tǒng)安防芯片霸主海思的強(qiáng)勢(shì)入局。

總的來說，寒武紀(jì)、地平線等AI芯片公司提供的安防AI芯片屬于協(xié)處理器，需要搭配其他公司的攝像機(jī)SoC芯片使用。而海思的安防AI芯片本身就是安防攝像機(jī)SoC芯片，只是新加入了AI模塊——這也是海思安防AI芯片的最大競(jìng)爭力。

也要看到，AI與AI芯片離大規(guī)?？焖俾涞厝杂芯嚯x，其中一大原因就是工程化困難——尤其是在安防這種產(chǎn)業(yè)鏈漫長而復(fù)雜的產(chǎn)業(yè)，新技術(shù)落地需要長時(shí)間的積累與打磨，以及人力資源的不斷投入，這些都是擺在AI與AI芯片企業(yè)面前的難題。

4、手機(jī)終端AI

手機(jī)芯片市場(chǎng)的玩家定位包括：

采用芯片+整機(jī)垂直商業(yè)模式的廠商：蘋果，三星，華為等；

獨(dú)立芯片供應(yīng)商：高通，聯(lián)發(fā)科，展銳等；

向芯片企業(yè)提供獨(dú)立IP授權(quán)的供應(yīng)商：ARM，Synopsys，Cadence，寒武紀(jì)等。

采用垂直商業(yè)模式廠商的芯片不對(duì)外發(fā)售，只服務(wù)于自身品牌的整機(jī)，性能針對(duì)自身軟件做出了特殊優(yōu)化，靠效率取勝。獨(dú)立芯片供應(yīng)商以相對(duì)更強(qiáng)的性能指標(biāo)，來獲得剩余廠商的市場(chǎng)份額。

從2017年開始，蘋果、華為海思、高通、聯(lián)發(fā)科等主要芯片廠商相繼發(fā)布支持AI加速功能的新一代芯片，AI芯片逐漸向中端產(chǎn)品滲透。由于手機(jī)空間有限，獨(dú)立的AI芯片很難被手機(jī)廠商采用。在AI加速芯片設(shè)計(jì)能力上有先發(fā)優(yōu)勢(shì)的企業(yè)（如寒武紀(jì)）一般通過IP授權(quán)的方式切入。

高通很有可能在手機(jī)AI賽道延續(xù)優(yōu)勢(shì)地位。近日發(fā)布的驍龍855被稱為當(dāng)前最強(qiáng)AI芯片，比起蘋果A12、華為麒麟980，性能提升1倍，并將成為全球第一款商用5G芯片。

AI芯片主要廠商介紹

在AI芯片領(lǐng)域，國外芯片巨頭占據(jù)了絕大部分市場(chǎng)份額，不論是在人才聚集還是公司合并等方面，都具有領(lǐng)先優(yōu)勢(shì)。尤其是美國巨頭企業(yè)，憑借芯片領(lǐng)域多年的領(lǐng)先地位，迅速切入AI領(lǐng)域，積極布局，四處開花，目前處于引領(lǐng)產(chǎn)業(yè)發(fā)展的地位，并且在GPU和FPGA方面是完全壟斷地位。國內(nèi)AI芯片公司多為中小型初創(chuàng)公司，在一些細(xì)分市場(chǎng)也有建樹，誕生了多個(gè)獨(dú)角獸企業(yè)。

一、國外主要廠商

1、NVIDIA 英偉達(dá)

目前AI芯片領(lǐng)域主要的供應(yīng)商仍然是英偉達(dá)，占全球AI芯片50%以上市場(chǎng)份額。英偉達(dá)保持了極大的投入力度，快速提高GPU的核心性能，增加新型功能，保持了在AI訓(xùn)練市場(chǎng)的霸主地位，并積極拓展終端嵌入式產(chǎn)品形態(tài)，推出Xavier系列。

英偉達(dá)旗下產(chǎn)品線遍布自動(dòng)駕駛汽車、高性能計(jì)算、機(jī)器人、醫(yī)療保健、云計(jì)算、游戲視頻等眾多領(lǐng)域。

英偉達(dá)擁有目前最為成熟的開發(fā)生態(tài)環(huán)境——CUDA ，因其統(tǒng)一而完整的開發(fā)套件，豐富的庫以及對(duì)英偉達(dá)GPU的原生支持而成為開發(fā)主流，目前已開發(fā)至第9代，開發(fā)者人數(shù)超過51萬。

英偉達(dá)還將聯(lián)合芯片巨頭ARM打造IoT設(shè)備的AI芯片專用IP，這款機(jī)器學(xué)習(xí)IP集成到ARM的Project Trillium平臺(tái)上，以實(shí)現(xiàn)機(jī)器學(xué)習(xí)，其技術(shù)源于英偉達(dá)Xavier芯片以及去年開源的DLA深度學(xué)習(xí)加速器項(xiàng)目。

2、Intel 英特爾

英特爾作為傳統(tǒng)PC芯片的老大，也在積極向PC以外的市場(chǎng)轉(zhuǎn)型。

為了加強(qiáng)在AI芯片領(lǐng)域的實(shí)力，英特爾收購FPGA生產(chǎn)商Altera，收購自動(dòng)駕駛技術(shù)公司Mobileye，以及機(jī)器視覺公司 Movidius和為自動(dòng)駕駛汽車芯片提供安全工具的公司Yogitech，收購人工智能軟硬件創(chuàng)業(yè)公司Nervana。在數(shù)據(jù)中心、自動(dòng)駕駛等重要領(lǐng)域布局扎實(shí)。

3、Google 谷歌

Google在2016年宣布獨(dú)立開發(fā)一種名為TPU的全新處理系統(tǒng)。在2016年3月打敗了李世石和2017年5月打敗了柯杰的的AlphaGo，就是采用了谷歌的TPU系列芯片。

TPU是專門為機(jī)器學(xué)習(xí)應(yīng)用而設(shè)計(jì)的專用芯片。通過降低芯片的計(jì)算精度，減少實(shí)現(xiàn)每個(gè)計(jì)算操作所需的晶體管數(shù)量，從而能讓芯片的每秒運(yùn)行的操作個(gè)數(shù)更高，這樣經(jīng)過精細(xì)調(diào)優(yōu)的機(jī)器學(xué)習(xí)模型就能在芯片上運(yùn)行得更快，加深了人工智能在訓(xùn)練和推理方面的能力，進(jìn)而更快地讓用戶得到更智能的結(jié)果。

2018年3月Google I/O大會(huì)推出TPU3.0。據(jù)官方數(shù)據(jù)，TPU3.0的性能是TPU2.0的八倍，高達(dá) 100 petaflops。

Cloud TPU是谷歌設(shè)計(jì)的硬件加速器，為加速、拓展特定tensorflow機(jī)器學(xué)習(xí)workload而優(yōu)化。每個(gè)TPU里內(nèi)置了四個(gè)定制ASIC，單塊板卡的計(jì)算能力達(dá)每秒180 teraflops，高帶寬內(nèi)存有64GB。這些板卡既能單獨(dú)使用，也可通過超高速專用網(wǎng)絡(luò)連接從而形成“TPU pod”。谷歌已在谷歌云（GCP）開放Cloud TPU的計(jì)算能力，幫助機(jī)器學(xué)習(xí)專家更快速訓(xùn)練和運(yùn)行模型。

Edge TPU的尺寸約為1美分硬幣的1/8大小，它可以在較小的物理尺寸以及功耗范圍內(nèi)提供不錯(cuò)的性能，支持PCIe以及USB接口。Edge TPU優(yōu)勢(shì)在于可以加速設(shè)備上的機(jī)器學(xué)習(xí)推理，或者也可以與Google Cloud配對(duì)以創(chuàng)建完整的云端到邊緣機(jī)器學(xué)習(xí)堆棧。

4、Xilinx 賽靈思

2018年3月，賽靈思宣布推出一款超越FPGA功能的新產(chǎn)品——ACAP（自適應(yīng)計(jì)算加速平臺(tái)）。其核心是新一代的FPGA架構(gòu)。10月，發(fā)布最新基于7nm工藝的ACAP平臺(tái)的第一款處理器——Versal。其使用多種計(jì)算加速技術(shù)，可以為任何應(yīng)用程序提供強(qiáng)大的異構(gòu)加速。Versal Prime系列和Versal AI Core系列產(chǎn)品也將于 2019 年推出。

Xilinx和Intel兩家不約而同把FPGA未來市場(chǎng)重心放到數(shù)據(jù)中心市場(chǎng)。

二、國內(nèi)主要廠商

國內(nèi)AI芯片廠商以中小公司為主，沒有巨頭，多集中于設(shè)備端AI ASIC的開發(fā)，并已有所建樹，如寒武紀(jì)成為全球AI芯片領(lǐng)域第一個(gè)獨(dú)角獸初創(chuàng)公司，其NPU IP已被應(yīng)用于全球首款手機(jī)AI芯片——麒麟970。

但是，中國在FPGA、GPU領(lǐng)域缺乏有競(jìng)爭力的原創(chuàng)產(chǎn)品，只是基于FPGA/GPU做進(jìn)一步開發(fā)，這主要與我國在芯片領(lǐng)域一直缺乏關(guān)鍵核心自主技術(shù)有關(guān)，F(xiàn)PGA/GPU的技術(shù)壁壘已很高，很難有所突破。

1、寒武紀(jì) Cambricon

寒武紀(jì)創(chuàng)立于2016年3月，是中科院孵化的高科技企業(yè)。

2018年5月，寒武紀(jì)推出第一款智能處理板卡，搭載了寒武紀(jì) MLU100 芯片，為云端推理提供強(qiáng)大的運(yùn)算能力支撐。等效理論計(jì)算能力高達(dá)128 TOPS，支持4通道64 bit ECCDDR4內(nèi)存，并支持多種容量。

1M是寒武紀(jì)第三代機(jī)器學(xué)習(xí)專用芯片，使用TSMC 7nm工藝生產(chǎn)，其8位運(yùn)算效能比達(dá) 5Tops/watt（每瓦 5 萬億次運(yùn)算）。寒武紀(jì)1M處理器延續(xù)了前兩代IP產(chǎn)品（1H/1A）的完備性，可支持CNN、RNN、SOM等多種深度學(xué)習(xí)模型，又進(jìn)一步支持了SVM、K-NN、K-Means、決策樹等經(jīng)典機(jī)器學(xué)習(xí)算法的加速。這款芯片支持幫助終端設(shè)備進(jìn)行本地訓(xùn)練，可為視覺、語音、自然語言處理等任務(wù)提供高效計(jì)算平臺(tái)。

寒武紀(jì)也推出了面向開發(fā)者的寒武紀(jì)人工智能軟件平臺(tái)Cambricon NeuWare，這是在終端和云端的AI芯片共享的軟件接口和生態(tài)，包含開發(fā)、調(diào)試和調(diào)優(yōu)三大部分，體現(xiàn)了創(chuàng)始人陳天石提出的“端云一體”的思路。

2、華為海思 Hisilicon

海思半導(dǎo)體成立于2004年10月，是華為集團(tuán)的全資子公司。

麒麟970集成NPU神經(jīng)處理單元，是全球第一款手機(jī)AI芯片，它在處理靜態(tài)神經(jīng)網(wǎng)絡(luò)模型方面有得天獨(dú)厚的優(yōu)勢(shì)；新一代的麒麟980用于最新的Mate20系列和榮耀Magic 2。二者均采用寒武紀(jì)的AI IP。

安防是一眾AI芯片公司紛紛瞄準(zhǔn)的重要落地場(chǎng)景，作為傳統(tǒng)安防芯片霸主，海思表示以后的所有IPC芯片新品，都將搭載專用AI模塊。

華為近期提出了全棧全場(chǎng)景AI解決方案，發(fā)布了兩款A(yù)I芯片，昇騰910和昇騰310。昇騰910是目前單芯片計(jì)算密度最大的芯片，計(jì)算力遠(yuǎn)超谷歌及英偉達(dá)，而昇騰310芯片的最大功耗僅8W，是極致高效計(jì)算低功耗AI芯片。

3、地平線 Horizon Robotics

地平線成立于2015年7月，是一家注重軟硬件結(jié)合的AI初創(chuàng)公司，由Intel、嘉實(shí)資本、高瓴資本領(lǐng)投。

2017年12月，地平線自主設(shè)計(jì)研發(fā)了中國首款嵌入式人工智能視覺芯片——旭日1.0和征程1.0。

旭日1.0是面向智能攝像頭的處理器，具備在前端實(shí)現(xiàn)大規(guī)模人臉檢測(cè)跟蹤、視頻結(jié)構(gòu)化的處理能力，可廣泛用于智能城市、智能商業(yè)等場(chǎng)景。

征程1.0是面向自動(dòng)駕駛的處理器，可同時(shí)對(duì)行人、機(jī)動(dòng)車、非機(jī)動(dòng)車、車道線交通標(biāo)識(shí)等多類目標(biāo)進(jìn)行精準(zhǔn)的實(shí)時(shí)監(jiān)測(cè)和識(shí)別，實(shí)現(xiàn)FCW/LDW/JACC等高級(jí)別輔助駕駛功能。

地平線今年又推出了基于旭日（Sunrise）2.0的架構(gòu)（BPU2.0，伯努利架構(gòu)）的XForce邊緣AI計(jì)算平臺(tái)，其主芯片為Intel A10 FPGA，典型功耗35W，可用于視頻人臉識(shí)別、人體分割、肢體檢測(cè)等功能。

4、比特大陸 Bitmain

比特大陸成立于2013年10月，是全球第一大比特幣礦機(jī)公司，目前占領(lǐng)了全球比特幣礦機(jī) 70%以上的市場(chǎng)。并已將業(yè)務(wù)拓展至AI領(lǐng)域，于2017年推出云端AI芯片BM1680，支持訓(xùn)練和推斷。目前已推出第二代產(chǎn)品BM1682，相較上一代性能提升5倍以上。

BM1880是比特大陸首款面向邊緣端計(jì)算的低功耗AI協(xié)處理器，采用28nm工藝，ARM A53雙核架構(gòu)，RISC-V CPU，其典型功耗2W，int 8精度算力能夠達(dá)到1Tops。

比特大陸提供端云一體化的AI解決方案，與終端AI芯片不同，比特大陸的云端AI芯片將不會(huì)單獨(dú)發(fā)售，只搭載在板卡、云服務(wù)器中提供給合作伙伴。

比特大陸將其AI芯片落地產(chǎn)業(yè)拓展到了四大類，分別是：安防、園區(qū)、智慧城市、互聯(lián)網(wǎng)。

三、互聯(lián)網(wǎng)巨頭入局與新模式

1、互聯(lián)網(wǎng)巨頭入局

全球互聯(lián)網(wǎng)巨頭紛紛高調(diào)宣布進(jìn)入半導(dǎo)體行業(yè)，阿里、微軟、Google、Facebook、亞馬遜等都宣布在芯片領(lǐng)域的動(dòng)作。當(dāng)互聯(lián)網(wǎng)巨頭開始進(jìn)入芯片市場(chǎng)時(shí)，會(huì)對(duì)芯片行業(yè)產(chǎn)生巨大的影響。

首先，互聯(lián)網(wǎng)巨頭追求硬件能實(shí)現(xiàn)極致化的性能以實(shí)現(xiàn)差異化用戶體驗(yàn)用來吸引用戶。在摩爾定律即將遇到瓶頸之際，想要追求極致體驗(yàn)需要走異構(gòu)計(jì)算，自己定制化芯片的道路，光靠采購傳統(tǒng)半導(dǎo)體廠商的芯片，已經(jīng)沒法滿足互聯(lián)網(wǎng)巨頭對(duì)于硬件的需求，至少在核心芯片部分是這樣。因此，F(xiàn)acebook、Google、阿里等互聯(lián)網(wǎng)巨頭都是異構(gòu)計(jì)算的積極擁護(hù)者，為了自己的硬件布局或計(jì)劃設(shè)計(jì)芯片，或已經(jīng)開始設(shè)計(jì)芯片。這么一來，原來是半導(dǎo)體公司下游客戶的互聯(lián)網(wǎng)公司現(xiàn)在不需要從半導(dǎo)體公司采購芯片了，這樣的產(chǎn)業(yè)分工變化會(huì)引起行業(yè)巨變。

其次，互聯(lián)網(wǎng)巨頭制造硬件的目的只是為了吸引用戶進(jìn)入自己的生態(tài)，使用自己的服務(wù)，其最終盈利點(diǎn)并不在販賣硬件上而是在增值服務(wù)上。因此，互聯(lián)網(wǎng)巨頭在為了自己的硬件設(shè)計(jì)芯片時(shí)可以不計(jì)成本。

從另一個(gè)角度來說，一旦自己設(shè)計(jì)核心芯片的互聯(lián)網(wǎng)公司進(jìn)入同一個(gè)領(lǐng)域，那些靠采購半導(dǎo)體公司標(biāo)準(zhǔn)芯片搭硬件系統(tǒng)的公司，就完全沒有競(jìng)爭力了，無論是從售價(jià)還是性能，擁有自己核心芯片的互聯(lián)網(wǎng)巨頭都能實(shí)施降維打擊。一旦這些硬件公司失去競(jìng)爭力，那么依賴于這些客戶的半導(dǎo)體公司的生存空間又會(huì)進(jìn)一步被壓縮。

總而言之，互聯(lián)網(wǎng)巨頭進(jìn)入芯片領(lǐng)域，首先出于性能考慮不再從半導(dǎo)體公司采購核心芯片，這沖擊了傳統(tǒng)行業(yè)分工，使傳統(tǒng)芯片公司失去了一類大客戶；另一方面互聯(lián)網(wǎng)巨頭的生態(tài)式打法可以讓自研硬件芯片不考慮成本，這又沖擊了那些從半導(dǎo)體公司采購芯片的傳統(tǒng)硬件公司，從而進(jìn)一步壓縮了半導(dǎo)體公司的市場(chǎng)。在這兩個(gè)作用下，半導(dǎo)體芯片公司的傳統(tǒng)經(jīng)營模式必須發(fā)生改變才能追上新的潮流。

2、Designless-Fabless模式

目前，半導(dǎo)體行業(yè)領(lǐng)域的分工，大概可以分為定義、設(shè)計(jì)、設(shè)計(jì)定案、制造等幾個(gè)環(huán)節(jié)。

今天的半導(dǎo)體行業(yè)，最為大家熟知的是Fabless模式，即芯片設(shè)計(jì)公司負(fù)責(zé)定義、設(shè)計(jì)和設(shè)計(jì)定案，而制造則是在提供代工的Fab完成；如高通，是Fabless的典型代表。

在互聯(lián)網(wǎng)巨頭入局半導(dǎo)體行業(yè)后，又出現(xiàn)了一種新的模式，即互聯(lián)網(wǎng)公司負(fù)責(zé)定義芯片、完成小部分設(shè)計(jì)、并花錢完成設(shè)計(jì)定案流片，設(shè)計(jì)服務(wù)公司負(fù)責(zé)大部分設(shè)計(jì)，而代工廠負(fù)責(zé)芯片制造。這種新模式可以稱為Designless-Fabless模式。

歷史上，半導(dǎo)體公司從傳統(tǒng)的IDM走到Fabless模式，主要是因?yàn)镕ab開銷過高，成為了半導(dǎo)體公司發(fā)展的包袱，而代工廠則提供了一個(gè)非常靈活的選項(xiàng)。

今天，互聯(lián)網(wǎng)公司入局半導(dǎo)體后走Designless-Fabless模式，把大量設(shè)計(jì)外包，則主要是因?yàn)闀r(shí)間成本?；ヂ?lián)網(wǎng)巨頭做芯片，追求的除了極致性能之外，還有快速的上市時(shí)間。對(duì)于他們來說，如果要像傳統(tǒng)半導(dǎo)體公司一樣，需要從頭開始培養(yǎng)自己的前端+后端設(shè)計(jì)團(tuán)隊(duì)，從頭開始積累模塊IP，恐怕第一塊芯片上市要到數(shù)年之后。這樣的節(jié)奏，是跟不上互聯(lián)網(wǎng)公司的快速迭代節(jié)奏的。

那么如何實(shí)現(xiàn)高性能加快速上市呢？最佳方案就是這些巨頭自己招募芯片架構(gòu)設(shè)計(jì)團(tuán)隊(duì)做芯片定義，用有豐富經(jīng)驗(yàn)的業(yè)界老兵來根據(jù)需求定制架構(gòu)以滿足性能需求，而具體的實(shí)現(xiàn)，包括物理版圖設(shè)計(jì)甚至前端電路設(shè)計(jì)都可以交給設(shè)計(jì)服務(wù)公司去做。半導(dǎo)體芯片的一個(gè)重要特點(diǎn)就是細(xì)節(jié)非常重要，ESD、散熱、IR Drop等一個(gè)小細(xì)節(jié)出錯(cuò)就可能導(dǎo)致芯片性能大打折扣無法達(dá)到需求。因此，如果把具體設(shè)計(jì)工作交給有豐富經(jīng)驗(yàn)的設(shè)計(jì)服務(wù)公司，就可以大大減少細(xì)節(jié)出錯(cuò)的風(fēng)險(xiǎn)，從而減小芯片需要重新設(shè)計(jì)延誤上市時(shí)間的風(fēng)險(xiǎn)。

隨著分工的進(jìn)一步細(xì)化，原先起輔助作用的設(shè)計(jì)服務(wù)公司，將越來越重要，能夠與互聯(lián)網(wǎng)巨頭產(chǎn)生互補(bǔ)效應(yīng)。不少半導(dǎo)體公司也注意到了設(shè)計(jì)服務(wù)的潮流，并開始向設(shè)計(jì)服務(wù)靠攏。聯(lián)發(fā)科前一陣高調(diào)公開設(shè)計(jì)服務(wù)業(yè)務(wù)，就是半導(dǎo)體公司轉(zhuǎn)向的重要標(biāo)志。

對(duì)于國內(nèi)的AI芯片初創(chuàng)公司來說，善用這種Designless-Fabless模式，對(duì)于縮短產(chǎn)品研發(fā)周期，提升產(chǎn)品設(shè)計(jì)水平，都有很大幫助。

AI芯片展望

一、AI芯片發(fā)展面臨的問題

目前，AI芯片發(fā)展速度雖然很快，但是現(xiàn)在的人工智能新算法也是層出不窮的，這樣一來就沒有一個(gè)具體的標(biāo)準(zhǔn)，也沒有對(duì)相應(yīng)的規(guī)格進(jìn)行固定。

其次，現(xiàn)在的人工智能算法都僅僅只是針對(duì)于單個(gè)應(yīng)用進(jìn)行研發(fā)的，并沒有能夠覆蓋全方位，所以鮮有殺手級(jí)別的AI應(yīng)用。

在發(fā)展過程中，AI芯片首要解決的問題就是要適應(yīng)現(xiàn)在人工智能算法的演進(jìn)速度，并且要進(jìn)行適應(yīng)，這樣才能夠保證匹配發(fā)展。

此外，AI芯片也要適當(dāng)?shù)膶?duì)架構(gòu)進(jìn)行創(chuàng)新兼容，讓其能夠兼容適應(yīng)更多的應(yīng)用，這樣能夠開發(fā)出更好的包容性應(yīng)用。

目前全球人工智能產(chǎn)業(yè)還處在高速變化發(fā)展中，廣泛的行業(yè)分布為人工智能的應(yīng)用提供了廣闊的市場(chǎng)前景，快速迭代的算法推動(dòng)人工智能技術(shù)快速走向商用，AI芯片是算法實(shí)現(xiàn)的硬件基礎(chǔ)，也是未來人工智能時(shí)代的戰(zhàn)略制高點(diǎn)，但由于目前的 AI算法往往都各具優(yōu)劣，只有給它們?cè)O(shè)定一個(gè)合適的場(chǎng)景才能最好地發(fā)揮其作用，因此，確定應(yīng)用領(lǐng)域就成為發(fā)展AI芯片的重要前提。

從芯片發(fā)展的大趨勢(shì)來看，現(xiàn)在還是AI芯片的初級(jí)階段。無論是科研還是產(chǎn)業(yè)應(yīng)用都有巨大的創(chuàng)新空間。從確定算法、應(yīng)用場(chǎng)景的AI加速芯片向具備更高靈活性、適應(yīng)性的通用智能芯片發(fā)展是技術(shù)發(fā)展的必然方向。未來幾年AI芯片產(chǎn)業(yè)將持續(xù)火熱，公司扎堆進(jìn)入，但也很可能會(huì)出現(xiàn)一批出局者，行業(yè)洗牌，最終的成功與否則將取決于各家公司技術(shù)路徑的選擇和產(chǎn)品落地的速度。

二、半導(dǎo)體行業(yè)周期：下一個(gè)黃金十年

分析半導(dǎo)體市場(chǎng)的歷史（如下圖），我們會(huì)看到典型的周期性現(xiàn)象，即每個(gè)周期都會(huì)有一個(gè)明星應(yīng)用作為引擎驅(qū)動(dòng)半導(dǎo)體市場(chǎng)快速上升，而在該明星應(yīng)用的驅(qū)動(dòng)力不足時(shí)半導(dǎo)體市場(chǎng)就會(huì)陷入原地踏步甚至衰退，直到下一個(gè)明星應(yīng)用出現(xiàn)再次引領(lǐng)增長。這些明星應(yīng)用包括90年代的PC，21世紀(jì)第一個(gè)十年的手機(jī)移動(dòng)通信，以及2010年前后開始的智能手機(jī)。在兩個(gè)明星應(yīng)用之間則可以看到明顯的半導(dǎo)體市場(chǎng)回調(diào)，例如1996-1999年之間那段時(shí)間處于PC和手機(jī)之間的青黃不接，而2008-2009年則是傳統(tǒng)移動(dòng)通信和智能手機(jī)之間的調(diào)整。

半導(dǎo)體過去的十年，是以iPhone為首的智能手機(jī)帶動(dòng)的黃金十年。現(xiàn)在的半導(dǎo)體行業(yè)，即將進(jìn)入兩個(gè)明星應(yīng)用出現(xiàn)之間的調(diào)整期。

誰將成為引領(lǐng)半導(dǎo)體下一個(gè)黃金十年的明星應(yīng)用？

一個(gè)應(yīng)用對(duì)于整個(gè)半導(dǎo)體行業(yè)的驅(qū)動(dòng)作用可以分為兩部分，即應(yīng)用的芯片出貨量以及技術(shù)驅(qū)動(dòng)力。

半導(dǎo)體行業(yè)是一個(gè)十分看重出貨量的領(lǐng)域，只有應(yīng)用的芯片出貨量足夠大時(shí)，這個(gè)市場(chǎng)才能容下足夠多的競(jìng)爭公司，從而驅(qū)動(dòng)半導(dǎo)體行業(yè)。有些應(yīng)用市場(chǎng)總額很大，但是其走的是高售價(jià)高利潤率的模式，芯片出貨量反而不大，這樣的話其對(duì)于半導(dǎo)體行業(yè)的驅(qū)動(dòng)作用就有限。

除了出貨量之外，另一個(gè)重要因素是應(yīng)用的技術(shù)驅(qū)動(dòng)力，即該應(yīng)用是否對(duì)于半導(dǎo)體技術(shù)的更新有著強(qiáng)烈而持續(xù)的要求，因?yàn)橹挥挟?dāng)半導(dǎo)體技術(shù)一直在快速更新迭代時(shí)，半導(dǎo)體行業(yè)才能是一個(gè)高附加值的朝陽行業(yè)，才能吸引最好的人才以及資本進(jìn)入，否則一旦半導(dǎo)體技術(shù)更新緩慢，整個(gè)行業(yè)就會(huì)陷入僵化的局面。

PC時(shí)代的PC機(jī)就是對(duì)半導(dǎo)體有強(qiáng)烈技術(shù)驅(qū)動(dòng)力的典型，PC上的多媒體應(yīng)用對(duì)于處理器速度有著永不滿足的需求，而這又轉(zhuǎn)化成了對(duì)于處理器相關(guān)半導(dǎo)體技術(shù)強(qiáng)烈而持續(xù)的更新需求，直接推動(dòng)了摩爾定律和半導(dǎo)體行業(yè)在90年代的黃金時(shí)期。

反之，有一些應(yīng)用的出貨量很大但是其對(duì)于半導(dǎo)體的技術(shù)驅(qū)動(dòng)力并不大，例如傳統(tǒng)家電中的主控MCU芯片，這些MCU芯片出貨量很大，但是在技術(shù)上并沒有強(qiáng)烈的進(jìn)步需求，不少傳統(tǒng)家電多年如一日一直在用成熟半導(dǎo)體工藝實(shí)現(xiàn)的8位MCU，那么這樣的應(yīng)用對(duì)于半導(dǎo)體來說實(shí)質(zhì)上引領(lǐng)作用也比較有限。

應(yīng)用出貨量決定了半導(dǎo)體行業(yè)的橫向市場(chǎng)規(guī)模，而技術(shù)驅(qū)動(dòng)力則決定了半導(dǎo)體技術(shù)的縱向進(jìn)化動(dòng)能?；仡欀皫讉€(gè)成為半導(dǎo)體行業(yè)引擎的明星應(yīng)用，無不是出貨量和技術(shù)驅(qū)動(dòng)力雙雙領(lǐng)先。

PC出貨量（在當(dāng)時(shí)）很大，且是當(dāng)年摩爾定律黃金時(shí)代的主推者；移動(dòng)手機(jī)在出貨量很大的同時(shí)還推動(dòng)了CMOS／III-V族工藝射頻相關(guān)電路設(shè)計(jì)技術(shù)的大幅進(jìn)展；智能手機(jī)則更是驅(qū)動(dòng)了多項(xiàng)半導(dǎo)體芯片相關(guān)技術(shù)的發(fā)展，例如2.5D高級(jí)封裝，用于3D識(shí)別的激光模組，觸摸屏和指紋相關(guān)芯片等，而一個(gè)智能手機(jī)中包含的半導(dǎo)體芯片數(shù)量從射頻前端、存儲(chǔ)器到慣性傳感器數(shù)量也極多，因此其能撐起半導(dǎo)體的上一個(gè)黃金十年。

所以，能撐起下一個(gè)半導(dǎo)體黃金十年的應(yīng)用，必然在芯片出貨量和技術(shù)驅(qū)動(dòng)力，這兩個(gè)維度上都有強(qiáng)勁的動(dòng)力。

從這個(gè)觀點(diǎn)出發(fā)，可以發(fā)現(xiàn)：

只存在于云端的云AI芯片，是作為一種基礎(chǔ)設(shè)施出現(xiàn)的，歸根到底是服務(wù)2B客戶，因此云AI芯片的出貨量相比智能手機(jī)這樣的智能設(shè)備要小很多。技術(shù)驅(qū)動(dòng)力很強(qiáng)，但是出貨量相對(duì)較小。

IoT的出貨量很大，但是對(duì)于半導(dǎo)體技術(shù)發(fā)展的驅(qū)動(dòng)力就比較有限。

汽車電子的增長點(diǎn)主要還是汽車的智能化，包括自動(dòng)駕駛，車聯(lián)網(wǎng)等等，但是汽車電子的出貨量比起智能手機(jī)設(shè)備少很多。

以上三種應(yīng)用雖然有巨大的空間，但還不能成為支撐力量。

能夠起到支撐作用的，推測(cè)應(yīng)該是在當(dāng)前智能手機(jī)基礎(chǔ)上發(fā)展起來的下一代個(gè)人智能設(shè)備，可能是以AI手機(jī)的形勢(shì)呈現(xiàn)。手機(jī)首先出貨量很大，幾乎人手一個(gè)；此外AI手機(jī)上運(yùn)行的應(yīng)用程序的不斷更新迭代對(duì)于手機(jī)中的芯片技術(shù)提出了強(qiáng)烈而持續(xù)的技術(shù)進(jìn)化需求，因此其對(duì)于半導(dǎo)體行業(yè)的技術(shù)驅(qū)動(dòng)力極強(qiáng)。

未來兩種可能的通用AI芯片技術(shù)路線介紹

一、類腦芯片

這類AI芯片屬于神經(jīng)擬態(tài)芯片，從結(jié)構(gòu)層面去模擬大腦，參考人腦神經(jīng)元結(jié)構(gòu)和人腦感知認(rèn)知方式來設(shè)計(jì)芯片，俗稱“類腦芯片”。

類腦芯片在架構(gòu)上直接通過模仿大腦結(jié)構(gòu)進(jìn)行神經(jīng)擬態(tài)計(jì)算，完全開辟了另一條實(shí)現(xiàn)人工智能的道路，而不是作為人工神經(jīng)網(wǎng)絡(luò)或深度學(xué)習(xí)的加速器存在。類腦芯片可以將內(nèi)存、CPU和通信部件完全集成在一起，實(shí)現(xiàn)極高的通信效率和極低的能耗。目前該類芯片還只是小規(guī)模研究與應(yīng)用，低能耗的優(yōu)勢(shì)也帶來預(yù)測(cè)精度不高等問題，沒有高效的學(xué)習(xí)算法支持使得類腦芯片的進(jìn)化較慢，還不能真正實(shí)現(xiàn)商用。

目前神經(jīng)擬態(tài)芯片的設(shè)計(jì)方法主要分為非硅和硅技術(shù)。非硅主要指采用憶阻器等新型材料和器件搭建的神經(jīng)形態(tài)芯片，還處于研究階段。硅技術(shù)包括模擬和數(shù)字兩種。模擬集成電路的代表是瑞士蘇黎世聯(lián)邦理工學(xué)院的ROLLS芯片和海德堡大學(xué)的BrainScales芯片。數(shù)字集成電路又分為異步同步混合和純同步兩種。其中異步（無全局時(shí)鐘）數(shù)字電路的代表是IBM的TrueNorth，純同步的數(shù)字電路代表是清華大學(xué)的“天機(jī)”系列芯片。

另外，對(duì)于片上自學(xué)習(xí)能力，最近Intel推出了Loihi芯片，帶有自主片上學(xué)習(xí)能力，通過脈沖或尖峰傳遞信息，并自動(dòng)調(diào)節(jié)突觸強(qiáng)度，能夠通過環(huán)境中的各種反饋信息進(jìn)行自主學(xué)習(xí)。中國研究類腦芯片的企業(yè)還有：西井科技，靈汐科技，深思創(chuàng)芯等。

二、可重構(gòu)通用AI芯片

這類AI芯片遵循軟件定義芯片思想，是基于可重構(gòu)計(jì)算架構(gòu)的芯片，兼具處理器的通用性和ASIC的高性能與低功耗，是未來通用AI芯片的方向之一。

可重構(gòu)計(jì)算技術(shù)允許硬件架構(gòu)和功能隨軟件變化而變化，兼具處理器的通用性和ASIC的高性能和低功耗，是實(shí)現(xiàn)軟件定義芯片的核心，被公認(rèn)為是突破性的下一代集成電路技術(shù)。清華大學(xué)微電子學(xué)研究所設(shè)計(jì)的AI芯片Thinker，采用可重構(gòu)計(jì)算架構(gòu)，能夠支持卷積神經(jīng)網(wǎng)絡(luò)、全連接神經(jīng)網(wǎng)絡(luò)和遞歸神經(jīng)網(wǎng)絡(luò)等多種AI算法。

值得一提的是，DARPA在電子振興計(jì)劃（ERI）中提出了三個(gè)支柱：材料、架構(gòu)、設(shè)計(jì)，用于支撐美國2025 - 2030年之間的國家電子設(shè)計(jì)能力。這其中每一個(gè)方向都設(shè)置了一個(gè)課題，其中一個(gè)課題在架構(gòu)中提出了軟件定義硬件的概念，也就是 Software defines Hardware。

ERI中講道：所謂要建立運(yùn)行時(shí)可以實(shí)時(shí)重新配置的硬件和軟件，他們具備像ASIC一樣的性能，而沒有犧牲數(shù)據(jù)密集型計(jì)算的可編程性。

現(xiàn)今的AI芯片在某些具體任務(wù)上可以大幅超越人的能力，但究其通用性與適應(yīng)性，與人類智能相比差距甚遠(yuǎn)，大多處于對(duì)特定算法的加速階段。而AI芯片的最終成果將是通用AI芯片，并且最好是淡化人工干預(yù)的自學(xué)習(xí)、自適應(yīng)芯片。因此未來通用 AI芯片應(yīng)包含以下特征。

1）可編程性：適應(yīng)算法的演進(jìn)和應(yīng)用的多樣性。

2）架構(gòu)的動(dòng)態(tài)可變性：能適應(yīng)不同的算法，實(shí)現(xiàn)高效計(jì)算。

3）高效的架構(gòu)重構(gòu)能力或自學(xué)習(xí)能力。

4）高計(jì)算效率：避免使用指令這類低效率的架構(gòu)。

5）高能量效率：能耗比大于5 Tops/W（即每瓦特進(jìn)行5×10^12次運(yùn)算）。

6）低成本低功耗：能夠進(jìn)入物聯(lián)網(wǎng)設(shè)備及消費(fèi)類電子中。

7）體積?。耗軌蚣虞d在移動(dòng)終端上。

8）應(yīng)用開發(fā)簡便：不需要用戶具備芯片設(shè)計(jì)方面的知識(shí)。

對(duì)于可重構(gòu)架構(gòu)，大家可能覺得FPGA早就可以這樣做了，但實(shí)際上FPGA有很多局限性，包括以下這些：

細(xì)粒度：由于要實(shí)現(xiàn)比特級(jí)運(yùn)算，運(yùn)算顆粒度必須為細(xì)粒度；

配置信息量大：通常為幾兆到十幾兆字節(jié)；

配置時(shí)間長：通常需要十幾毫秒到幾十毫秒；

靜態(tài)編程：一旦配置完成，不可更改。如果要改變 FPGA 的功能，只能下電或在線重新載入配置信息；

邏輯不可復(fù)用：所有電路必須全部裝入FPGA ，復(fù)用性為零；

面積效率低：每個(gè)LUT只能實(shí)現(xiàn)一位運(yùn)算，面積效率只有5%。一個(gè)千萬級(jí)的FPGA只能實(shí)現(xiàn)幾十萬門的邏輯電路；

能量效率低：由于邏輯利用率低，引發(fā)無效功耗巨大；

需要特種工藝：FPGA 往往需要最先進(jìn)的制造工藝，且需對(duì)工藝進(jìn)行特別調(diào)整；

電路設(shè)計(jì)技術(shù)：應(yīng)用者必須具備電路設(shè)計(jì)知識(shí)和經(jīng)驗(yàn)；

成本高昂：目前的FPGA價(jià)格為幾千到幾萬美元一片。

目前尚沒有真正意義上的通用AI芯片誕生，而基于可重構(gòu)計(jì)算架構(gòu)的軟件定義芯片（software defined chip）或許是通用AI芯片的出路。