當(dāng)前，人工智能技術(shù)正在飛速發(fā)展，在語音識別、圖像識別等領(lǐng)域不斷取得突破。如何讓萬物盡快享受到這些技術(shù)所帶來的成果，讓日常生活中的音箱、玩具、家電等產(chǎn)品都能聽會說，是我們一直期盼的目標(biāo)。
昨日，國芯在深圳召開了隆重的產(chǎn)品發(fā)布會，發(fā)布全新芯片GX8010——搭載NPU的物聯(lián)網(wǎng)人工智能芯片，它將為各種物聯(lián)網(wǎng)產(chǎn)品賦能。
國芯針對人工智能與物聯(lián)網(wǎng)的特點，將算法、軟件、硬件深度整合，創(chuàng)新性地采用了NPU、DSP等多項最新技術(shù)，推出這款全新的AI芯片，核心目標(biāo)就是讓日常生活中各種產(chǎn)品智能化，都“看得見”、“聽得到”、“說得出”。AI芯片里到底有什么，它和傳統(tǒng)芯片有何差別，以及各種在物聯(lián)網(wǎng)上部署人工智能的難點和痛點，GX8010是怎么解決的呢？讓我們一起來走進(jìn)這顆AI芯。
解決痛點一：本地神經(jīng)絡(luò)計算困難
深度學(xué)習(xí)在各個領(lǐng)域取得了重大突破，但與此同時，它對處理器的計算能力提出更高的要求。傳統(tǒng)芯片中普遍采用CPU處理器，但隨著神經(jīng)網(wǎng)絡(luò)逐漸變大，高運(yùn)算量和高吞吐率使得CPU不堪重負(fù)。從CPU到DSP、GPU，處理器的性能不斷地提升，最終誕生了人工智能專用處理器——NPU。GX8010中就內(nèi)置了國芯自主研發(fā)的gxNPU神經(jīng)網(wǎng)絡(luò)處理器，它專門為人工智能而定制，針對神經(jīng)網(wǎng)絡(luò)加速，徹底解決了傳統(tǒng)芯片在神經(jīng)網(wǎng)絡(luò)運(yùn)算時效率低下的難題。
這款神經(jīng)網(wǎng)絡(luò)處理器gxNPU針對物聯(lián)網(wǎng)人工智能量身定做，它支持當(dāng)前主流的各種模型，如DNN、CNN、LSTM等。當(dāng)然你可以根據(jù)算法需要，自由設(shè)計和擴(kuò)展網(wǎng)絡(luò)結(jié)構(gòu)，自定義運(yùn)算單元。在數(shù)據(jù)格式上，該NPU同時支持定點和浮點運(yùn)算，使用非常便捷。
為了解決物聯(lián)網(wǎng)設(shè)備中內(nèi)存帶寬小的特點，國芯專門設(shè)計了神經(jīng)網(wǎng)絡(luò)壓縮引擎NCompressor。它能利用神經(jīng)網(wǎng)絡(luò)中的數(shù)據(jù)稀疏特性，壓縮計算權(quán)重，在幾乎不影響精度的情況下，實現(xiàn)6~10倍的壓縮效果。神經(jīng)網(wǎng)絡(luò)經(jīng)過壓縮后，需要的內(nèi)存容量和帶寬大幅減少，同時運(yùn)算的速度也得到了提高。針對壓縮國芯還提供了編譯工具，可以一鍵實現(xiàn)模型的量化壓縮，然后通過芯片中的硬件引擎解壓，無需重訓(xùn)練和額外處理，使用非常方便。
和編譯壓縮工具一起，國芯還發(fā)布了全套神經(jīng)網(wǎng)絡(luò)開發(fā)SDK，只需要簡單三步，就能完成模型從服務(wù)器到芯片的部署。第一步，先在Tensorflow等平臺訓(xùn)練，生成模型的網(wǎng)表文件。第二步，使用gxNPUC（神經(jīng)網(wǎng)絡(luò)編譯器）進(jìn)行編譯和壓縮，生成指令bin文件。最后在芯片上使用gxDNN加速庫，將編譯的模型在芯片本地運(yùn)行即可。
考慮到物聯(lián)網(wǎng)應(yīng)用中的成本和功耗因素，這一代的gxNPU中并沒有堆砌非常多的MAC陣列，而是選擇了64x64的配置。但在典型應(yīng)用的性能評測中，gxNPU@200MHz仍然比樹莓派中的多核CPU@1GHz，快了近30倍，能效提升100倍以上。
那么問題來了，這款NPU與Google TPU、華為麒麟970芯片的NPU有何不同之處呢？我們知道，Google TPU是應(yīng)用于服務(wù)器上的處理器，它更關(guān)注算力的大小，對成本和功耗不是那么敏感。與Google TPU相比，gxNPU針對物聯(lián)網(wǎng)而設(shè)計，增加了神經(jīng)網(wǎng)絡(luò)壓縮引擎，在計算時需要的內(nèi)存和帶寬更少，功耗更低，更適于在各種物聯(lián)網(wǎng)產(chǎn)品中部署。而華為的NPU針對手機(jī)場景設(shè)計，由于公開的資料較少，目前還不好比較。
解決痛點二：AI交互系統(tǒng)復(fù)雜，成本高
AI芯片要真正落地，光有NPU還遠(yuǎn)遠(yuǎn)不夠。整個AI交互是一個非常復(fù)雜的過程，除了神經(jīng)網(wǎng)絡(luò)計算還包括傳感器接入，信號處理，檢測識別，以及軟件層面的決策和反饋等。環(huán)節(jié)眾多，每一處需要的算法和計算特性還不一樣，對此國芯提出了“全面集成，全棧打通”的策略。
以智能語音交互為例，當(dāng)前語音識別的巨大挑戰(zhàn)仍在前端的語音降噪，為了解決噪聲和有效語音分離問題，業(yè)內(nèi)引入了麥克風(fēng)陣列，利用空間信息進(jìn)行降噪濾波。多個麥克風(fēng)的引入首先對硬件上的接口就提出了要求，一些傳統(tǒng)芯片沒有這么多接口只能通過其它器件來擴(kuò)展。同時多路信號的接入，也使得前端語音處理計算量大增，傳統(tǒng)芯片中大家用CPU軟解已是十分吃力。
在這顆芯片里，我們驚喜地看到它集成了Cadence Tensilica最高階的語音DSP Hifi-4，這顆DSP專門為智能語音而設(shè)計，可以高效地進(jìn)行各種語音信號處理計算。同時GX8010芯片中支持8通道麥克風(fēng)接口，不僅支持PDM和I2S數(shù)字接口，還內(nèi)置了8路ADC直接支持模擬麥克風(fēng)。DSP+8通道ADC，這個配置目前在業(yè)界還是第一次出現(xiàn)。同時在這顆DSP上，國芯正在與Rokid、思必馳等業(yè)內(nèi)頂級的語音算法公司合作，將他們的算法移植進(jìn)來，合作推出低成本、低功耗的整體語音解決方案。
除了語音系統(tǒng)外，GX8010還構(gòu)建了視覺系統(tǒng)，支持1080P攝像頭輸入，圖像預(yù)處理，MJPEG編碼等模塊。語音和圖像的信號處理完后，都送到中央的決策和應(yīng)用系統(tǒng)進(jìn)行業(yè)務(wù)和應(yīng)用處理。
整個芯片采用了多核異構(gòu)的架構(gòu)，集成了國芯gxNPU，ARM Cortex A7 CPU，Hifi-4 DSP等多個處理器，其中DSP負(fù)責(zé)語音信號處理增強(qiáng)、NPU負(fù)責(zé)深度學(xué)習(xí)計算、CPU負(fù)責(zé)軟件運(yùn)行和應(yīng)用決策控制等。這些模塊全面整合在一顆芯片上，構(gòu)成了一個完整的AI處理系統(tǒng)，實屬真正的AI SOC芯片。
除了上面說的這些以外，GX8010還在片內(nèi)通過SIP的方式直接集成了一顆DRAM。這樣整個芯片的集成度已是相當(dāng)驚人，外圍需要的器件極少，整體產(chǎn)品的BOM成本將會大幅降低。尤其在智能音箱、語音交互模塊等語音應(yīng)用領(lǐng)域，具有極高的競爭力。
解決痛點三：功耗太大！
物聯(lián)網(wǎng)產(chǎn)品的一大應(yīng)用難點在于體積較小、場景多樣，很多時候需要電池供電，這便對產(chǎn)品的功耗提出了較高的要求。針對這一難題，我們也給出了解決方案。
在動態(tài)功耗上，芯片充分利用多核異構(gòu)的優(yōu)勢，合理安排每個模塊的工作頻率和啟停時機(jī)，可以做到按需使用、用完即停的效果。在典型的語音交互中，GX8010只需要100-200MHz即可完成離線語音識別，DSP工作在300-400MHz即可實現(xiàn)多麥克風(fēng)陣列處理，CPU更是可以根據(jù)系統(tǒng)負(fù)荷進(jìn)行動態(tài)調(diào)整。這種方案讓芯片在高效運(yùn)轉(zhuǎn)的同時，又能保持非常低的功耗。據(jù)測試，在離線語音交互的場景下全速運(yùn)行，GX8010的功耗可以做到0.7W以內(nèi)（包括DRAM）。
待機(jī)問題也一直是語音交互設(shè)備的難點。因為系統(tǒng)要求待機(jī)時仍能被語音喚醒，也就意味著待機(jī)時還要做語音采集、降噪、激活詞識別等一系列動作。GX8010提出了多級喚醒機(jī)制，可以根據(jù)是否有聲音、是否有人聲，是否是關(guān)鍵詞這多個等級來做硬件劃分，逐級喚醒系統(tǒng)。在待機(jī)時，GX8010應(yīng)用最新的VAD（Voice Activity Detection）技術(shù)，檢測麥克風(fēng)有沒有語音輸入，一旦接收到語音指令，DSP程序啟動降噪，接著NPU啟動激活詞識別，如檢測到關(guān)鍵詞才激活整個應(yīng)用系統(tǒng)。
這種逐級喚醒的機(jī)制，既保證了語音助手能實時響應(yīng)指令，又能大幅延長設(shè)備的續(xù)航時間。據(jù)測試，GX8010可以在0.05W的待機(jī)功耗下實現(xiàn)語音喚醒。這個數(shù)值遠(yuǎn)遠(yuǎn)低于當(dāng)前市面上的其它芯片，輕松實現(xiàn)長時間待機(jī)。
這種逐級喚醒的機(jī)制，既保證了語音助手能實時響應(yīng)指令，又能大幅延長設(shè)備的續(xù)航時間。據(jù)測試，GX8010可以在0.05W的待機(jī)功耗下實現(xiàn)語音喚醒。這個數(shù)值遠(yuǎn)遠(yuǎn)低于當(dāng)前市面上的其它芯片，輕松實現(xiàn)長時間待機(jī)。
重點應(yīng)用領(lǐng)域
憑借著本地離線神經(jīng)網(wǎng)絡(luò)計算，超高集成度，低功耗等特點，GX8010芯片將在多個應(yīng)用領(lǐng)域展現(xiàn)出它的實力。重點應(yīng)用領(lǐng)域?qū)ㄖ悄芤粝?、語音接口、和智能玩具等市場。
》》可電池供電、可離線的智能音箱方案
市面上大多數(shù)智能音箱，因為功耗問題大多選擇了電源供電。采用GX8010方案后，發(fā)揮其低功耗工作和待機(jī)的特點，使用電池也可以輕松待機(jī)數(shù)天。再發(fā)揮GX8010的離線能力可以實現(xiàn)離在線混合，即使在無網(wǎng)絡(luò)環(huán)境也能使用。最后GX8010集成了眾多模塊，它在成本上將具有絕對優(yōu)勢，有助于產(chǎn)品成本降低和促進(jìn)市場進(jìn)一步放量。
》》給萬物帶來語音接口的前端方案
很多像電視、機(jī)頂盒、家電等產(chǎn)品，本身已經(jīng)擁有比較成熟的軟硬件體系，但他們?nèi)匀幌Ｍ軌驅(qū)崿F(xiàn)智能化升級，特別是具備語音交互能力。在GX8010基礎(chǔ)上，國芯推出了一個裁剪版的型號GX8008，專門針對語音前端市場。它可以讓傳統(tǒng)的設(shè)備保留其原先硬件的基礎(chǔ)上，通過一個簡單的USB口實現(xiàn)語音能力的升級。在待機(jī)時，更是可以讓主機(jī)完全休眠，只依賴GX8008來做降噪和激活，并恢復(fù)系統(tǒng)。解決了之前電視和機(jī)頂盒等產(chǎn)品，無法在語音監(jiān)聽下低功耗待機(jī)的問題。
》》兼具語音與視覺的智能玩具方案
同時具有語音和視覺接口的GX8010，將會發(fā)力智能玩具和幼教市場。利用其可離線低功耗的特點，智能玩具將擺脫對Wifi的限制，以后就可以與小朋友們一起出家門玩耍啦。
高智慧、低功耗、全集成，是這款GX8010最大的特點，它將給物聯(lián)網(wǎng)市場帶來全新的變化。各種最新的人工智能算法和計算，都有機(jī)會在嵌入式設(shè)備中部署。音箱，家電，玩具，車載等各種產(chǎn)品，將會變得更加智能，功能豐富，體驗更好。萬物智能的時代不再遙遠(yuǎn)，讓我們一起來期待GX8010這顆中國芯接下來的表現(xiàn)。
