導讀:安謀科技正式發(fā)布了自研新一代人工智能處理器“周易”X2 NPU,稱“周易”X2 NPU不僅在算力、精度、靈活性等方面進行了大幅提升,還針對車載、邊緣計算等應(yīng)用場景進行了專門優(yōu)化。
由于芯片緊缺情況緩解,國際車企銷量正在回升。根據(jù)統(tǒng)計數(shù)據(jù),2023年2月中國汽車市場恢復,占世界汽車份額32%,中國車企的發(fā)展機會儼然來臨。
此時隨著車企都陸續(xù)以提高智能化水平為提高競爭力的主要手段,越來越多的攝像頭、傳感器等感知設(shè)備被安裝進汽車中,對算力、幀率、數(shù)據(jù)安全性、人機交互能力等多方面的需求水漲船高。
從邏輯上說,智能化需要人工智能技術(shù)支撐,優(yōu)秀的AI產(chǎn)品離不開NPU的運行支持。
3月28日,安謀科技正式發(fā)布了自研新一代人工智能處理器“周易”X2 NPU,稱“周易”X2 NPU不僅在算力、精度、靈活性等方面進行了大幅提升,還針對車載、邊緣計算等應(yīng)用場景進行了專門優(yōu)化。同時,安謀科技正式發(fā)布“周易”NPU軟件開源計劃,通過開放源碼,滿足客戶更自主、更靈活的算法移植需求,攜手合作伙伴共建國內(nèi)NPU產(chǎn)業(yè)生態(tài)。
物聯(lián)傳媒了解到,新勢力汽車品牌是“周易”X2 NPU準的重要合作伙伴,并且“周易”X2 NPU已經(jīng)面向客戶正式交付,預(yù)計今年會有多款搭載“周易”X2 NPU的芯片產(chǎn)品面世。
“最開始是支持芯片客戶,之后會從生態(tài)、軟件合作伙伴到應(yīng)用,甚至參與或支持一些標準法規(guī)的建立。希望到2030年,能夠?qū)崿F(xiàn)支持中國自動駕駛成熟量產(chǎn)方案的落地?!卑仓\科技執(zhí)行副總裁、產(chǎn)品研發(fā)負責人劉澍在發(fā)布會上表示。
汽車AI應(yīng)用場景:區(qū)別于手機,算力和帶寬需求突出
以手機拍照為例,AI應(yīng)用主要是對一路視頻的處理,比如去噪聲、虛化背景、美顏、超分辨率等,最終的用戶對象是人。
反觀汽車場景,因為智能駕駛汽車均部署多個攝像頭,因此AI首先就要完成多路視頻的融合處理,以及還要對不同種類傳感器收集來的數(shù)據(jù)進行匯總分析,支撐設(shè)備自動做出決策。
顯然,落地于汽車的AI處理能力與手機或其他物聯(lián)網(wǎng)終端相比風格迥異,突出的特征表現(xiàn)在“對算力有更大的需求”:
智能音箱、掃地機器人、智能攝像頭等AIoT設(shè)備的算力要求一般在1TOPS-4TOPS范圍內(nèi);手機、智能座艙的算力要求一般是10TOPS-30TOPS;PC的算力需求一般在45TOPS;高級駕駛輔助系統(tǒng)(ADAS)的算力要求則可能達到幾百TOPS級別。
對照“周易”X2 NPU的產(chǎn)品介紹,其采用第三代“周易”架構(gòu),支持多核Cluster,最高可達320TOPS算力。
如何做到算力提升?
據(jù)安謀科技NPU產(chǎn)品總監(jiān)楊磊介紹:“周易”X2有一個集群(Cluster)的概念,有多個NPU的核,比如說有1到4個核,這樣就構(gòu)成了一個Cluster,這樣算力就有成倍的提升。Cluster內(nèi)部有總線的互聯(lián),用于數(shù)據(jù)的溝通和維護,也有內(nèi)部的存儲系統(tǒng),協(xié)調(diào)不同的核間的數(shù)據(jù)通信。再往上一級還支持多個Cluster,這樣整個算力又可以成倍向上提升,所以“周易”X2 NPU這代產(chǎn)品是通過了多核構(gòu)成Cluster,多個Cluster構(gòu)成了一個子系統(tǒng)的方案完成大算力產(chǎn)品形態(tài)的交付。其中有一個很核心的功能,就是任務(wù)調(diào)度器,它可以同時調(diào)度多個Cluster的多個核心。
另外,隨著汽車和手機圖像數(shù)據(jù)的分辨率越來越大,高分辨率不僅對算力要求提升,對帶寬的需求也是成倍增加。節(jié)省帶寬同時成為一項重要的需求。
“通過采用i-Tiling的技術(shù)方案,‘周易’X2 NPU大幅減少了帶寬需求,降低了系統(tǒng)成本。i-Tiling的原理是把一個很大的圖片拆分成若干個小塊,這樣每一個tile就變得很小,小的好處是可以在芯片上,也就是芯片內(nèi)部的memory緩存在內(nèi)部,這樣就不需要把這個數(shù)據(jù)從外面的設(shè)備中做讀寫操作,從而從根本上節(jié)省了對外部帶寬的需求?!睏罾谡f,“我們采用了這樣的技術(shù)之后,就可以把40G帶寬縮減到只需要4G帶寬就可以完成這個工作?!?/p>
圖:“周易”X2 NPU主要產(chǎn)品特征
另外,“周易”NPU不只是提供硬件的NPU IP,還支持提供上層一整套完整的“周易”Compass軟件平臺,通過平臺中模型編譯器等工具組件調(diào)試性能、分析異常。汽車領(lǐng)域客戶也可以基于平臺自定義算子,構(gòu)建具有獨特優(yōu)勢的技術(shù)或方案。
行業(yè)碎片化情況下,開源計劃打開需求“白盒”
安謀科技統(tǒng)計了過去一年里國內(nèi)60個用到NPU的芯片項目,發(fā)現(xiàn)其中大概55%的項目用的是自研NPU,剩下部分是基于IP的解決方案。
尤其在汽車場景,起因是硬件終端企業(yè)高度重視算法和數(shù)據(jù)的安全性,假設(shè)在軟件部署過程中遇到問題,仍然希望獨立完成需求的開發(fā)和測試,對將資源開放給芯片廠或IP公司存在顧慮。當企業(yè)都選擇自建生態(tài)、自研芯片時,可以想象行業(yè)碎片化將要加重,應(yīng)用繁榮也將受到阻礙。
為此,企業(yè)更強烈的訴求是“白盒開發(fā)”:即軟件部署的過程中工具鏈是以源代碼的形式提供的,他們可以基于NPU做出新的算子,并且獨立實現(xiàn)。
“周易”NPU軟件開源計劃應(yīng)運而生。
開源好處:在滿足合作伙伴更自主、更靈活的算法移植需求的同時,進一步提升軟件開發(fā)效率,避免重復造輪。
開源內(nèi)容:在“周易”NPU軟件開源計劃下,安謀科技已率先對外開放NPU中間表示層規(guī)范、模型解析器、模型優(yōu)化器、驅(qū)動等,并向相關(guān)合作伙伴提供“周易” Compass軟件平臺,包括軟件模擬器、調(diào)試器、C編譯器等在內(nèi)的多種軟件工具。并且這也只是NPU開源計劃的第一步,后續(xù)還將逐步開放更多資源,如模型量化、算子實現(xiàn)等源代碼。
圖:“周易”NPU軟件開源計劃(綠色部分是第一階段開源內(nèi)容)
開源成果:“周易”NPU軟件開源計劃已經(jīng)有第一批合作伙伴率先加入,其中不乏來自AIoT、智能汽車、智能操作系統(tǒng)等領(lǐng)域的明星企業(yè)。
楊磊指出:“最新的一代V3架構(gòu)是免費授權(quán)的。從擴大生態(tài)的角度,合作伙伴不一定非要用安謀科技的NPU,可以通過參與開源的項目來自己做NPU,從而共建一個軟件的生態(tài)?!?/p>
另外,2022年7月起安謀科技開啟了生態(tài)伙伴計劃。不僅關(guān)注NPU,安謀科技整個自研矩陣都是“計劃”中的一部分,面向產(chǎn)業(yè)鏈上下游所有可能的參與者,幫助他們構(gòu)建產(chǎn)品及方案。截止目前,共有40多家合作伙伴參與到“計劃”中,包括汽車領(lǐng)域內(nèi)的芯片提供商、tier1、tier2和算法廠商,AIoT、高性能計算等領(lǐng)域的合作伙伴。
安謀科技持續(xù)推進“產(chǎn)品自研”之路
根據(jù)物聯(lián)傳媒了解,“周易”NPU 2018年立項,2019年第一顆搭載“周易”的芯片成功面世。截止目前,“周易”推出了Z系列和X系列兩大類產(chǎn)品:
Z系列主要面向AIoT場景,特征是算力要求不高、對成本敏感,比如智能音箱、掃地機器人、電視機、機頂盒、安防攝像頭等。
X系列主要面向大算力場景,例如手機、PC、汽車的智能座艙、自動駕駛汽車等。
值得一提的是,無論是面向新興的AIoT市場還是更大規(guī)模計算領(lǐng)域,Z系列與X系列實際共用了一套NPU架構(gòu),例如本次“周易”X2是第一款基于V3架構(gòu)的NPU,相比于V1、V2架構(gòu),V3架構(gòu)更強調(diào)并行性和可擴展性,但V3架構(gòu)支持向前兼容V1、V2的軟件。安謀科技的一站式服務(wù),也體現(xiàn)在從硬件IP到軟件平臺的全面覆蓋上。
安謀科技NPU研發(fā)高級總監(jiān)孫錦鴻為此表示:“安謀科技擁有超過130位工程師組成的NPU研發(fā)團隊,負責開發(fā)包含硬件和軟件的NPU全棧研發(fā),人員主要分布在上海、深圳、北京。”
而從公司整體業(yè)務(wù)發(fā)展方向來看,安謀科技作為芯片IP領(lǐng)域的明星企業(yè),近5年來都堅定自研產(chǎn)品路線,構(gòu)建了“周易”NPU、“星辰”CPU、“山?!盨PU、“玲瓏”ISP、“玲瓏”VPU 五大產(chǎn)品線,自研IP已經(jīng)向超過160個本土客戶進行授權(quán),客戶基于自研IP的芯片出貨量已經(jīng)超過2億顆。
對這家公司的未來發(fā)展,安謀科技執(zhí)行副總裁、產(chǎn)品研發(fā)負責人劉澍強調(diào):
“我們不是追求更多、更雜,而是更精、更專??萍夹袠I(yè)是日新月異的,國際上的領(lǐng)先公司都在向更高的領(lǐng)域、更個性化的領(lǐng)域突破。作為中國科技產(chǎn)業(yè)的一份子,安謀科技同樣希望在更新、更高性能的領(lǐng)域如智能汽車產(chǎn)業(yè)、邊緣服務(wù)器產(chǎn)業(yè)等貢獻力量……”