應(yīng)用

技術(shù)

物聯(lián)網(wǎng)世界 >> 物聯(lián)網(wǎng)新聞 >> 物聯(lián)網(wǎng)熱點新聞
企業(yè)注冊個人注冊登錄

揭秘英特爾第三代至強(qiáng)處理器中的“黑科技”

2020-07-31 09:37 智東西

導(dǎo)讀:隨著企業(yè)開拓多樣化的業(yè)務(wù)線、面對不同的工作負(fù)載,企業(yè)通常需要購買和管理多種類型的服務(wù)器,這在客觀上增加了企業(yè)的總體擁有成本。

近日,英特爾市場營銷與傳播集團(tuán)副總裁、中國區(qū)數(shù)據(jù)中心銷售經(jīng)理陳葆立與智東西等媒體分享了英特爾第三代至強(qiáng)可擴(kuò)展處理器Cooper Lake、新一代英特爾傲騰持久內(nèi)存200系列的產(chǎn)品技術(shù)性能細(xì)節(jié)。

6月中旬,英特爾推出一系列面向AI和分析的戰(zhàn)略及最新產(chǎn)品組合。其中,第三代至強(qiáng)處理器和傲騰200系列產(chǎn)品是英特爾面向數(shù)據(jù)中心業(yè)務(wù)推出的新品。

一、第三代至強(qiáng)處理器:最多支持8插槽,集成多種“黑科技”

第三代至強(qiáng)可擴(kuò)展處理器專為植入AI的數(shù)據(jù)密集型服務(wù)而設(shè)計,有Cooper Lake和Ice Lake兩個系列產(chǎn)品。

Cooper Lake處理器支持4~8個處理器插槽,是當(dāng)前唯一最多可提供8插槽可擴(kuò)展性的x86平臺。Ice Lake處理器支持1~2個處理器插槽。

在運行圖像分類處理任務(wù)時,相比上一代產(chǎn)品Cascade Lake,Cooper Lake的計算性能可提高1.93倍。

Cooper Lake處理器采用最新一代傲騰200系列持久內(nèi)存,并集成英特爾DL Boost深度學(xué)習(xí)加速、英特爾Speed Select技術(shù)等多種“黑科技”。

在DL-Boost深度學(xué)習(xí)加速方面,第三代至強(qiáng)可擴(kuò)展處理器采用VNNI指令集,可支持bfloat16數(shù)據(jù)格式,實現(xiàn)計算效率與精度的結(jié)合。

英特爾技術(shù)人員稱,bfloat16數(shù)據(jù)格式是在FP32數(shù)據(jù)格式和INT8數(shù)據(jù)格式之間取的折衷,能兼顧保存的數(shù)據(jù)范圍和精度,非常適合訓(xùn)練以吞吐量和精度為關(guān)鍵指標(biāo)的工作負(fù)載。

FP32數(shù)據(jù)格式即每個數(shù)據(jù)用32比特來存儲,其中有8位保存的是指數(shù)、有23位是尾數(shù)、還有1位是符號位,可以保存較多圖片細(xì)節(jié)。INT8數(shù)據(jù)格式指每個數(shù)據(jù)用8比特來存儲,這當(dāng)中有7位是尾數(shù)、有一位是符號位,保存的圖片細(xì)節(jié)較少。

相比之下,bfloat16數(shù)據(jù)格式用16比特來儲存每個數(shù)據(jù),其中8位存放指數(shù)、7位存放尾數(shù)、1位是符號位。

根據(jù)英特爾官方數(shù)據(jù),相較于采用FP32數(shù)據(jù)格式,采用bfloat16的第三代至強(qiáng)可擴(kuò)展處理器能將訓(xùn)練性能提高93%、推理性能提高90%。

隨著企業(yè)開拓多樣化的業(yè)務(wù)線、面對不同的工作負(fù)載,企業(yè)通常需要購買和管理多種類型的服務(wù)器,這在客觀上增加了企業(yè)的總體擁有成本。

為解決這一問題,Cooper Lake處理器集成了SST(Speed Select Technology)技術(shù)。SST技術(shù)是一種功能集合,可通過提供對CPU性能的更多控制,來提高性能和優(yōu)化總體擁有成本。

在四路和八路平臺上使用第三代英特爾至強(qiáng)可擴(kuò)展處理器能實現(xiàn)虛擬機(jī)密度擴(kuò)展,可提供高達(dá)224個單位節(jié)點內(nèi)核數(shù)、高達(dá)2.2倍的5年更新性能改進(jìn),有助于降低每內(nèi)核每小時的成本。

二、傲騰200系列持久內(nèi)存:解內(nèi)存容量、成本、時延痛點

存儲產(chǎn)品方面,英特爾6月份推出傲騰200系列持久內(nèi)存產(chǎn)品。

與上一代產(chǎn)品傲騰100系列相比,傲騰200系列實現(xiàn)了25%的內(nèi)存帶寬提升。在數(shù)據(jù)寫入方面,與主流NAND SSD相比,傲騰200系列內(nèi)存能帶來225倍的性能提升。

英特爾第三代至強(qiáng)可擴(kuò)展處理器Cooper Lake搭載了傲騰200系列內(nèi)存,其內(nèi)存容量可達(dá)到4.5TB。

運作模式方面,傲騰200系列內(nèi)存提供“App Direct”和“Memory”兩種運作模式。

平臺/操作系統(tǒng)/App對高速、大容量內(nèi)存的訪問適用“Memory”模式。如果希望數(shù)據(jù)在內(nèi)存中得到保留,則可應(yīng)用“App Direct”模式。

通過靈活應(yīng)用上述兩種運行模式,傲騰200系列持久內(nèi)存可滿足使用者對內(nèi)存容量、價格、工作負(fù)載性能的不同需求。

結(jié)語:英特爾數(shù)據(jù)中心產(chǎn)品持續(xù)發(fā)力AI

第三代至強(qiáng)處理器專為深度學(xué)習(xí)、虛擬機(jī)(VM)密度、內(nèi)存數(shù)據(jù)庫、任務(wù)關(guān)鍵型應(yīng)用及分析密集型工作負(fù)載而設(shè)計,在深度學(xué)習(xí)加速、滿足企業(yè)用戶業(yè)務(wù)多樣化需求方面具備優(yōu)勢。

從產(chǎn)品升級的角度來看,英特爾至強(qiáng)平臺持續(xù)在計算能力上推陳出新。第三代至強(qiáng)處理器在沿用第二代至強(qiáng)支持的DL Boost指令集的前提下,又在數(shù)據(jù)精度上進(jìn)行了優(yōu)化。據(jù)悉,目前,英特爾正與生態(tài)合作伙伴進(jìn)行技術(shù)方面的配合,推動第三代至強(qiáng)處理器平臺結(jié)合實際應(yīng)用。

此外,英特爾更新一代的至強(qiáng)處理器Sapphire Rapids將于2021年推出,也將延續(xù)對bfloat16數(shù)據(jù)格式的支持,讓我們拭目以待。