機(jī)器學(xué)習(xí) (ML) 正在迅速成熟。 如今，我們能夠把大量數(shù)據(jù)輸入機(jī)器學(xué)習(xí)應(yīng)用中，后者能學(xué)會(huì)精確預(yù)測可能出現(xiàn)的結(jié)果。 隨著訓(xùn)練數(shù)據(jù)集的擴(kuò)大，深度學(xué)習(xí) (DL) 模型的精確性呈指數(shù)級(jí)增長。 數(shù)以萬億的互聯(lián)設(shè)備向系統(tǒng)發(fā)送數(shù)據(jù)，數(shù)據(jù)集的規(guī)模可達(dá)數(shù)百 TB。

機(jī)器學(xué)習(xí)革命的成果在無人駕駛汽車、實(shí)時(shí)欺詐檢測、對假期照片中的人臉進(jìn)行識(shí)別的社交網(wǎng)絡(luò)等領(lǐng)域得到了很好的體現(xiàn)。它滲透各行各業(yè)，影響無處不在。

讓我們揭開全新英特爾至強(qiáng)融核產(chǎn)品家族的神秘面紗，了解其在處理 ML 工作負(fù)載方面的非凡優(yōu)勢。 我還會(huì)分享兩項(xiàng)早期性能測試結(jié)果，即分別在基于單節(jié)點(diǎn)英特爾至強(qiáng)處理器系統(tǒng)和基于 128 節(jié)點(diǎn)英特爾至強(qiáng)融核處理器的集群上運(yùn)行 ML 工作負(fù)載時(shí)的情況。 最后，我會(huì)講述我們?yōu)榱藘?yōu)化軟件庫所付出的努力，展示幾款流行的面向 x86 架構(gòu) 的開源 ML 框架。

“英特爾® 至強(qiáng) 融核™ 處理器特性”

在設(shè)計(jì)第二代英特爾至強(qiáng)融核芯片時(shí)，我們發(fā)明了支持自啟動(dòng)的融核處理器 ， 不需要在購買額外的處理器運(yùn)行操作系統(tǒng)，也不需要通過 PCIe* 插槽傳輸數(shù)據(jù)。 （對于更喜歡把最新版英特爾至強(qiáng)融核芯片作為協(xié)處理器的用戶，我們也有PCIe 卡版本。）

英特爾至強(qiáng)融核處理器 x200 包含 72 個(gè)處理器內(nèi)核，每個(gè)內(nèi)核支持 2 個(gè)英特爾® 高級(jí)矢量擴(kuò)展指令集 512（英特爾® AVX-512）SIMD 處理單元，每內(nèi)核浮點(diǎn)性能顯著提升。 常用的 ML 算法均可從中受益，如浮點(diǎn)乘法和乘加融合指令 (FMA)。 英特爾至強(qiáng)融核處理器 x200 提供高達(dá)每秒 6 萬億次浮點(diǎn)運(yùn)算的計(jì)算能力。 多核、多線程的功能和高帶寬封裝內(nèi)存子系統(tǒng)（多通道 DRAM）及英特爾® Omni-Path 架構(gòu)（英特爾® OPA）的集成結(jié)構(gòu)技術(shù)相結(jié)合。

高帶寬集成內(nèi)存（高達(dá) 16 GB MCDRAM）保證數(shù)據(jù)快速傳輸?shù)絻?nèi)核，并為平臺(tái)額外提供高達(dá) 384 GB 商用 DDR4 內(nèi)存。 程序員可以通過指定數(shù)據(jù)的大小及時(shí)間來管理內(nèi)存。 MCDRAM 使用戶可以靈活地對數(shù)據(jù)高速緩存，不必?fù)?dān)心內(nèi)存管理。 （MCDRAM 可以配置為三級(jí)高速緩存、非一致性內(nèi)存訪問 - 可分配內(nèi)存和高速緩存和內(nèi)存的混合組合。）

當(dāng)處理大型 ML/DL 工作負(fù)載時(shí)，從一個(gè)節(jié)點(diǎn)到千百個(gè)節(jié)點(diǎn)的擴(kuò)展能力是至關(guān)重要的。 借助英特爾 OPA 架構(gòu)，英特爾至強(qiáng)融核處理器 x200 能夠以近乎線性的方式擴(kuò)展內(nèi)核和線程。 在編碼層面，通過架構(gòu)可以最少的編程快速高效地從遠(yuǎn)程存儲(chǔ)獲取數(shù)據(jù)，并放入本地高速緩存。

這些創(chuàng)新為機(jī)器學(xué)習(xí)和深度學(xué)習(xí)提供了優(yōu)質(zhì)的訓(xùn)練時(shí)間。  比如，AlexNet 訓(xùn)練方面，相對于單節(jié)點(diǎn)而言，128 節(jié)點(diǎn)英特爾至強(qiáng)融核處理器 x200 的訓(xùn)練時(shí)間減少了 50 倍。  進(jìn)行 GoogLeNet 訓(xùn)練時(shí)，32 節(jié)點(diǎn)英特爾至強(qiáng)融核處理器 x200 的擴(kuò)展效率達(dá)到 87%，比最新公布的最高數(shù)據(jù)超出 38%。

應(yīng)用只有并行化，才能利用大規(guī)模并行多核、多線程架構(gòu)。 否則，你只能獲得單核、單線程性能。

英特爾至強(qiáng)融核處理器 x200 的每個(gè)內(nèi)核包含多個(gè)矢量處理單元，所以整體計(jì)算密度更高，成為抵消單核、單線程性能的一個(gè)因素。 因此，如果你的工作負(fù)載能受益于高水平的并行性和線程并行性，英特爾至強(qiáng)融核處理器把更多計(jì)算融入更小的區(qū)域，功耗低于其他解決方案。

“二進(jìn)制兼容”