我是張甲木,，這里是回形針事務(wù)所,，今天我們要研究英特爾搭配了 AI 加速技術(shù)的至強(qiáng)處理器。
在人工智能時(shí)代,，傳統(tǒng)處理器已無(wú)法滿(mǎn)足企業(yè)對(duì)人工智能產(chǎn)品快速推理的需求,。為了讓人工智能的應(yīng)用更便捷、更快速,，英特爾對(duì)處理器都做了什么,？
2020 年，肺部 CT 等圖像,，頻繁出現(xiàn)在大眾視野中,。
診斷一位患者，醫(yī)生就需仔細(xì)觀(guān)察超過(guò) 300 幅 CT 影像,。往日里,，醫(yī)生或許能慢慢看。但在疫情之下,，這太慢了,。
如果醫(yī)生診療流程簡(jiǎn)化為問(wèn)診、檢查,、看報(bào)告,、判斷、給出治療方案五個(gè)環(huán)節(jié),。一個(gè)會(huì)看 CT,、能快速做判斷，且不會(huì)疲倦的人工智能,，就能在第三環(huán)節(jié)省大量時(shí)間,。
人工智能如何輔助醫(yī)生看病，并分辨出圖像中的異樣,？
講人工智能之前,，先做一個(gè)簡(jiǎn)單測(cè)試：在這些圖里找到小狗。
很容易,，因?yàn)槟憧催^(guò)太多動(dòng)物的圖像,，所以能快速做出判斷。就算猛地分不清二哈和阿拉斯加,，逼你一直看一直看,，一段時(shí)間后辨認(rèn)也不難。
原理很淺顯,，無(wú)非大腦不斷看圖,，提取眼睛、耳朵、整體長(zhǎng)相等特征,，在腦海中強(qiáng)化,，最后分類(lèi)。
同理,，讓機(jī)器重復(fù)一樣的過(guò)程就行,，簡(jiǎn)單。但機(jī)器有個(gè)問(wèn)題——沒(méi)腦子,。
怎么辦,！只能先給機(jī)器搭一個(gè)人工神經(jīng)網(wǎng)絡(luò)。
大概長(zhǎng)這樣,，像簡(jiǎn)化后平面化的人腦神經(jīng)網(wǎng)絡(luò),。在最左邊的輸入層輸入訓(xùn)練圖像，激活中間一層層設(shè)好參數(shù)的人工神經(jīng)網(wǎng)絡(luò),，在最右邊輸出層輸出結(jié)果,。
注意，這張圖人眼看是這樣,。但對(duì)機(jī)器,，黑白只是灰度值，本質(zhì)就是一堆數(shù)字,。所以,，機(jī)器學(xué)習(xí)圖像的本質(zhì)是學(xué)數(shù)值的特征。
但一個(gè)一個(gè)學(xué),，運(yùn)算量太大,，尤其遇到超高清圖片，數(shù)值太多了,。
所以為了提取特征也減少運(yùn)算,，我們用這樣叫「卷積核」的東西，一個(gè)區(qū)域一個(gè)區(qū)域地掃,，將每個(gè)對(duì)應(yīng)的數(shù)字相乘,，再求和，就提取了區(qū)域數(shù)值特征,。
數(shù)據(jù)再經(jīng)過(guò)一個(gè)叫「池化」的環(huán)節(jié),，像這樣取區(qū)域內(nèi)最大值，將特征數(shù)據(jù)量再濃縮,、展平,、輸入全神經(jīng)網(wǎng)絡(luò)，這樣就能減少運(yùn)算量,。
因?yàn)樯婕暗骄矸e運(yùn)算,，所以叫卷積神經(jīng)網(wǎng)絡(luò),。卷積核的大小、步調(diào),、卷積層的數(shù)量等都可預(yù)先調(diào)節(jié)。
機(jī)器輸出的數(shù)值會(huì)和對(duì)目標(biāo)結(jié)果預(yù)設(shè)的數(shù)值做比對(duì),。
如果符合預(yù)期,，即為成功；如果不符合預(yù)期,，就會(huì)通過(guò)一系列運(yùn)算,，反向調(diào)節(jié)各環(huán)節(jié)參數(shù)，再算一次,，不斷重復(fù),，直到符合預(yù)期。這就是機(jī)器自主學(xué)習(xí)的原理,。
同理,，準(zhǔn)備大量肺部 CT 影像，找專(zhuān)業(yè)醫(yī)生對(duì)病灶進(jìn)行精準(zhǔn)標(biāo)注,，然后輸入神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練,，就能得到一個(gè)幾秒內(nèi)快速識(shí)別肺部 CT 影像的卷積神經(jīng)網(wǎng)絡(luò)。
這并非構(gòu)想,，該技術(shù)在今年的疫情中已經(jīng)開(kāi)始應(yīng)用,。
伴隨神經(jīng)醫(yī)學(xué)、頸椎病癥識(shí)別,、DNA 檢測(cè)和癌癥識(shí)別等各種場(chǎng)景應(yīng)用,，人工智能正深度重構(gòu)整個(gè)醫(yī)療行業(yè)。
當(dāng)然,，應(yīng)對(duì)不同問(wèn)題有不同的神經(jīng)網(wǎng)絡(luò),。但不管搭建訓(xùn)練哪一種，哪怕放一首歌,，對(duì)計(jì)算機(jī)都是在處理不同量級(jí)的數(shù)據(jù),。本質(zhì)上，一堆 1 和 0,。
數(shù)據(jù)量越大,，需處理的 1 和 0 的量也越大，處理慢了就會(huì)這樣,，或這樣卡屏,，甚至崩潰。
究其根本,，處理數(shù)據(jù)的主要核心,，就是處理器,。
針對(duì)人工智能，現(xiàn)在有 GPU,，適用多種深度學(xué)習(xí)應(yīng)用,；ASIC，可針對(duì)特定 AI 應(yīng)用模型定制化開(kāi)發(fā),；FPGA,，可靈活編程、匹配不同 AI 應(yīng)用等等,。性能都不錯(cuò),，但部署和使用的門(mén)檻和成本也不低。
而對(duì)大多希望利用 AI 解決業(yè)務(wù)問(wèn)題,，而非專(zhuān)注 AI 算法創(chuàng)新迭代的公司,，通用處理器 CPU 因?yàn)榉奖阕屍髽I(yè)基于現(xiàn)有 IT 基礎(chǔ)設(shè)施執(zhí)行常見(jiàn) AI 應(yīng)用，無(wú)需導(dǎo)入專(zhuān)用芯片,，則是更好的選擇,。
但想針對(duì)性地強(qiáng)化 AI 性能，利用 CPU 可以嗎,？答案是肯定的,，英特爾至強(qiáng) CPU 就集成了 AI 加速技術(shù)。
CPU 完成一次計(jì)算大概要經(jīng)歷以下幾個(gè)階段：取出指令,、指令解碼并取出數(shù)據(jù),、執(zhí)行指令形成計(jì)算結(jié)果并進(jìn)行存取。
海量數(shù)據(jù)的計(jì)算就是 CPU 按照指令不斷進(jìn)行循環(huán)操作的過(guò)程,，所以指令系統(tǒng)直接關(guān)系 CPU 性能的發(fā)揮,。
在傳統(tǒng)標(biāo)量時(shí)代，只能執(zhí)行單指令單數(shù)據(jù),，以致處理海量數(shù)據(jù)時(shí)極為耗時(shí),。但單指令多數(shù)據(jù)矢量功能的出現(xiàn)，改變了這個(gè)困境,，最新的 AVX512 指令集將矢量計(jì)算性能提至新高度,，大大加快數(shù)據(jù)處理速度。
而這只是英特爾邁向 AI 領(lǐng)域的基礎(chǔ)之一,。雖然大多數(shù)商業(yè)深度學(xué)習(xí)都在 CPU 上使用32 位浮點(diǎn)精度進(jìn)行訓(xùn)練和推理工作,，精確度更高。
但根據(jù)研究,，用低精度的數(shù)據(jù)格式推理不會(huì)對(duì)準(zhǔn)確性有很大影響,。
且稍低的精度意味可存放更多數(shù)據(jù)，增加數(shù)據(jù)傳輸效率,，帶來(lái)更快的計(jì)算速度,。所以英特爾采取精度略低的 INT8 格式以達(dá)到更高的運(yùn)算效率,。
再配合 VNNI 指令，將需要三條指令完成的工作壓縮為一條,，進(jìn)一步提升推理速度,。
如果想要實(shí)現(xiàn)效率和精度的雙贏(yíng)，Bfloat16 則是更優(yōu)選擇,。只通過(guò)一半的比特?cái)?shù)就可達(dá)到與 FP32 相近的模型精度,，且速度可以帶來(lái) 1.9 倍的提升。
其實(shí),，集成了 AI 加速技術(shù)的至強(qiáng) CPU，只是英特爾 AI 全棧解決方案的起點(diǎn),。
英特爾針對(duì) AI 應(yīng)用還將提供靈活的 FPGA,、高性能的 HABANA 芯片、VPU,、GPU,，以及一個(gè)統(tǒng)一的軟件開(kāi)發(fā)和優(yōu)化工具接口，One API 等等,。
隨著硬件基礎(chǔ)的不斷提高,，人工智能也正不斷突破著想象中未來(lái)的邊界。
