僅做學(xué)術(shù)分享，如有侵權(quán),，聯(lián)系刪除

轉(zhuǎn)載于 ：專知

摘要： 近年來,，新興的圖神經(jīng)網(wǎng)絡(luò)因其強(qiáng)大的圖學(xué)習(xí)和推理能力，得到學(xué)術(shù)界和工業(yè)界的廣泛關(guān)注,，被認(rèn)為是推動(dòng)人工智能領(lǐng)域邁入“認(rèn)知智能”階段的核心力量.圖神經(jīng)網(wǎng)絡(luò)融合傳統(tǒng)圖計(jì)算和神經(jīng)網(wǎng)絡(luò)的執(zhí)行過程,，形成了不規(guī)則與規(guī)則的計(jì)算和訪存行為共存的混合執(zhí)行模式.傳統(tǒng)處理器結(jié)構(gòu)設(shè)計(jì)以及面向圖計(jì)算和神經(jīng)網(wǎng)絡(luò)的加速結(jié)構(gòu)不能同時(shí)應(yīng)對(duì)2種對(duì)立的執(zhí)行行為，無法滿足圖神經(jīng)網(wǎng)絡(luò)的加速需求.為解決上述問題,，面向圖神經(jīng)網(wǎng)絡(luò)應(yīng)用的專用加速結(jié)構(gòu)不斷涌現(xiàn),，它們?yōu)閳D神經(jīng)網(wǎng)絡(luò)定制計(jì)算硬件單元和片上存儲(chǔ)層次，優(yōu)化計(jì)算和訪存行為,，取得了良好的加速效果.以圖神經(jīng)網(wǎng)絡(luò)執(zhí)行行為帶來的加速結(jié)構(gòu)設(shè)計(jì)挑戰(zhàn)為出發(fā)點(diǎn),，從整體結(jié)構(gòu)設(shè)計(jì)以及計(jì)算、片上訪存,、片外訪存層次對(duì)該領(lǐng)域的關(guān)鍵優(yōu)化技術(shù)進(jìn)行詳實(shí)而系統(tǒng)地分析與介紹.最后還從不同角度對(duì)圖神經(jīng)網(wǎng)絡(luò)加速結(jié)構(gòu)設(shè)計(jì)的未來方向進(jìn)行了展望,，期望能為該領(lǐng)域的研究人員帶來一定的啟發(fā).

人 工 智 能 時(shí) 代,包 括 卷 積 神 經(jīng) 網(wǎng) 絡(luò) (convoluＧ tionalneuralnetworks,CNNs),、循 環(huán) 神 經(jīng) 網(wǎng) 絡(luò) (recurrentneuralnetworks,RNNs)等在內(nèi)的機(jī)器 學(xué)習(xí)應(yīng)用為社會(huì)與生活的智能化做出了革新性的巨 大貢獻(xiàn)．然而傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)只能處理來自歐幾里 得空間(Euclideanspace)的數(shù)據(jù)[１],該類分布規(guī)整 且結(jié)構(gòu)固定的數(shù)據(jù)無法靈活地表示事物間的復(fù)雜關(guān) 系．現(xiàn)實(shí)生活中,越來越多的場(chǎng)景采用圖作為表征數(shù) 據(jù)屬性與關(guān)系的結(jié)構(gòu)．非歐幾里得空間中的圖結(jié)構(gòu) 理論上能夠表征世間萬物的互聯(lián)關(guān)系(如社交網(wǎng)絡(luò)、 路線圖,、基因結(jié)構(gòu)等)[２],具有極為豐富和強(qiáng)大的數(shù) 據(jù)表達(dá)能力．圖計(jì)算是一種能夠?qū)D進(jìn)行處理,深入 挖掘圖數(shù)據(jù)內(nèi)潛藏信息的重要應(yīng)用,但其不具備對(duì) 圖數(shù)據(jù)進(jìn)行學(xué)習(xí)的能力．

受到傳統(tǒng)神經(jīng)網(wǎng)絡(luò)與圖計(jì)算應(yīng)用的雙重啟發(fā), 圖神經(jīng)網(wǎng)絡(luò)(graph neural networks,GNNs)應(yīng)運(yùn) 而生．圖神經(jīng)網(wǎng)絡(luò)使得機(jī)器學(xué)習(xí)能夠應(yīng)用于非歐幾 里得空間的圖結(jié)構(gòu)中,具備對(duì)圖進(jìn)行學(xué)習(xí)的能力．目 前圖神經(jīng)網(wǎng)絡(luò)已經(jīng)廣泛應(yīng)用到節(jié)點(diǎn)分類[３],、風(fēng)控評(píng) 估[４]、推薦系統(tǒng)[５]等眾多場(chǎng)景中．并且圖神經(jīng)網(wǎng)絡(luò)被 認(rèn)為是推動(dòng)人工智能從“感知智能”階段邁入“認(rèn)知 智能”階段的核心要素[６Ｇ８],具有極高的研究和應(yīng)用 價(jià)值．

圖神經(jīng)網(wǎng)絡(luò)的執(zhí)行過程混合了傳統(tǒng)圖計(jì)算和神 經(jīng)網(wǎng)絡(luò)應(yīng)用的不同特點(diǎn)．圖神經(jīng)網(wǎng)絡(luò)通常包含圖聚 合和圖更新２個(gè)主要階段．１)圖聚合階段的執(zhí)行行 為與傳統(tǒng)圖計(jì)算相似,需要對(duì)鄰居分布高度不規(guī)則 的圖進(jìn)行遍歷,為每個(gè)節(jié)點(diǎn)進(jìn)行鄰居信息的聚合,因 此這一階段具有極為不規(guī)則的計(jì)算和訪存行為特 點(diǎn)．２)圖更新階段的執(zhí)行行為與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)相似, 通過多層感知機(jī)(multiＧlayerperceptrons,MLPs) 等方式來進(jìn)行節(jié)點(diǎn)特征向量的變換與更新,這一階 段具有規(guī)則的計(jì)算和訪存行為特點(diǎn)．

圖神經(jīng)網(wǎng)絡(luò)的混合執(zhí)行行為給應(yīng)用的加速帶來 極大挑戰(zhàn),規(guī)則與不規(guī)則的計(jì)算與訪存模式共存使 得傳統(tǒng)處理器結(jié)構(gòu)設(shè)計(jì)無法對(duì)其進(jìn)行高效處理．圖 聚合階段高度不規(guī)則的執(zhí)行行為使得 CPU 無法從 其多層次緩存結(jié)構(gòu)與數(shù)據(jù)預(yù)取機(jī)制中獲益．主要面 向密集規(guī)則型計(jì)算的 GPU 平臺(tái)也因圖聚合階段圖 遍歷的不規(guī)則性,、圖更新階段參數(shù)共享導(dǎo)致的昂貴 數(shù)據(jù)復(fù)制和線程同步開銷等因素?zé)o法高效執(zhí)行圖神 經(jīng)網(wǎng)絡(luò)[９]．而已有的面向傳統(tǒng)圖計(jì)算應(yīng)用和神經(jīng)網(wǎng) 絡(luò)應(yīng)用的專用加速結(jié)構(gòu)均只關(guān)注于單類應(yīng)用,無法 滿足具有混合應(yīng)用特征的圖神經(jīng)網(wǎng)絡(luò)加速需求．因 此為圖神經(jīng)網(wǎng)絡(luò)專門設(shè)計(jì)相應(yīng)的加速結(jié)構(gòu)勢(shì)在必行． 

自２０２０年全球首款面向圖神經(jīng)網(wǎng)絡(luò)應(yīng)用的專 用加速結(jié)構(gòu) HyGCN [９]發(fā)表后,短時(shí)間內(nèi)學(xué)術(shù)界已 在該領(lǐng)域有多篇不同的硬件加速結(jié)構(gòu)成果產(chǎn)出．為 使讀者和相關(guān)領(lǐng)域研究人員能夠清晰地了解圖神經(jīng) 網(wǎng)絡(luò)加速結(jié)構(gòu)的現(xiàn)有工作,本文首先對(duì)圖神經(jīng)網(wǎng)絡(luò) 應(yīng)用的基礎(chǔ)知識(shí),、常見算法、應(yīng)用場(chǎng)景,、編程模型以 及主流的基于通用平臺(tái)的框架與擴(kuò)展庫(kù)等進(jìn)行介 紹．然后以圖神經(jīng)網(wǎng)絡(luò)執(zhí)行行為帶來的加速結(jié)構(gòu)設(shè) 計(jì)挑戰(zhàn)為出發(fā)點(diǎn),從整體結(jié)構(gòu)設(shè)計(jì)以及計(jì)算,、片上訪 存、片外訪存多個(gè)層次對(duì)該領(lǐng)域的關(guān)鍵優(yōu)化技術(shù)進(jìn) 行詳實(shí)而系統(tǒng)的分析與介紹．最后還從不同角度對(duì) 圖神經(jīng)網(wǎng)絡(luò)加速結(jié)構(gòu)設(shè)計(jì)的未來方向進(jìn)行了展望, 期望能為該領(lǐng)域的研究人員帶來一定的啟發(fā)．

當(dāng)前已有的圖神經(jīng)網(wǎng)絡(luò)應(yīng)用領(lǐng)域綜述論文從不 同角度對(duì)圖神經(jīng)網(wǎng)絡(luò)算法以及軟件框架進(jìn)行總結(jié)與 分析．綜述[１]對(duì)應(yīng)用于數(shù)據(jù)挖掘和機(jī)器學(xué)習(xí)領(lǐng)域的 主流圖神經(jīng)網(wǎng)絡(luò)算法進(jìn)行分類,并討論不同類別算 法的關(guān)系與異同．綜述[１０]依據(jù)圖神經(jīng)網(wǎng)絡(luò)模型的結(jié) 構(gòu)和訓(xùn)練策略的不同,提出新的分類方法,并以模型 的發(fā)展歷史為主線進(jìn)行介紹與分析．綜述[１１]圍繞圖 的表示學(xué)習(xí)(representationlearning)方法展開,并建立統(tǒng)一的框架來描述這些相關(guān)模型．綜述[１２]關(guān)注 于圖神經(jīng)網(wǎng)絡(luò)的理論屬性,總結(jié)圖神經(jīng)網(wǎng)絡(luò)的表達(dá) 能力(expressivepower)并對(duì)比分析克服表達(dá)限制 的圖神經(jīng)網(wǎng)絡(luò)模型．綜述[１３]基于計(jì)算機(jī)的金字塔組 織結(jié)構(gòu),對(duì)面向圖計(jì)算的加速結(jié)構(gòu)進(jìn)行分類和總結(jié), 對(duì)于新興的圖神經(jīng)網(wǎng)絡(luò)應(yīng)用,僅以 HyGCN [９]作為 案例進(jìn)行了討論．與前述工作側(cè)重點(diǎn)不同的是,本文 針對(duì)圖神經(jīng)網(wǎng)絡(luò)加速結(jié)構(gòu)設(shè)計(jì)過程中涉及到的關(guān)鍵 優(yōu)化技術(shù),進(jìn)行系統(tǒng)性分析和總結(jié),具有重要意義與 啟發(fā)價(jià)值．