3 月 31 日,,LiveVideoStackCon 2022 音視頻技術(shù)大會(huì)·北京站拉開帷幕。網(wǎng)心科技 CEO 李浩受邀出席,,并發(fā)表了題為《構(gòu)建新摩爾定律下的算力分發(fā)網(wǎng)絡(luò)》的主題演講,。他認(rèn)為,當(dāng)前全球新一輪 AI 技術(shù)風(fēng)暴漸起,,生成式 AI 將推動(dòng)邊緣云的新一輪爆發(fā)增長,,邊緣 AI 將沿著邊緣推理、邊緣訓(xùn)練到自主學(xué)習(xí)的軌跡發(fā)展,。 AGI 時(shí)代開啟,,算力奇點(diǎn)將至作為新一輪顛覆性科技革命,以 ChatGPT 為代表的 AIGC 技術(shù),,依靠強(qiáng)大的 AI 模型和海量數(shù)據(jù),,可以廣泛應(yīng)用于文本、音頻,、視頻,、游戲等領(lǐng)域,顯著降低內(nèi)容生產(chǎn)門檻的同時(shí),,也將大幅提升內(nèi)容生產(chǎn)的效率,。伴隨著人工智能應(yīng)用向縱深發(fā)展,,無論是大模型訓(xùn)練需求攀升,,還是 AI 應(yīng)用的爭相落地,都將進(jìn)一步驅(qū)動(dòng)算力需求的高增長,,這將會(huì)對網(wǎng)絡(luò)與算力帶來持續(xù)強(qiáng)勁的拉動(dòng),。 伴隨著 ChatGPT,、GPT-4 的迅速“出圈”,讓 OpenAI 一戰(zhàn)成名,外界對這家公司的關(guān)注度達(dá)到了前所未有的高度,。OpenAI 創(chuàng)始人 Sam Altman 此前在社交平臺(tái)提出了“新摩爾定律”——宇宙中的智能總量每 18 個(gè)月翻一倍,。盡管 Sam Altman 沒有做出詳細(xì)的解釋,但可以預(yù)見的是 AI 飛速發(fā)展的背后,,算力是一個(gè)明確可衡量的指標(biāo),,也是必不可少的條件。李浩以 GPT-4 為例做出趣味化類比,,目前 GPT-4 大模型由 100 萬億連接數(shù)構(gòu)成,,相當(dāng)于一個(gè)松鼠的神經(jīng)連接數(shù),而人的神經(jīng)連接數(shù)是 170 萬億,,按照新摩爾定律,,GPT-4 僅需十幾年的時(shí)間就能達(dá)到人類的水平。 類似的觀點(diǎn)還有,,庫茲韋爾此前提出用錢來考慮計(jì)算機(jī)的發(fā)展?fàn)顩r:用 1000 美元能買多少計(jì)算能力,。目前 1000 美元買到的電腦可以打敗老鼠的大腦,水平大約是人類的千分之一,。按照這個(gè)速度,,2025 年之前我們就能買得起一臺(tái)與人類大腦相媲美的電腦。 在新摩爾定律中,,算法,、數(shù)據(jù)和算力三要素耦合共振。其中,,數(shù)據(jù)是新型生產(chǎn)資料,算力是新型生產(chǎn)力,算法是新型生產(chǎn)關(guān)系,它們共同構(gòu)成了人工智能時(shí)代的生產(chǎn)力三要素,,而當(dāng)前技術(shù)創(chuàng)新更多體現(xiàn)在模型算法。在對數(shù)線性曲線中,,當(dāng)模型大小呈指數(shù)增長時(shí),,相應(yīng)的模型性能呈線性增長。在相變曲線中,,當(dāng)模型尺寸達(dá)到一定規(guī)模時(shí),,會(huì)出現(xiàn)突現(xiàn)能力,讓性能急劇增加,??梢钥闯觯楷F(xiàn)能力推翻比例定律,。當(dāng)模型尺寸達(dá)到一定規(guī)模時(shí),,會(huì)出現(xiàn)涌現(xiàn)能力,讓性能急劇增加,。 相比傳統(tǒng)的低代碼,、零代碼平臺(tái)主要依靠可視化和模塊化等實(shí)現(xiàn),,生成式 AI 使非程序員的創(chuàng)造者能夠使用自然語言指令進(jìn)行調(diào)用算力手段。隨著 AIGC 的進(jìn)一步平民化,必將改變?nèi)藗兊膬?nèi)容創(chuàng)作方式,讓更多人借助 AI 來拓展智慧,、知識(shí)和想象力的邊界,。 在音視頻領(lǐng)域,從智能配音到生成 AI 宣講視頻,,再到文本生成視頻模型,,新一輪 AI 驅(qū)動(dòng)的內(nèi)容生產(chǎn)力革命正拉開大幕。根據(jù)此前國際數(shù)據(jù)公司 IDC 調(diào)研數(shù)據(jù),,到 2025 年,,44%的數(shù)據(jù)將在核心和邊緣創(chuàng)建,同時(shí)全球?qū)⒔?80%的數(shù)據(jù)將存儲(chǔ)于核心和邊緣,。而在隱私保護(hù)方面,,未來每個(gè)用戶都有自己的數(shù)據(jù)節(jié)點(diǎn),邊緣側(cè)是 AI 數(shù)據(jù)保護(hù)的重要選項(xiàng)之一,,毫無疑問,,在 AIGC 發(fā)展路徑下,AI 和邊緣側(cè)有著關(guān)鍵性的重疊,。 邊緣云新定位:成為新的內(nèi)容生產(chǎn)中心在 ChatGPT 引發(fā)的新一輪 AI 浪潮下,,邊緣云儼然已成為 AI 應(yīng)用的主戰(zhàn)場,由于大量內(nèi)容在邊側(cè)生產(chǎn),,并伴隨著在邊緣云處完成內(nèi)容的處理,、分發(fā)。對此,,李浩提出“云(訓(xùn)練)-邊(推理)-端(請求)”全場景 AI 訓(xùn)練推理協(xié)同框架,,將訓(xùn)練過程部署在云端,而將訓(xùn)練好的模型部署在邊緣設(shè)備,,邊緣側(cè)網(wǎng)絡(luò)使用判定器判斷特征信息是否足以進(jìn)行準(zhǔn)確的推理,,當(dāng)判定為錯(cuò)誤推理時(shí),邊緣側(cè)拋出數(shù)據(jù)至云側(cè),,由云側(cè)更復(fù)雜的網(wǎng)絡(luò)進(jìn)行推理,,得到更準(zhǔn)確的推理結(jié)果,通過云邊端協(xié)同的方式,,可以帶來高質(zhì)量的 AI 技術(shù)方案解決實(shí)際使用場景里的更多痛點(diǎn),。 圍繞生成式 AI+邊緣云的暢想,李浩認(rèn)為邊緣云未來有三大關(guān)鍵趨勢: 第一,、智能場景多,。一方面,AI 交互多種形態(tài),底層出現(xiàn)大量異構(gòu)算力,,對應(yīng)不同模型大小和成本,;另一方面,,算力分層進(jìn)行全網(wǎng)算力資源的智能編排,、彈性調(diào)度。 第二,、實(shí)時(shí)交互多,。從邊緣側(cè)分發(fā)到超低延遲 RTC,沉浸式需求和“臨場感”驅(qū)動(dòng)下一代互聯(lián)網(wǎng)演進(jìn),。 第三,、業(yè)務(wù)邏輯多。數(shù)據(jù)源頭的變革,,大量業(yè)務(wù)邏輯要在邊緣網(wǎng)絡(luò)基于 Serverless 重塑,。 從單純分發(fā)到算網(wǎng)融合,邊緣云也將面臨全新挑戰(zhàn),。算力網(wǎng)絡(luò)是數(shù)字化時(shí)代的資源網(wǎng),,是以計(jì)算為核心,通過網(wǎng)絡(luò)實(shí)現(xiàn)連接,,通過感知實(shí)現(xiàn)匹配與調(diào)度的服務(wù),。算力網(wǎng)絡(luò)有三大組成要素:首先是計(jì)算,算力網(wǎng)絡(luò)的核心資源,;其次是感知,,對具體場景算力需求的感知及算力資源的感知;第三是連接:將分散,、異構(gòu),、多層級、閑置的算力集合起來,。以上三大要素賦予算力網(wǎng)絡(luò)功能屬性和服務(wù)屬性,,讓其能高效盤活全社會(huì)算力資源,并賦能產(chǎn)業(yè)應(yīng)用,。 從算力網(wǎng)絡(luò)的技術(shù)架構(gòu)上看,,從下到上可分為基礎(chǔ)資源層、算網(wǎng)調(diào)度層和算網(wǎng)運(yùn)營層,,同時(shí)算網(wǎng)運(yùn)維和算網(wǎng)安全貫穿全程,,形成“三橫兩縱”的支撐形態(tài)。最終,,算力網(wǎng)絡(luò)會(huì)以產(chǎn)品或能力的形式,,賦能產(chǎn)業(yè)應(yīng)用。 從傳輸?shù)剿懔ΓW(wǎng)心科技持續(xù)探索 AI 場景落地實(shí)踐作為全球邊緣計(jì)算創(chuàng)領(lǐng)者,,網(wǎng)心科技通過共享和自建,,匯聚海量邊緣計(jì)算資源,構(gòu)建了全球首個(gè)百萬量級節(jié)點(diǎn)邊緣計(jì)算平臺(tái)——星域云,。上層通過對接中心云,,其余層次用各層級邊緣節(jié)點(diǎn)去覆蓋。在此基礎(chǔ)上,,基于網(wǎng)心科技的智能調(diào)度,、資源封裝、虛擬化平臺(tái),,把比較復(fù)雜的資源封裝成標(biāo)準(zhǔn)化的產(chǎn)品給到客戶使用,。 目前,網(wǎng)心科技在邊緣云計(jì)算領(lǐng)域已建立領(lǐng)先的行業(yè)地位,。在市場地位方面,,網(wǎng)心科技擁有邊緣計(jì)算全品類產(chǎn)品,目前客戶接入 SDK 數(shù)量已達(dá) 6 億,;IDC 報(bào)告顯示,,2022 上半年網(wǎng)心科技位列中國邊緣公有云服務(wù)市場第三。在技術(shù)實(shí)力方面,,網(wǎng)心科技擁有全棧式邊緣計(jì)算解決方案,、行業(yè)最優(yōu)的技術(shù)指標(biāo)、卓越創(chuàng)新的邊緣計(jì)算產(chǎn)品,。在資源優(yōu)勢方面,,網(wǎng)心科技擁有全球最大、最下沉的邊緣計(jì)算網(wǎng)絡(luò),,超過 500 萬節(jié)點(diǎn)數(shù)量和 70Tbps 帶寬儲(chǔ)備,,同時(shí)擁有自研的邊緣智能硬件設(shè)備,適配各類邊緣場景,。在團(tuán)隊(duì)創(chuàng)新方面,,網(wǎng)心科技是國內(nèi)最早涉足邊緣 CDN 的廠商之一。公司研發(fā)人員占比 70%,,并且組建了國內(nèi)規(guī)模最大的邊緣計(jì)算團(tuán)隊(duì),。 據(jù)李浩介紹,目前網(wǎng)心科技邊緣云計(jì)算解決方案已在云游戲,、AIGC 等多個(gè) AI 場景落地實(shí)踐,。在云游戲領(lǐng)域,網(wǎng)心云游戲布局了覆蓋全網(wǎng)的算力節(jié)點(diǎn),,結(jié)合自身智能調(diào)度系統(tǒng)與基于 QUIC 構(gòu)建的超低延時(shí) RTC,,為云游戲玩家提供大帶寬、低時(shí)延的穩(wěn)定傳輸。 首先,,在智能調(diào)度方面,,傳輸雙端智能、精準(zhǔn)的定位功能,,確保 IP 庫,、位置信息的高精度;基于網(wǎng)絡(luò)測量的策略優(yōu)化,,依靠海量邊緣節(jié)點(diǎn)以及終端的網(wǎng)絡(luò)測量數(shù)據(jù)更新最優(yōu)網(wǎng)絡(luò)拓?fù)?;海量?jié)點(diǎn)的實(shí)時(shí)調(diào)度能力,,以全內(nèi)存管理實(shí)現(xiàn)高效的節(jié)點(diǎn)調(diào)度能力,。其次,在端到端的超低延遲 RTC 性能優(yōu)化方面,,網(wǎng)心自研 RTC,,基于 QUIC 傳輸協(xié)議構(gòu)建,擁有更快的連接建立,、減少線路阻塞,、更好的擁塞控制、改進(jìn)隱私保護(hù)及流完整性,;高效利用 GPU 特點(diǎn)實(shí)現(xiàn)零拷貝的采集編碼,,大幅降低 CPU 占用率的同時(shí),有效提升視頻的編解碼效率,。 從實(shí)際觀測結(jié)果來看,,當(dāng)網(wǎng)絡(luò)突發(fā)大面積丟包后可快速恢復(fù)到預(yù)期帶寬。此外,,弱網(wǎng)表現(xiàn)的結(jié)果也在延時(shí),、吞吐,帶寬間實(shí)現(xiàn)了很好的 tradeoff,,以此保障游戲過程中的優(yōu)質(zhì)體驗(yàn),。 在 AIGC 領(lǐng)域,與傳統(tǒng)基于中心云的 AIGC 應(yīng)用方案架構(gòu)不同,,網(wǎng)心云 IAAS 架構(gòu)依托自身邊緣節(jié)點(diǎn)管理能力構(gòu)建了超大規(guī)模的算力節(jié)點(diǎn)池,,這使得數(shù)據(jù)不需要回傳到中心云,而是在離用戶更近的邊緣側(cè)就能解決,,從而實(shí)現(xiàn)更低延時(shí),、更高服務(wù)質(zhì)量、更低帶寬成本,、更安全的 AIGC 算力供給,。 最后,李浩表示,從傳輸?shù)剿懔?,網(wǎng)心未來業(yè)務(wù)演進(jìn)實(shí)施“三步走”: 第一步,、降本增效。目前立足于能產(chǎn)生經(jīng)濟(jì)收益的場景以及客戶的實(shí)際需求,,利用客戶擴(kuò)大網(wǎng)絡(luò)規(guī)模,,提升網(wǎng)絡(luò)水平,降低成本,,提高效率,,推助企業(yè)良性擴(kuò)張。 第二步,、功能迭代,。逐漸豐富業(yè)務(wù)場景,助推云游戲,、AIGC 等業(yè)務(wù)的完善與推廣,,堅(jiān)持對算力類需求的研發(fā)與覆蓋,持續(xù)提升算力布局和能力,。 第三步,、構(gòu)建生態(tài)。推動(dòng)邊緣網(wǎng)絡(luò)和算力疊加,,對接產(chǎn)業(yè)場景并實(shí)現(xiàn)產(chǎn)業(yè)場景產(chǎn)品化,,構(gòu)建開放網(wǎng)絡(luò)平臺(tái),吸引開發(fā)者,、合作伙伴共同構(gòu)建生態(tài),。 |
|