【原】飛槳+文心一言的“動力裝置”,，藏著百度財報的增長密碼

腦極體 2023-05-17 發(fā)布于河南

展開全文

我們習以為常的科技世界，正在以肉眼可見的速度被大模型所改變甚至重構(gòu),。不想錯失機遇的科技企業(yè)，都懷揣著造AI重器的夢想,，各種大模型紛至沓來,。

發(fā)布大模型只是開始，如同火箭發(fā)射,，升空是第一步,，后續(xù)能否順利沖向太空、進入產(chǎn)業(yè)軌道,，是一條充滿了不確定的路,。

有的企業(yè)耗費大量成本開發(fā)大模型，但實用效果不佳,，發(fā)布之后就啞然無聲,、乏人問津，徒增了負擔,；有的大模型后續(xù)推動力不足,，不能像OpenAI或百度一樣，根據(jù)用戶反饋持續(xù)推動大模型的迭代升級,；有的則迷失了方向,，找不到大模型進入產(chǎn)業(yè)的準確角度……

成功沖向天穹和產(chǎn)業(yè)軌道的大語言模型，文心一言,，算是領(lǐng)銜的那個,。

數(shù)據(jù)是最有力的佐證,。5月16日，百度發(fā)布了截至2023年第一季度未經(jīng)審計的財務報告,，營收和利潤雙雙超市場預期,，其中營收311億元，同比增長10%,，凈利潤（non-GAAP）57億元,，同比大幅增長48%。

百度將這份穩(wěn)健的業(yè)績答卷,，歸功于生成式人工智能和大語言模型為各行各業(yè)帶來的革命性潛力,，以及百度及時布局大模型，文心一言開啟內(nèi)測,，并計劃逐步將文心一言融入百度的所有業(yè)務,，圍繞文心一言在新的時代中建立新生態(tài)，實現(xiàn)長期,、可持續(xù)的增長,。

借助文心一言這個“AI火箭”，百度業(yè)績正沖向高處,。

我們可以將文心一言的“動力裝置”進行拆解,，理解大模型的前進動力與產(chǎn)業(yè)價值。

飛槳+文心一言,，全速前進

對于百度的業(yè)績表現(xiàn),，有券商給出了這樣的評價——百度是一個有多種催化劑的首選，如生成式人工智能,、云和ADAS,，可以推動多重擴張。

多重動力,，這一特點也體現(xiàn)在百度大語言模型文心一言,。

大模型要飛向產(chǎn)業(yè)軌道，光有前端的“航天器”是不夠的,，還需要算力,、框架、生態(tài)等多重動力,，提供足夠的技術(shù)動能,，來支撐整個旅程的不斷加速。

就拿文心一言來說,，發(fā)布之后行業(yè)伙伴普遍反饋效果好,，一個主要原因是，能夠根據(jù)用戶反饋及時迭代強化模型能力,、提高模型的推理效率,、優(yōu)化算力利用率,，從而支撐大規(guī)模、高增長,、高要求的產(chǎn)業(yè)需求,。

而文心一言的全速前進，離不開與百度自研的產(chǎn)業(yè)級深度學習框架飛槳的聯(lián)合優(yōu)化,。

文心一言+飛槳的協(xié)同,，為大模型注入了多重動力：

第一，不斷提高的推理能力,，性能提升近10倍,。

大模型在通用任務上的表現(xiàn)，需要根據(jù)用戶反饋,，來及時強化和提高模型的推理能力,。

文心一言及背后的大模型，以飛槳做支撐,，結(jié)合一言的模型結(jié)構(gòu)特色和量化技術(shù),，完成推理引擎優(yōu)化版本儲備，從發(fā)布開始,，平均保持著一星期左右完成1次迭代的速率,，已經(jīng)完成了4次迭代，相對第一版大模型推理服務,，單機QPS已累計提升近10倍,。這也意味著，文心一言的模型推理成本大幅降低,，可為10倍數(shù)量的用戶提供服務，大模型有望更加普惠地“飛入尋常百姓家”,，落地各行業(yè),。

簡單來說，就是文心一言的學習速度更快,，變得越來越聰明,。

另外，大語言模型的用戶猛增,，算力成為不容忽視的瓶頸,，也進一步推高了算力成本。砸錢買算力是一個需要長期高投入的“無底洞”,，提高模型算力利用率或是“治本”之道,。基于飛槳分布式并行策略優(yōu)化和訓練精度策略調(diào)整,，百度模型算力利用率將大幅度提升,。

飛槳支持AI模型從訓練到推理的全流程落地,，AI大模型+深度學習框架的協(xié)同，是文心一言得以一飛沖天,、向產(chǎn)業(yè)軌道加速前進的關(guān)鍵推動力,。

大模型的多級動力裝置

1909年，羅伯特·戈達德讀了《月球上的第一批人》等科幻小說,，開始對火箭動力學進行了廣泛的理論研究,，并提出了多級火箭的藍圖。根據(jù)動量守恒定理,，火箭進入太空軌道,，需要多級推進器，在航程的每個階段,，持續(xù)供給燃料,，才能突破地球引力圈。

大模型要突破技術(shù)落地的限制,，走向產(chǎn)業(yè)軌道,，也需要一個層層推進的多級動力裝置。

百度全棧AI技術(shù),，就組成了這樣一個 “多級動力裝置”,，在大模型時代，讓文心一言呈現(xiàn)出差異化的能力：

一是成長快速,。

前面提到,，模型層的文心一言，和框架層的飛槳,，聯(lián)合優(yōu)化,、相互促進、相互成就,，是大模型效率,、效果提升的最根本原因。飛槳集深度學習核心框架,、基礎(chǔ)模型庫,、端到端開發(fā)套件、豐富的工具組件于一體,，百度全棧自研產(chǎn)品,，分布在百度人工智能四層架構(gòu)，彼此適配度更高,，可以高效協(xié)同,，實現(xiàn)端到端優(yōu)化，模型迭代開發(fā)的速度自然更快。

沒有自研深度學習框架的大模型服務商,，要么從頭開始研發(fā),，要么基于TensorFlow和PyTorch等深度學習框架進行再開發(fā)，很難充分滿足大模型的訓練需求,。

二是全面可靠,。

大模型是當之無愧的“AI重器”，而圍繞大模型展開的博弈,，或許會在不遠的將來,，成為困擾大量行業(yè)用戶的頭疼問題。

每天與無數(shù)國人進行問答的大模型,，建立在其他國家的深度學習框架上,，危險系數(shù)可想而知。因此,，大模型的自立自強,、安全可靠，必須將核心技術(shù)掌握在中國企業(yè)受眾,。

文心系列大模型,，建立在百度長期部署的AI基礎(chǔ)設(shè)施與底層自研技術(shù)之上，能夠消除千行百業(yè)應用大模型的后顧之憂,，加速產(chǎn)業(yè)智能化轉(zhuǎn)型升級,。

三是可持續(xù)發(fā)展。

大模型作為一種新技術(shù),、新產(chǎn)品,，發(fā)展模式還沒有成熟的路徑可以借鑒，需要長期投入,、探索無人區(qū),、試錯迭代，摸索的過程也意味著大量的創(chuàng)新投入,，一不小心就會掉隊,，緊跟行業(yè)趨勢，補全大模型所需要的基礎(chǔ)設(shè)施和配套技術(shù),，又會帶來巨大的研發(fā)工作量和成本壓力。

百度人工智能四層框架“芯片層-框架層-模型層-應用層”,，布局完整,、技術(shù)領(lǐng)先、應用落地,，為文心一言構(gòu)筑了持續(xù)競爭力,。

舉個例子，大模型如何落地業(yè)務場景，在很多行業(yè)還是個未知數(shù),，而得益于百度AI生態(tài)的產(chǎn)業(yè)實踐和積累,，文心行業(yè)大模型已經(jīng)在電力、燃氣,、金融,、航天、傳媒,、城市,、影視、制造,、社科等領(lǐng)域,，展開了應用落地。

IDC發(fā)布《2022中國大模型發(fā)展白皮書》顯示,，百度文心大模型處于行業(yè)第一梯隊,，產(chǎn)品能力、應用能力,、生態(tài)能力全面領(lǐng)先,。

正如OpenAI的突破不是一朝一夕完成的，文心一言的“一飛沖天”,，靠的并不是單一技術(shù)的炸裂,，而是沒有短板的百度AI長期蓄力，最終讓文心大模型突破限制,、飛向天穹,。

百度AI，躍向無限可能,，

火箭航程的最后一階段,，是讓太空船能安然步入與行星同步的軌道。大模型的終點,，則是與產(chǎn)業(yè)接軌,，百度已經(jīng)走到了這一環(huán)節(jié)。

大模型的浪潮還將持續(xù),，如何將大模型嵌入到產(chǎn)業(yè)中去,，與產(chǎn)業(yè)應用結(jié)合？恐怕會成為未來幾年內(nèi)國產(chǎn)大模型的重要話題,，或者說挑戰(zhàn),。

我們關(guān)注文心一言的意義，就在于此,。

有券商報告顯示,，自ERNIE Bot宣布以來，企業(yè)客戶對基于云的ERNIE Bot服務的需求強烈，其中許多是新的云客戶,。此外,，ERNIE Bot推出以來獲得了大量高質(zhì)量銷售線索，許多已經(jīng)轉(zhuǎn)化為探索AIGC應用的共同開發(fā)項目,。

AI基礎(chǔ)設(shè)施和SaaS化服務,，對云服務的直接帶動作用，在百度財報中也有較為清晰的體現(xiàn),。百度智能云2023年第一季度營收為42億元,，同比增長8%，且在本季度實現(xiàn)盈利,。在競爭激烈的云市場中實現(xiàn)盈利,，是很多云巨頭面臨的難題，百度智能云則憑借AI的核心優(yōu)勢,，找到了自己的節(jié)奏,。隨著文心一言的持續(xù)發(fā)力，百度在云市場的表現(xiàn)也有了更多可能性,。