在企業(yè)服務(wù)領(lǐng)域深耕35年的用友,，如何應(yīng)對(duì)人工智能新范式帶來(lái)的機(jī)遇和挑戰(zhàn),。

所有行業(yè)都值得基于人工智能技術(shù)重做一遍。類似的判斷已經(jīng)司空見(jiàn)慣,，大模型帶來(lái)的技術(shù)新范式正在加速這一進(jìn)程,。“人工智能已是我們這個(gè)時(shí)代最前沿和普適的科學(xué)技術(shù)之一,?！庇糜丫W(wǎng)絡(luò)董事長(zhǎng)兼CEO王文京說(shuō)。

7月27日,，用友發(fā)布了業(yè)內(nèi)首個(gè)企業(yè)服務(wù)大模型YonGPT,。在企業(yè)服務(wù)領(lǐng)域深耕了35年的用友，在一些開(kāi)源或者閉源的通用大語(yǔ)言模型之上,，結(jié)合海量的行業(yè)知識(shí)和真實(shí)的行業(yè)場(chǎng)景,，訓(xùn)練出了企業(yè)服務(wù)大模型。

目前YonGPT還處于1.0版本，本次發(fā)布的是基于這個(gè)大模型的首批智能化場(chǎng)景服務(wù),。王文京表示,，后面大模型會(huì)持續(xù)迭代訓(xùn)練,，并不斷豐富基于這個(gè)大模型的各類企業(yè)服務(wù),。

過(guò)去幾十年，用友的核心產(chǎn)品完成了從財(cái)務(wù)軟件到企業(yè)管理軟件,，再到現(xiàn)在商業(yè)創(chuàng)新平臺(tái)用友BIP的升級(jí),。而隨著YonGPT的發(fā)布，大模型在自然語(yǔ)言上的交互表現(xiàn)和內(nèi)容生成上的強(qiáng)大能力,，將給用友BIP打開(kāi)巨大的想象空間,。

“企業(yè)服務(wù)已進(jìn)入AI創(chuàng)新時(shí)代，商業(yè)創(chuàng)新也進(jìn)入到全面數(shù)智商業(yè)創(chuàng)新的新時(shí)代,?！庇糜丫W(wǎng)絡(luò)執(zhí)行副總裁兼CTO樊冠軍說(shuō)，YonGPT是用友BIP產(chǎn)品智能化的一部分,，實(shí)際上也是用友為客戶提供的一個(gè)商業(yè)基礎(chǔ)設(shè)施,。

01

企業(yè)服務(wù)正在被大模型重構(gòu)

先來(lái)看幾個(gè)企業(yè)服務(wù)的具體場(chǎng)景：

張總是一家消費(fèi)品企業(yè)的財(cái)務(wù)高管，面對(duì)瞬息萬(wàn)變的商業(yè)環(huán)境,，他希望能了解公司實(shí)時(shí)的財(cái)務(wù)數(shù)據(jù),。他通過(guò)基于用友YonGPT打造的AI經(jīng)營(yíng)助手“智友”發(fā)出查詢指令：分析今年截止7月份的盈利情況。YonGPT很快生成了利潤(rùn)總額,、同比增長(zhǎng)率,，做出了低于年初3.65%增長(zhǎng)目標(biāo)的洞察分析，并繪制了直觀豐富的圖表,，可以看到每個(gè)月累計(jì)利潤(rùn)雖有所增長(zhǎng),，但是同比增長(zhǎng)率卻在逐月下降。

光有這些數(shù)據(jù)是不夠的，“看一下詳細(xì)數(shù)據(jù)”,，YonGPT又給出了更詳細(xì)的經(jīng)營(yíng)數(shù)據(jù),，包括盈利總額、產(chǎn)量、銷量和預(yù)算執(zhí)行情況,、各類產(chǎn)品利潤(rùn)情況等實(shí)時(shí)信息,。

而后大模型又分析了華北分公司的情況，分析利潤(rùn)不及預(yù)期的原因,，然后基于產(chǎn)銷計(jì)劃數(shù)據(jù)預(yù)測(cè)下個(gè)月的利潤(rùn)情況,，并自動(dòng)總結(jié)推理出測(cè)算后的總體利潤(rùn)以及與年初目標(biāo)的對(duì)比情況。讓管理層隨時(shí)隨地進(jìn)行盈利分析,、經(jīng)營(yíng)預(yù)測(cè),、歸因洞察、行業(yè)對(duì)標(biāo)等一體化決策,。

業(yè)務(wù)員小林正在與客戶進(jìn)行RFQ（報(bào)價(jià)請(qǐng)求）的溝通,。以前都是在微信、QQ等社交軟件上完成,，白天與客戶交流,，晚上再打開(kāi)公司系統(tǒng)，手動(dòng)一行一行錄入,，不僅辛苦,，也很割裂。

現(xiàn)在在大模型的加持之后,，一邊聊天溝通,，系統(tǒng)會(huì)摘錄和提取聊天記錄的關(guān)鍵信息，自動(dòng)生成訂單摘要,，如有信息缺失,，經(jīng)過(guò)預(yù)訓(xùn)練的YonGPT也會(huì)給出相應(yīng)的提示，如送貨日期未提供,。業(yè)務(wù)員可再次發(fā)起與客戶的溝通,，進(jìn)行信息補(bǔ)全。“聊天式地完成了原來(lái)軟件的系統(tǒng)化的工作,。”

這是用友企業(yè)服務(wù)大模型正在給企業(yè)服務(wù)場(chǎng)景帶來(lái)的真實(shí)改變,。在7月27日的發(fā)布現(xiàn)場(chǎng)，樊冠軍介紹到,，基于大模型的人工智能在企業(yè)服務(wù)領(lǐng)域的應(yīng)用主要集中在4個(gè)方向上：智能化的業(yè)務(wù)運(yùn)營(yíng),、自然化的人機(jī)交互、智慧化的知識(shí)生成,、語(yǔ)義化的應(yīng)用生成,。用友企業(yè)服務(wù)大模型YonGPT圍繞這四個(gè)方向推進(jìn)模型訓(xùn)練和產(chǎn)品效果優(yōu)化。

不難發(fā)現(xiàn),，這四大方向都有幾個(gè)共同特點(diǎn)：一是全程都是通過(guò)自然語(yǔ)言的交互完成,，“實(shí)際上已經(jīng)沒(méi)有菜單的概念了”,。

以前，企業(yè)的痛點(diǎn)在于,，數(shù)據(jù)藏得很深,。功能都很全，但大部分企業(yè)只能用到里面很小的一部分,，數(shù)據(jù)潛力挖掘得遠(yuǎn)遠(yuǎn)不夠,。比如公司管理層想要看到具體數(shù)據(jù)，還需要中間有人幫忙整理,，中間來(lái)回調(diào)整,，不僅麻煩,，而且影響效率?，F(xiàn)在管理層可以直接跟系統(tǒng)對(duì)話，自己就能調(diào)整,，實(shí)時(shí)掌握最新經(jīng)營(yíng)情況,。

二是實(shí)現(xiàn)基于上下文的多輪對(duì)話，通過(guò)一步步輸入提示詞,，不斷獲得更加深入的分析結(jié)果,。從最簡(jiǎn)單的信息展示，到最終的商業(yè)決策,，都在大模型的輔助之下,，變得高效且有依據(jù)。

三是強(qiáng)大的內(nèi)容生成能力,。一方面是知識(shí)的生成,，比如歸納總結(jié)文檔的內(nèi)容，提煉對(duì)話要點(diǎn)等,。另一方面是應(yīng)用生成,，低代碼在企業(yè)應(yīng)用的搭建上非常流行，但低代碼并非完全沒(méi)有門檻,，依然需要業(yè)務(wù)人員有一定的代碼能力和邏輯能力,。而大模型讓低代碼的搭建可以基于自然語(yǔ)言進(jìn)行。

大模型的推出給企業(yè)服務(wù)帶來(lái)了極大的變革,。一方面是極大降低了數(shù)據(jù)使用門檻,，管理層用數(shù)的需求不需要經(jīng)過(guò)重重轉(zhuǎn)包，可以用自然語(yǔ)言直接從系統(tǒng)中獲得信息,。從戰(zhàn)略層面,，企業(yè)內(nèi)數(shù)據(jù)應(yīng)用變得更以人為本。

另外,，大模型也極大推動(dòng)了企業(yè)內(nèi)結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)的融合,。此前用友BIP系統(tǒng)里大量的結(jié)構(gòu)化數(shù)據(jù)可以直接被系統(tǒng)識(shí)別和分析,。但許多非結(jié)構(gòu)化數(shù)據(jù)，比如視頻,、圖片,、圖譜等，使用時(shí)需要人去檢索和識(shí)別,，不易被充分利用,。

大模型技術(shù)應(yīng)用后，系統(tǒng)能夠輕松跨越結(jié)構(gòu)化數(shù)據(jù)和非結(jié)構(gòu)數(shù)據(jù),，實(shí)現(xiàn)即搜即問(wèn)即答,。這種融合還能極大簡(jiǎn)化產(chǎn)品的界面，比如原來(lái)分散在不同界面的人力知識(shí)系統(tǒng),、財(cái)務(wù)知識(shí)系統(tǒng)和業(yè)務(wù)知識(shí)管理系統(tǒng)能實(shí)現(xiàn)合并,，形成一個(gè)7*24小時(shí)的助手為企業(yè)用戶服務(wù)。

樊冠軍認(rèn)為,，通用大語(yǔ)言模型與用友企業(yè)服務(wù)大模型,、用友BIP系統(tǒng)及企業(yè)內(nèi)私域數(shù)據(jù)的結(jié)合，正在推動(dòng)企業(yè)服務(wù)領(lǐng)域里智能應(yīng)用服務(wù)時(shí)代的到來(lái),。

02

YonGPT背后的三層架構(gòu)

用友很明確的一點(diǎn)是,，不做通用大語(yǔ)言模型，而是選擇在閉源或開(kāi)源的通用大模型之上,，來(lái)構(gòu)建自己的企業(yè)服務(wù)大模型YonGPT,，實(shí)現(xiàn)跨模型適配。

YonGPT的整體架構(gòu)分了三層,，L0層是通用大模型底座,，L1層是YonGPT企業(yè)服務(wù)大模型，L2層是領(lǐng)域或行業(yè)模型精調(diào)的智能化場(chǎng)景服務(wù),。

樊冠軍認(rèn)為,，在云原生時(shí)代人們常說(shuō)跨云適配，在大語(yǔ)言模型時(shí)代,，企業(yè)服務(wù)也需要跨模型進(jìn)行適配,。目前，YonGPT在最底層的通用大模型底座上,，可以適配業(yè)界主流的大語(yǔ)言模型,，既包括包括百度的文心一言等閉源模型，也支持智源悟道,、質(zhì)譜ChatGLM以及LLaMA等開(kāi)源大模型,。在國(guó)外，YonGPT還可基于ChatGPT來(lái)提供服務(wù),。

無(wú)論哪一種方式,，行業(yè)大模型都離不開(kāi)大量的精調(diào)和提示工程,，用友在這個(gè)環(huán)節(jié)做了細(xì)致的工作。YonGPT通過(guò)上下文記憶,、知識(shí)/庫(kù)表索引,、Prompt工程、Agent執(zhí)行,、通用工具集等擴(kuò)充大模型的存儲(chǔ)記憶,、適配應(yīng)用和調(diào)度執(zhí)行能力。除此之外,，用友也考慮到了插件建設(shè),。涉及到與外部系統(tǒng)的互動(dòng)以及調(diào)用，可以用插件服務(wù)來(lái)完成,。

YonGPT內(nèi)置了一個(gè)Agent執(zhí)行層,，作為整體的指揮調(diào)度中心，對(duì)企業(yè)用戶的需求進(jìn)行區(qū)分,。一些需要返回確定性結(jié)果,，并且對(duì)可靠性要求高的任務(wù)，系統(tǒng)會(huì)自動(dòng)交回用友BIP或小模型,，由企業(yè)服務(wù)領(lǐng)域原有的功能來(lái)完成。對(duì)一些需要推理判定,，有不確定性或模糊性的任務(wù),，交給大模型去開(kāi)發(fā)。

最上面的L2層是場(chǎng)景化的智能應(yīng)用,。目前發(fā)布的YonGPT1.0版,，用友推出了包括企業(yè)經(jīng)營(yíng)洞察、智能訂單生成,、供應(yīng)商風(fēng)控,、動(dòng)態(tài)庫(kù)存優(yōu)化、智能人才發(fā)現(xiàn),、智能招聘,、智能預(yù)算分析、智能商旅費(fèi)控,、代碼生成等在內(nèi)的數(shù)十種基于企業(yè)服務(wù)大模型賦能的智能應(yīng)用,。樊冠軍介紹，未來(lái)用友會(huì)進(jìn)一步豐富場(chǎng)景,，將更多的功能場(chǎng)景開(kāi)放出來(lái),，比如智能保修檢修等服務(wù)已經(jīng)在開(kāi)發(fā)中。

眾所周知,，通用大語(yǔ)言模型有時(shí)會(huì)一本正經(jīng)的胡說(shuō)八道,，而在企業(yè)生產(chǎn)和經(jīng)營(yíng)場(chǎng)景,，互動(dòng)的結(jié)果需要可信、可靠,。樊冠軍介紹,，YonGPT能夠真正在企業(yè)服務(wù)領(lǐng)域應(yīng)用，本質(zhì)上依靠三大技術(shù)來(lái)實(shí)現(xiàn)：

首先是交互式數(shù)據(jù)查詢與指令執(zhí)行,。此前的智能人機(jī)交互經(jīng)常被吐槽不夠聰明的原因在于,，稍有語(yǔ)義改動(dòng)和問(wèn)法變化，系統(tǒng)就不能正確識(shí)別 ,，同時(shí)這些軟件也不能很好理解上下文內(nèi)容,。經(jīng)過(guò)專門訓(xùn)練后，YonGPT能夠準(zhǔn)確識(shí)別用戶的提問(wèn),，判斷用戶提問(wèn)的意圖及與之相關(guān)聯(lián)的意圖,，保證交互準(zhǔn)確。

其次是業(yè)務(wù)知識(shí)查詢問(wèn)答,。大模型技術(shù)可以解決多模態(tài)數(shù)據(jù)的問(wèn)題,。多模態(tài)的視頻、圖片和表格數(shù)據(jù),，通過(guò)切片,，倒排索引和向量索引等技術(shù)處理，各類數(shù)據(jù)口徑對(duì)齊,，形成企業(yè)內(nèi)的多路索引庫(kù),。這些索引庫(kù)都在私域內(nèi)，L0層和L1層的模型學(xué)習(xí),、訓(xùn)練和調(diào)用都在私域內(nèi),，保證了數(shù)據(jù)的安全性，同時(shí)得到了企業(yè)內(nèi)知識(shí)的“可搜可問(wèn)答” ,。

第三是復(fù)雜任務(wù)執(zhí)行系統(tǒng),。通過(guò)大模型的任務(wù)鏈技術(shù)將復(fù)雜任務(wù)分解一系列微服務(wù)執(zhí)行，把確定性交給已有系統(tǒng)或者小模型,，不確定性和系統(tǒng)調(diào)度交給大模型,。

另外，YonGPT還優(yōu)化了企業(yè)服務(wù)大模型的訓(xùn)練效率和成本,，集成了豐富的開(kāi)發(fā)工具和優(yōu)化算法,，通過(guò)自有的數(shù)據(jù)管理、大模型精調(diào),、大模型評(píng)估優(yōu)化,、大模型推理和插件服務(wù)等功能，為大模型的構(gòu)建和服務(wù)提供穩(wěn)定且有效的支撐,。后續(xù)YonGPT將會(huì)對(duì)用友整體產(chǎn)品體系進(jìn)行全面的能力覆蓋,。

03

用友的優(yōu)勢(shì)在哪里,？

今年4月，用友BIP技術(shù)大會(huì)上,，用友透露已經(jīng)開(kāi)始啟動(dòng)企業(yè)服務(wù)大模型的訓(xùn)練,。在外界看來(lái)，從啟動(dòng)訓(xùn)練到現(xiàn)在發(fā)布,，YonGPT籌備的時(shí)間也不到半年時(shí)間,。但事實(shí)上，用友在智能化應(yīng)用和服務(wù)方面已布局多年,，相關(guān)技術(shù)也有很深的積累,。

“用友BIP從研發(fā)伊始就堅(jiān)持把數(shù)字化和智能化作為兩個(gè)最核心和基本的特性，在數(shù)字化基礎(chǔ)上,，結(jié)合IPA（智能流程自動(dòng)化）,、計(jì)算機(jī)視覺(jué)、自然語(yǔ)言處理,、知識(shí)圖譜等智能技術(shù),，研發(fā)提供了一批智能化的應(yīng)用與服務(wù)，已在一批企業(yè)中得到應(yīng)用,?！蓖跷木┱f(shuō)。

比如用友開(kāi)發(fā)的智多星RPA（機(jī)器人流程自動(dòng)化）,，匯聚了上千個(gè)場(chǎng)景用例,，在銀行回單下載、對(duì)賬,、開(kāi)票、稽核等業(yè)務(wù)場(chǎng)景中,，代替人完成高重復(fù),、標(biāo)準(zhǔn)化、規(guī)則明確,、大批量的日常事務(wù)性操作,。

在工業(yè)領(lǐng)域，用友的人工智能技術(shù)被用于廢鋼定級(jí),、礦山巡檢,、供水監(jiān)測(cè)等場(chǎng)景。用友BIP的廢鋼智能判級(jí)系統(tǒng)的準(zhǔn)確率達(dá)95%以上,，已服務(wù)包括鞍鋼集團(tuán),、濟(jì)源鋼鐵在內(nèi)的20余家鋼鐵行業(yè)領(lǐng)軍企業(yè)。

一位大模型領(lǐng)域的業(yè)內(nèi)人士告訴數(shù)智前線,，大模型作為人工智能領(lǐng)域一種新的技術(shù)范式,，背后的技術(shù)和算法并不是新的發(fā)明,，但如何調(diào)優(yōu)、如何工程化落地,，還是一個(gè)很有門檻的事情,，需要有足夠的人才和技術(shù)儲(chǔ)備。

用友此前在人工智能領(lǐng)域的積累,，給大模型的訓(xùn)練和應(yīng)用打下了很好的基礎(chǔ),。比如用友花了7年時(shí)間組織數(shù)千人研發(fā)的用友商業(yè)創(chuàng)新平臺(tái)-用友BIP，其數(shù)智化底座就包含了智能中臺(tái),。它提供了圖片,、文本、視頻處理的AI接口,、智能搜索,、知識(shí)圖譜等AI基礎(chǔ)能力，以及數(shù)智員工,、VPA,、RPA、AI工作坊等AI開(kāi)發(fā)工具,。如今相當(dāng)于在基礎(chǔ)設(shè)施層增加了大模型,，讓數(shù)智化底座變得更為扎實(shí)。

而且,，用友BIP本身也是基于云原生的技術(shù)理念開(kāi)發(fā),，做到了微服務(wù)化和API化。隨著智原生（AI Native）時(shí)代的到來(lái),，大模型的能力通過(guò)API與各類軟件打通,，實(shí)現(xiàn)了AI的普及和應(yīng)用。

高質(zhì)量的領(lǐng)域數(shù)據(jù)語(yǔ)料的投喂是大模型變得更專業(yè)的重要保障,。通用大語(yǔ)言模型有很強(qiáng)的泛化能力和內(nèi)容生成能力,，但準(zhǔn)確性不夠，所以在解決行業(yè)具體問(wèn)題時(shí),，往往需要行業(yè)數(shù)據(jù)進(jìn)行精調(diào),。

這是用友深耕企業(yè)服務(wù)多年積累的優(yōu)勢(shì)，用友的人工智能團(tuán)隊(duì)結(jié)合企業(yè)應(yīng)用場(chǎng)景和領(lǐng)域經(jīng)驗(yàn),，標(biāo)記了大量的企業(yè)服務(wù)語(yǔ)料數(shù)據(jù),，形成豐富的企業(yè)服務(wù)大模型訓(xùn)練素材，并將業(yè)務(wù)知識(shí)與領(lǐng)域經(jīng)驗(yàn)融入企業(yè)服務(wù)大模型,，比如財(cái)務(wù),、人力、供應(yīng)鏈、采購(gòu)和營(yíng)銷等領(lǐng)域的知識(shí),，確保了大模型的專業(yè)性和實(shí)用性,。

據(jù)數(shù)智前線獲悉，用友也會(huì)收集一些行業(yè)的公共數(shù)據(jù),，包括政策法規(guī)等,。同時(shí)，用友也將自身在研發(fā)領(lǐng)域的知識(shí)用于模型訓(xùn)練,。在基礎(chǔ)大模型之上,，訓(xùn)練成了企業(yè)服務(wù)領(lǐng)域通用的大模型，然后提供給整個(gè)智能化的場(chǎng)景服務(wù),。

今年年初,，用友進(jìn)行組織升級(jí)，組建了多個(gè)行業(yè)客戶與解決方案事業(yè)部,，對(duì)大型企業(yè)客戶的數(shù)智化解決方案與服務(wù)由此前的“以地區(qū)為主,，地區(qū)+行業(yè)”組織模式升級(jí)為“以行業(yè)為主，行業(yè)+地區(qū)”的運(yùn)行模式,。深耕行業(yè)多年,，并且持續(xù)加強(qiáng)對(duì)行業(yè)的理解，使得用友積累了豐富的行業(yè)know-how,，這些經(jīng)驗(yàn)和知識(shí)成為了用友企業(yè)服務(wù)大模型的優(yōu)勢(shì),。

再者，用友3.0階段的戰(zhàn)略級(jí)產(chǎn)品用友BIP涵蓋財(cái)務(wù),、人力,、供應(yīng)鏈、采購(gòu),、制造,、營(yíng)銷、研發(fā),、項(xiàng)目,、資產(chǎn)、協(xié)同十大領(lǐng)域,，提供了覆蓋企業(yè)業(yè)務(wù)和管理主要領(lǐng)域融合一體的應(yīng)用，是目前全球領(lǐng)域覆蓋最多的企業(yè)應(yīng)用服務(wù)群,。而這些被廣泛應(yīng)用的企業(yè)應(yīng)用服務(wù),，將成為YonGPT的最佳練兵場(chǎng)。

領(lǐng)先和具有豐富應(yīng)用場(chǎng)景的企業(yè)軟件與服務(wù)產(chǎn)品體系,、覆蓋數(shù)十個(gè)行業(yè)的數(shù)百萬(wàn)客戶基礎(chǔ),、35年服務(wù)企業(yè)客戶積累的行業(yè)知識(shí)經(jīng)驗(yàn)、專業(yè)的智能化團(tuán)隊(duì)和能力是用友研發(fā)訓(xùn)練企業(yè)服務(wù)大模型的獨(dú)特優(yōu)勢(shì),。 

?本文為數(shù)智前線（szqx1991）原創(chuàng)內(nèi)容