在生成式AI和大模型風(fēng)起云涌的今天,，企業(yè)應(yīng)該如何把握時代的機(jī)遇？

作為一家快速成長的初創(chuàng)企業(yè),，北京靈奧科技CEO厲啟鵬對此有著深切的心得體會,。

企業(yè)落地大模型的核心挑戰(zhàn)

雖然生成式AI與大模型的價值已經(jīng)得到了越來越多企業(yè)的認(rèn)可，但是就目前的應(yīng)用落地情況來看,，數(shù)據(jù)問題已經(jīng)成為了大模型在許多企業(yè)落地的核心挑戰(zhàn)之一,。其問題主要體現(xiàn)在四個方面：

1、業(yè)務(wù)的數(shù)據(jù)理解：大模型需要深入理解企業(yè)多樣化的業(yè)務(wù)數(shù)據(jù),，然而數(shù)據(jù)的類型繁多,、格式雜亂且來源無法統(tǒng)一。

2,、信息的持續(xù)變化：業(yè)務(wù)數(shù)據(jù)隨著企業(yè)運(yùn)營實(shí)時變化,，大模型需要不斷學(xué)習(xí)不同來源的、持續(xù)變化的業(yè)務(wù)信息,。

3,、數(shù)據(jù)的安全合規(guī)：數(shù)據(jù)隱私和大模型使用的安全合規(guī)是企業(yè)業(yè)務(wù)不能觸碰的紅線。企業(yè)既要讓模型理解好數(shù)據(jù)，又需要做到安全合規(guī),。

4,、數(shù)據(jù)偏見和公平性問題：不同大語言模型由于訓(xùn)練數(shù)據(jù)來源不同，側(cè)重點(diǎn)有差異,，導(dǎo)致模型會存在偏見,。企業(yè)需要評估不同模型的能力以及為不同業(yè)務(wù)場景選擇合適的模型。

而在生成式AI賽道嶄露頭角的北京靈奧科技,，正是為了解決以上問題而生,。

【北京靈奧科技CEO厲啟鵬】

快速成長的生成式AI初創(chuàng)企業(yè)

作為一家初創(chuàng)企業(yè)，北京靈奧科技從誕生之日的那一天開始,，就致力于通過推動生成式AI技術(shù)的普及,，加速企業(yè)的商業(yè)成功。為了幫助企業(yè)解決數(shù)據(jù)問題,，將大模型優(yōu)勢和業(yè)務(wù)數(shù)據(jù)無縫結(jié)合,，打通大模型企業(yè)端落地的“最后一公里”，北京靈奧科技為企業(yè)提供了幫助構(gòu)建AI Agent的SaaS平臺,，并先后推出了Vanus Connect,、Vanus AI、VanChat等三款SaaS產(chǎn)品,，累計(jì)服務(wù)全球客戶已經(jīng)超過3萬家,，截至目前為止已經(jīng)獲得靖亞資本、PNP等機(jī)構(gòu)的多輪融資,。

厲啟鵬介紹說,，介于大模型和應(yīng)用之間的大模型中間件，是企業(yè)構(gòu)建AI應(yīng)用的必備組件,。Vanus將大模型優(yōu)勢和企業(yè)數(shù)據(jù)無縫結(jié)合,，為用戶提供了Claude 3、Minimax等多模型選擇,，可實(shí)現(xiàn)商品數(shù)據(jù)自動更新,、Shopify數(shù)據(jù)自動接入等商品數(shù)據(jù)自動同步，還可與網(wǎng)站,、釘釘,、飛書、企業(yè)微信等第三方應(yīng)用無縫集成,，助力企業(yè)靈活定制機(jī)器人,，自定義聊天風(fēng)格、歡迎詞,、外感顏色等等,。

在神經(jīng)網(wǎng)絡(luò)層，Vanus Connect可以連接企業(yè)不同的數(shù)據(jù)源，實(shí)時感知企業(yè)業(yè)務(wù)事件的變化,，并推送給神經(jīng)中樞,，然后接收神經(jīng)中樞的指令去執(zhí)行；在神經(jīng)中樞層,，Vanus AI可以結(jié)合知識庫（向量數(shù)據(jù)庫）和大模型,，幫助企業(yè)做業(yè)務(wù)的決策；VanChat是基于Vanus AI專門為Shopify店主打造的銷售類AI Agent,，既是Shopify店鋪的銷售機(jī)器人,，也是消費(fèi)者的AI購物助手，可幫助電商企業(yè)將網(wǎng)站訪客轉(zhuǎn)化成付費(fèi)用戶,。

選擇亞馬遜云科技的理由

北京靈奧科技之所以能夠取得飛速成長,，與合作伙伴亞馬遜云科技的鼎力支持密不可分。厲啟鵬透露,，在公司成立之初,，北京靈奧科技就加入了亞馬遜云科技合作伙伴網(wǎng)絡(luò)（APN），并且從中獲益良多,。包括整個Vanus平臺,，都是基于亞馬遜云科技構(gòu)建?！疤貏e感謝亞馬遜云科技幫助我們構(gòu)建穩(wěn)定、強(qiáng)健的數(shù)據(jù)基座,，讓我們能夠輕松面對用戶業(yè)務(wù)的不確定性,。”

談到當(dāng)初為什么會選擇亞馬遜云科技作為合作伙伴時,，厲啟鵬表示主要有以下三個方面的因素：

1,、亞馬遜云科技提供了種類豐富、簡單易用,、功能強(qiáng)大的云服務(wù),，這是雙方合作的基礎(chǔ)。Vanus絕大部分的技術(shù)問題,，在亞馬遜云科技上都能找到答案和相關(guān)的云產(chǎn)品,。這些產(chǎn)品能夠增強(qiáng)性能、提升穩(wěn)定性,，為企業(yè)提供強(qiáng)有力的支撐,。

2、亞馬遜云科技能夠?yàn)楹献骰锇檫M(jìn)行技術(shù)賦能,，提供包含技術(shù)方案和架構(gòu)師等全方位的技術(shù)服務(wù),，加速Vanus的產(chǎn)品落地。

3、通過亞馬遜云科技合作伙伴網(wǎng)絡(luò)（APN）,，北京靈奧科技可以獲得亞馬遜云科技推薦的客戶和合作伙伴等全面的推廣資源和支持,，使其生成式AI產(chǎn)品得以加速進(jìn)入市場。

“我認(rèn)為亞馬遜云科技是最值得信賴的云服務(wù)提供商,。作為全球最大的一朵云,，它有非常強(qiáng)大的運(yùn)營經(jīng)驗(yàn)，能夠幫助我們更好地服務(wù)分布在不同區(qū)域,、不同國家的客戶,。同時，它也是我們首選的一朵云,，經(jīng)過了全球最多用戶的打磨,，是最安全的云?！眳枂Ⅸi說道,。

攜手合作推動Vanus云上創(chuàng)新

厲啟鵬指出，通過亞馬遜云科技提供的基礎(chǔ)云服務(wù),、大語言模型,、數(shù)據(jù)存儲三類云服務(wù)，Vanus能夠?yàn)槠髽I(yè)構(gòu)建AI Agent平臺,，并且具備了多項(xiàng)顯著優(yōu)勢：

1,、彈性可擴(kuò)展：利用Amazon Elastic Kubernetes Service（Amazon EKS）基于網(wǎng)絡(luò)流量的彈性擴(kuò)展能力，Vanus AI構(gòu)建的Agent可以根據(jù)用戶業(yè)務(wù)流量平滑彈性伸縮,。幫助企業(yè)平均成本降低30%,，性價比提高20%。

2,、提高系統(tǒng)可用性：通過Amazon DocumentDB原生的3可用區(qū),、6副本的設(shè)計(jì)，提高可用性和可靠性,，可以達(dá)到不低于99.99%正常運(yùn)行時間的服務(wù)等級協(xié)議（SLA）,。

3、降低回復(fù)延時：借助Amazon Simple Storage Service（Amazon S3）及數(shù)據(jù)庫高并發(fā)數(shù)據(jù)查詢能力提高大模型上下文加載時間,，同時借助亞馬遜云科技全球網(wǎng)絡(luò)節(jié)點(diǎn)加速能力,，整體將Agent回復(fù)系統(tǒng)延時降低40%。

4,、推理能力強(qiáng)：通過Amazon Bedrock提供的Claude模型,，為Vanus平臺的AI Agent提供非常強(qiáng)的語言理解和邏輯推理能力。

舉例來說,，國內(nèi)某ERP企業(yè)各部門沉淀了大量內(nèi)部數(shù)據(jù),，但是跨部門知識共享效率低,、傳統(tǒng)搜索方式響應(yīng)時間較長、用戶投訴率較高等問題長期困擾著客服人員,。Vanus基于Amazon S3,、數(shù)據(jù)庫、Amazon Bedrock等云服務(wù),，為企業(yè)構(gòu)建了統(tǒng)一的企業(yè)知識庫和AI Copilot,，將客服人員的問題回復(fù)時間從分鐘級降至秒級，極大地提升了工作效率,，縮短了響應(yīng)時間,，降低了成本開支。

某服飾類電商企業(yè)擁有兩個Shopify電商獨(dú)立站,，10000+ SKU,，每天都要收到大量產(chǎn)品、退換貨,、物流等問題咨詢,，如果延遲回復(fù)則會降低客戶滿意度和錯失商機(jī)。Vanus基于Amazon Bedrock,、Amazon S3等云服務(wù)為Shopify電商客戶構(gòu)建客服類Agent VanChat,，不僅可以為客戶提供7*24小時即時問題回復(fù)，而且還能夠通過用戶意圖識別,、產(chǎn)品推薦等功能加速產(chǎn)品購買,。這樣既節(jié)省了大量人力資源，又提高了客戶滿意度,，還提升了網(wǎng)站銷售額,，更可以通過客戶洞察挖掘潛在商機(jī)，可謂一舉多得,。