在亞馬遜云科技2024 re:Invent全球大會(huì)上,，生成式AI近年來(lái)的指數(shù)級(jí)增長(zhǎng)，理所當(dāng)然地成為了廣大參會(huì)者熱議的話題,。

在大會(huì)期間,，亞馬遜云科技人工智能、機(jī)器學(xué)習(xí)服務(wù)與基礎(chǔ)設(shè)施副總裁 BaskarSridharan接受了趣味科技的采訪,，并針對(duì)生成式AI帶來(lái)的機(jī)遇與挑戰(zhàn),，生成式AI如何從原型走向生產(chǎn)，亞馬遜云科技提供的生成式AI創(chuàng)新解決方案等話題進(jìn)行了深入探討,。

“在過(guò)去的18到24個(gè)月中,，我們看到生成式AI已經(jīng)出現(xiàn)了指數(shù)級(jí)的迅猛增長(zhǎng)。但是與此同時(shí),，整個(gè)行業(yè)目前仍然面臨著一個(gè)挑戰(zhàn),，那就是如何將原型成功地轉(zhuǎn)化為產(chǎn)品或者說(shuō)是生產(chǎn)，仍然是一個(gè)亟待解決的問(wèn)題,?！闭劦缴墒紸I近年來(lái)的增長(zhǎng)態(tài)勢(shì)以及面臨的挑戰(zhàn)時(shí)，Baskar Sridharan如是表示,。

Baskar Sridharan認(rèn)為,，生成式AI從原型走向產(chǎn)品,，一共有四個(gè)關(guān)鍵性的因素，分別是模型,、成本,、數(shù)據(jù)以及信任。

一,、模型

亞馬遜云科技能夠?yàn)橛脩籼峁┓浅V泛的模型選擇,，這些模型來(lái)自AI21 Labs、Anthropic,、Cohere,、Meta、Mistral AI,、Stability AI等全球領(lǐng)先的大模型供應(yīng)商,，同時(shí)也包括了亞馬遜云科技提供的自研模型，覆蓋了多種用途和場(chǎng)景,。

一方面,，針對(duì)客戶特定的用途，亞馬遜云科技為其提供了選擇的權(quán)利,，讓客戶可以根據(jù)自己的需求來(lái)選擇最適合自身應(yīng)用場(chǎng)景的模型,，這將直接影響到后續(xù)的生產(chǎn)效率和產(chǎn)品質(zhì)量。

另一方面,，模型本身也是在不斷向前躍進(jìn)的,，可能現(xiàn)在選擇模型A最合適，但是過(guò)幾個(gè)月可能就變成了模型B最合適,，再過(guò)幾個(gè)月又變成了模型C最適合,。然而與此同時(shí)，客戶的生成式AI開(kāi)發(fā)又需要整個(gè)模型生態(tài)系統(tǒng)保持穩(wěn)定,，亞馬遜云科技也為他們提供了這種保障,，這兩點(diǎn)都非常關(guān)鍵。

二,、成本

客戶在制定原型的時(shí)候會(huì)給自己設(shè)定一個(gè)預(yù)算的標(biāo)準(zhǔn),，在從原型轉(zhuǎn)向生產(chǎn)的時(shí)候，客戶需要能夠很好地管理推理模型和訓(xùn)練模型的成本,。為此亞馬遜云科技推出了Amazon SageMaker和Amazon Bedrock等產(chǎn)品,。

Amazon SageMaker提供了靈活性和快速模型微調(diào)的能力，能夠幫助客戶極大地降低訓(xùn)練所產(chǎn)生的成本,，Amazon SageMakerHyperPod系列下的產(chǎn)品能夠通過(guò)任務(wù)管理能力將多個(gè)任務(wù)放在一起,，由系統(tǒng)統(tǒng)一進(jìn)行管理，從而使成本降低高達(dá)40%,。Amazon SageMaker Lakehouse同時(shí)支持亞馬遜云科技和第三方的數(shù)據(jù),，為客戶提供了更大的靈活性和便利性,。客戶可以根據(jù)自己的需求來(lái)構(gòu)建定制化模型,，并使用同樣的數(shù)據(jù)開(kāi)發(fā)生成式AI應(yīng)用程序,。

Amazon Bedrock則專注于降低推理方面的工作成本。此外亞馬遜云科技還針對(duì)Amazon Bedrock推出了模型蒸餾（Model Distillation）,、自動(dòng)推理檢查（Automated Reasoning checks）,、多Agents協(xié)作（Multi-agent collaboration）等三大全新功能，這些功能都可以幫助客戶更好地控制成本,，提高生產(chǎn)效率,。

Model Distillation模型蒸餾功能，可以從大模型生成響應(yīng)來(lái)對(duì)小模型進(jìn)行微調(diào),，能夠?qū)崿F(xiàn)模型構(gòu)建提速500%,，成本降低75%的驚人效果，對(duì)于那些想要大規(guī)模部署生成式AI的客戶來(lái)說(shuō),，這一功能的意義顯然非同尋常,。

Automated Reasoning checks自動(dòng)推理檢查功能，可以通過(guò)數(shù)學(xué)驗(yàn)證來(lái)確保大模型生成的響應(yīng)的準(zhǔn)確性與合理性,，防止模型幻覺(jué)導(dǎo)致的事實(shí)錯(cuò)誤,，從而更好地控制成本。

Amazon Bedrock multi-agent collaboration多Agents協(xié)作,，可以支持多個(gè)Agents之間的協(xié)同工作并有效降低成本,，幫助客戶按照自己期望的方式，構(gòu)建更加復(fù)雜和高效的生成式AI應(yīng)用,。

三、數(shù)據(jù)

對(duì)于所有的現(xiàn)代企業(yè)來(lái)說(shuō),，數(shù)據(jù)都是生命之源,，對(duì)于以AI為主業(yè)的企業(yè)則更是如此。而在將數(shù)據(jù)集成并放到AI的過(guò)程當(dāng)中,，有一個(gè)非常大的區(qū)別就在于,，不同的用戶所用到的數(shù)據(jù)也截然不同。因此在生成式AI方面所謂的差異化,，最直觀的體現(xiàn)就是這些數(shù)據(jù),。為了幫助客戶更好地實(shí)現(xiàn)這種差異化，亞馬遜云科技在Amazon Bedrock產(chǎn)品線中引入了一系列的功能,。

Amazon Bedrock Data Automation：幫助客戶將大量非結(jié)構(gòu)化數(shù)據(jù),，包括文本、圖像,、聲音,、視頻等不同的非結(jié)構(gòu)化數(shù)據(jù)放在一個(gè)統(tǒng)一的API力,，讓客戶能夠更加方便地將這些非結(jié)構(gòu)化數(shù)據(jù)直接用于生成式AI應(yīng)用的開(kāi)發(fā)，譬如構(gòu)建智能文檔處理,、媒體分析和其他以多模態(tài)數(shù)據(jù)為中心的自動(dòng)化解決方案,。

Amazon Bedrock prompt caching：AI提示可能是重復(fù)性的，該功能可以幫助客戶節(jié)省重復(fù)提交相同提示的成本,，通過(guò)自動(dòng)緩存重復(fù)提示,，能夠降低90%的成本，還可以減少85%的延遲,。

Amazon Bedrock Knowledge Bases：新增了對(duì)結(jié)構(gòu)化多模態(tài)數(shù)據(jù)以及GraphRAG的支持,，更有助于提高模型輸出質(zhì)量和減少模型幻覺(jué)，進(jìn)一步拓展了客戶利用自身數(shù)據(jù)提供定制化生成式AI體驗(yàn)的途徑,。

四,、信任

隨著生成型AI持續(xù)不斷地推動(dòng)技術(shù)創(chuàng)新和行業(yè)變革，負(fù)責(zé)任的人工智能也變得越來(lái)越重要,。亞馬遜云科技相信,，人工智能的長(zhǎng)期成功，取決于它是否能夠激發(fā)用戶,、客戶和社會(huì)之間的信任,。這一信念也是亞馬遜云科技長(zhǎng)期致力于負(fù)責(zé)任地建立和使用人工智能的核心。

負(fù)責(zé)任的人工智能超越了減輕風(fēng)險(xiǎn)和調(diào)整相關(guān)標(biāo)準(zhǔn)和條例的范圍,，通過(guò)主動(dòng)建立信任和釋放人工智能的潛力來(lái)推動(dòng)商業(yè)價(jià)值,。負(fù)責(zé)任的人工智能使得企業(yè)組織能夠大膽創(chuàng)新，提高效率,，實(shí)現(xiàn)變革性的業(yè)務(wù)成果,。

信任是采用人工智能的基石，在本屆re:Invent上,，亞馬遜云科技興奮地宣布推出負(fù)責(zé)任的AI工具,、功能和資源，以提高生成式AI服務(wù)和模型的安全性,、安全性和透明度,，幫助客戶開(kāi)啟負(fù)責(zé)任的人工智能之旅。以Amazon Bedrock Guardrails為例,，該功能提供了行業(yè)領(lǐng)先的安全保護(hù),，在基礎(chǔ)模型提供的本地保護(hù)之上阻斷了85%的有害內(nèi)容，并通過(guò)上下文檢查和自動(dòng)推理檢查過(guò)濾了75%以上的模型幻覺(jué),，這也使得亞馬遜云科技成為了第一家也是唯一一家在生成型AI產(chǎn)品中集成自動(dòng)推理的主要云供應(yīng)商,。

“亞馬遜云科技致力于促進(jìn)對(duì)AI的信任，并授權(quán)各種規(guī)模的組織有效和負(fù)責(zé)任地建立和使用AI,。我們對(duì)本周在re:Invent上宣布的負(fù)責(zé)任的人工智能創(chuàng)新感到興奮,。從Amazon Bedrock Guardrails的新的保障和評(píng)估技術(shù),，到最先進(jìn)的Amazon Nova系列，再到通過(guò)ISO/ICI 42001認(rèn)證和新的亞馬遜云科技AI服務(wù)卡,，有了更多的工具,、資源和內(nèi)置的保護(hù)，才能幫助客戶負(fù)責(zé)任地創(chuàng)新,，用生成型AI釋放更多價(jià)值,。”Baskar Sridharan表示,。