為什么選擇自定義模型？

1. 提高特定領(lǐng)域的準(zhǔn)確性：通用的大語言模型盡管強(qiáng)大,，但在處理特定領(lǐng)域的任務(wù)時(shí),，可能會(huì)因?yàn)槿狈︻I(lǐng)域特定知識(shí)而表現(xiàn)不佳。自定義大語言模型通過領(lǐng)域特定的數(shù)據(jù)進(jìn)行重新訓(xùn)練,，可以顯著提高在該領(lǐng)域的表現(xiàn)和準(zhǔn)確性,。

2. 增強(qiáng)模型的適用性：自定義大語言模型可以根據(jù)特定應(yīng)用場景的需求進(jìn)行微調(diào)，使其更好地適應(yīng)特定任務(wù),。例如,，在客戶服務(wù)中，自定義模型可以更好地理解和回應(yīng)客戶的特定問題,，提高客戶滿意度,。

3. 節(jié)約開發(fā)時(shí)間和成本：利用現(xiàn)有的大語言模型進(jìn)行定制化訓(xùn)練，比從頭開發(fā)一個(gè)模型要節(jié)約大量時(shí)間和成本,。您可以快速部署自定義模型,，滿足業(yè)務(wù)需求。

4. 增強(qiáng)品牌和用戶體驗(yàn)：自定義大語言模型可以根據(jù)企業(yè)的品牌語言風(fēng)格進(jìn)行調(diào)整,，確保輸出內(nèi)容的一致性和品牌調(diào)性,，從而提升用戶體驗(yàn)和品牌形象。

創(chuàng)建自定義模型的流程

創(chuàng)建自定義模型涉及三個(gè)主要步驟：模型調(diào)優(yōu),、模型部署,、模型評測，以及三個(gè)輔助步驟：訓(xùn)練數(shù)據(jù)準(zhǔn)備,、評測模板設(shè)計(jì),、調(diào)整訓(xùn)練策略。

1. 模型調(diào)優(yōu)階段：模型會(huì)“學(xué)習(xí)”大量訓(xùn)練數(shù)據(jù)的語言特征,，從而理解并生成相似的自然語言,。開始模型調(diào)優(yōu)之前，您需要做一些訓(xùn)練數(shù)據(jù)準(zhǔn)備工作,，包括數(shù)據(jù)收集,、數(shù)據(jù)清洗、數(shù)據(jù)集劃分等操作,。您需按照訓(xùn)練新模型向?qū)У闹敢渲?span style="outline: none;box-sizing: border-box;margin: 0px;padding: 0px;font-weight: 700;">模型調(diào)優(yōu),。根據(jù)配置的訓(xùn)練超參數(shù)（超參數(shù)是指在模型調(diào)優(yōu)前需要提前設(shè)定的參數(shù)，包括學(xué)習(xí)率,、迭代次數(shù)等）,，阿里云百煉將自動(dòng)訓(xùn)練您選擇的預(yù)置模型,。一般情況下，訓(xùn)練過程是自動(dòng)完成的,，無需進(jìn)一步操作,。

2. 模型部署階段：您需要將自定義模型部署到獨(dú)占實(shí)例上，然后調(diào)用或評測自定義模型,。部署新模型向?qū)椭渲?span style="outline: none;box-sizing: border-box;margin: 0px;padding: 0px;font-weight: 700;">模型部署,。根據(jù)配置的自定義模型規(guī)格和資源配置方式，阿里云百煉將計(jì)算預(yù)估價(jià)格,。待您確認(rèn)價(jià)格后,，阿里云百煉會(huì)自動(dòng)部署模型，一般無需干預(yù),。完成部署后,，您便可以在代碼或評測中配置自定義模型。

3. 模型評測階段：您可以評測已部署的自定義模型,。您可以按照創(chuàng)建評測任務(wù)向?qū)У闹敢渲?span style="outline: none;box-sizing: border-box;margin: 0px;padding: 0px;font-weight: 700;">模型評測,。自定義模型不涉及評測模板設(shè)計(jì)環(huán)節(jié)。根據(jù)您選擇的評測方式,、數(shù)據(jù)和維度,，阿里云百煉將自動(dòng)完成評測，一般無需干預(yù),。

1. 數(shù)據(jù)收集

您可以從各種信息來源中發(fā)掘有業(yè)務(wù)價(jià)值的數(shù)據(jù)，并將這些數(shù)據(jù)編排成特定結(jié)構(gòu),。您在完成數(shù)據(jù)收集時(shí),，需仔細(xì)考慮以下策略：

• 來源多樣化：從書籍摘錄、學(xué)術(shù)論文,、新聞報(bào)道和專業(yè)網(wǎng)站等多種來源收集數(shù)據(jù),，來確保模型的適用范圍更廣，可以處理不同類型的問題或理解多種表達(dá)方式,。

• 質(zhì)量控制：數(shù)據(jù)質(zhì)量決定了模型質(zhì)量,。質(zhì)量高、數(shù)量足的數(shù)據(jù)可以讓模型學(xué)得更好,，表現(xiàn)更優(yōu),。

• 平衡性考量：確保問題類型、難度和答案的分布均勻,，避免模型偏向某一特定類型的數(shù)據(jù),，導(dǎo)致訓(xùn)練偏差。

在阿里云百煉,，您需要將收集到的數(shù)據(jù)編排成“Prompt-Completion”格式,，便于平臺(tái)解析和訓(xùn)練。為了盡可能提高訓(xùn)練效率,，我們建議至少準(zhǔn)備500條訓(xùn)練數(shù)據(jù),，要求如下：

• 文本分割：合理分割長文本，確保每個(gè)Prompt-Completion對聚焦于單一明確的主題，便于模型學(xué)習(xí),。

• 脫敏處理：移除個(gè)人身份信息,、敏感詞匯或不適宜內(nèi)容，保證數(shù)據(jù)合規(guī)與安全,。

• 說明

• 小貼士：構(gòu)建聊天機(jī)器人的數(shù)據(jù)收集

• 假設(shè)您想創(chuàng)建一個(gè)智能聊天機(jī)器人,，能夠回答客戶提出的問題。

• 在數(shù)據(jù)收集階段,，您的目標(biāo)是：為聊天機(jī)器人收集學(xué)習(xí)材料,。

• 數(shù)據(jù)來源：

• 用戶聊天記錄：比如網(wǎng)站上的在線客服聊天記錄。

• FAQ文檔：公司網(wǎng)站上的常見問題解答列表,。

• 客戶服務(wù)郵件：客戶發(fā)送給客服團(tuán)隊(duì)的問題和相應(yīng)的回復(fù),。

• 數(shù)據(jù)示例：

• 用戶聊天記錄：導(dǎo)出在線客服系統(tǒng)中的聊天記錄，可以包括客戶問題和客服回復(fù),。例如：

  客戶：你們的退貨政策是什么,？
  客服：我們的退貨政策是在購買30天內(nèi)可以無條件退貨。

• FAQ文檔：收集網(wǎng)站上列出的常見問題及其答案,。例如：

  問：如何更改我的密碼,？
  答：請點(diǎn)擊“設(shè)置”，然后選擇“更改密碼”,。

• 客戶服務(wù)郵件：導(dǎo)出郵件系統(tǒng)中跟客戶的來往郵件,。例如：

  客戶郵件：我的訂單沒有收到，怎么辦,？
  客服回復(fù)：我們很抱歉,，請?zhí)峁┠挠唵翁?hào)，我們會(huì)盡快處理,。

2. 數(shù)據(jù)上傳

您需要將準(zhǔn)備好的數(shù)據(jù)上傳至阿里云百煉，以備進(jìn)一步清洗和增強(qiáng),，或直接參與模型調(diào)優(yōu)。平臺(tái)自動(dòng)進(jìn)行格式檢查和基礎(chǔ)數(shù)據(jù)質(zhì)量審核，確保數(shù)據(jù)符合訓(xùn)練要求,。

阿里云百煉支持創(chuàng)建不同數(shù)據(jù)類型的數(shù)據(jù)集,，包括訓(xùn)練集、評測集,，支持多版本數(shù)據(jù)管理,，發(fā)布后可前往模型調(diào)優(yōu)/評測功能使用。您可以利用平臺(tái)提供的工具對數(shù)據(jù)集進(jìn)行標(biāo)簽標(biāo)注,、篩選和版本管理,，有利于迭代訓(xùn)練和性能追蹤。

3. 數(shù)據(jù)清洗與數(shù)據(jù)增強(qiáng)（可選）

數(shù)據(jù)清洗是指檢查并處理收集到的數(shù)據(jù)，以保證數(shù)據(jù)的質(zhì)量,、完整性和一致性,。這一步驟可以顯著提高模型的訓(xùn)練效果和預(yù)測能力。數(shù)據(jù)增強(qiáng)是指增加多樣性并擴(kuò)展訓(xùn)練數(shù)據(jù)的規(guī)模,。

阿里云百煉提供了模型數(shù)據(jù)的版本管理能力,，您的數(shù)據(jù)將在清洗或增強(qiáng)后自動(dòng)生成一個(gè)新版本。新版本數(shù)據(jù)獨(dú)立保存,，不會(huì)覆蓋源數(shù)據(jù),。

新建訓(xùn)練任務(wù)

您可通過模型調(diào)優(yōu)頁面的訓(xùn)練新模型操作向?qū)?，完成?xùn)練的參數(shù)設(shè)置,，具體操作如下：

1. 登錄阿里云百煉控制臺(tái)，在左側(cè)導(dǎo)航欄中,，選擇模型工具 > 模型調(diào)優(yōu),。這里展示了所有調(diào)優(yōu)任務(wù)。

2. 點(diǎn)擊訓(xùn)練新模型,，阿里云百煉將會(huì)引導(dǎo)您配置訓(xùn)練參數(shù)：

• 最大靈活性：全參數(shù)訓(xùn)練可使模型適應(yīng)新的數(shù)據(jù)和任務(wù),，具有最大的調(diào)整靈活性,。

• 高性能：在理論上，全參數(shù)訓(xùn)練可以獲得最高的性能,，因?yàn)樗袇?shù)都經(jīng)過調(diào)整以優(yōu)化特定任務(wù),。

• 時(shí)間成本高：訓(xùn)練時(shí)間長,，特別是在大型數(shù)據(jù)集上的訓(xùn)練,。

• 過擬合風(fēng)險(xiǎn)：如果數(shù)據(jù)量不足或不平衡，全參數(shù)訓(xùn)練可能導(dǎo)致模型過擬合于特定訓(xùn)練數(shù)據(jù),。

• 快速訓(xùn)練：比全參數(shù)訓(xùn)練更快,，適合快速迭代和原型開發(fā)。

• 減小過擬合風(fēng)險(xiǎn)：微調(diào)部分參數(shù)可以降低過擬合風(fēng)險(xiǎn),。

• 性能可能受限：在某些任務(wù)上,，性能可能略低于全參數(shù)訓(xùn)練。

• 適用范圍有限：當(dāng)任務(wù)的性質(zhì)高度變化或與預(yù)訓(xùn)練任務(wù)顯著不同,，高效訓(xùn)練可能無法有效遷移已有的知識(shí),。

1. 訓(xùn)練方式：阿里云百煉支持全參訓(xùn)練和高效訓(xùn)練兩種方式，以下是選擇建議：

   訓(xùn)練方式	優(yōu)點(diǎn)	缺點(diǎn)
   全參訓(xùn)練
   高效訓(xùn)練

   高效訓(xùn)練能較好地平衡訓(xùn)練時(shí)長和訓(xùn)練效果,，一般建議您選擇高效訓(xùn)練,。

2. 選擇模型：阿里云百煉支持基于預(yù)置模型或自定義模型的調(diào)優(yōu)。

   如果您是第一次訓(xùn)練模型,，建議選擇預(yù)置模型,；如果您調(diào)整了訓(xùn)練策略，希望基于已訓(xùn)練的模型進(jìn)行再次訓(xùn)練,，則可選擇自定義模型,。

   阿里云百煉提供了多種可調(diào)優(yōu)的預(yù)置模型，各模型特性請參閱模型調(diào)用,。

3. 選擇訓(xùn)練數(shù)據(jù)：選擇參與訓(xùn)練的數(shù)據(jù)集,，您在已上傳的數(shù)據(jù)集列表中選擇訓(xùn)練集。

   說明

   如果清洗或增強(qiáng)了數(shù)據(jù),，您需要注意數(shù)據(jù)集的名稱和版本,，以免誤選未經(jīng)處理的數(shù)據(jù)。

4. 選擇驗(yàn)證數(shù)據(jù)：選擇參與驗(yàn)證訓(xùn)練效果的數(shù)據(jù)集,，您可以選擇自動(dòng)切分或從數(shù)據(jù)列表中選擇驗(yàn)證集,。

   如果您沒有準(zhǔn)備驗(yàn)證數(shù)據(jù)集，建議選擇自動(dòng)切分,，阿里云百煉將從選定的訓(xùn)練集中劃分一部分?jǐn)?shù)據(jù)作為驗(yàn)證集,。反之，建議從數(shù)據(jù)列表中選擇驗(yàn)證集,。

   說明

   如果您清洗或增強(qiáng)了數(shù)據(jù),，您需要注意數(shù)據(jù)集的名稱和版本,，以免誤選未經(jīng)處理的數(shù)據(jù)。

5. 混合訓(xùn)練：為了避免基礎(chǔ)模型能力的遺失并提高訓(xùn)練效果,，阿里云百煉支持您將自備的訓(xùn)練數(shù)據(jù)與預(yù)置通用數(shù)據(jù)混合訓(xùn)練,。您可以調(diào)整自備訓(xùn)練數(shù)據(jù)與預(yù)置通用數(shù)據(jù)的比例，如果所有類型的預(yù)置通用數(shù)據(jù)的比例設(shè)置為0,，您將不使用預(yù)置數(shù)據(jù),。

6. 超參配置：模型的超參配置決定一定程度的模型調(diào)優(yōu)效果，您可按照自己的訓(xùn)練經(jīng)驗(yàn)進(jìn)行配置,。如果您不了解超參數(shù),，阿里云百煉也提供一套基于實(shí)驗(yàn)所得的默認(rèn)配置，您可以遵循默認(rèn)配置,。

7. 開始訓(xùn)練：這一步將展示您的所有訓(xùn)練配置,，阿里云百煉會(huì)自動(dòng)計(jì)算預(yù)估的訓(xùn)練費(fèi)用（稍后您也可以在訓(xùn)練任務(wù)列表中瀏覽預(yù)估費(fèi)用明細(xì)，實(shí)際產(chǎn)生費(fèi)用以生成賬單為準(zhǔn)）,。待您確認(rèn)配置和價(jià)格信息無誤后即可開始訓(xùn)練,。

3. 開始訓(xùn)練后，您可以在模型調(diào)優(yōu)列表中查看模型的訓(xùn)練進(jìn)度,、預(yù)估費(fèi)用和其他管理操作,。有關(guān)訓(xùn)練費(fèi)用的詳細(xì)信息，請參考產(chǎn)品計(jì)費(fèi),。

管理訓(xùn)練任務(wù)

待您啟動(dòng)訓(xùn)練后,，您新建的模型訓(xùn)練任務(wù)將出現(xiàn)在模型調(diào)優(yōu)的列表里，其訓(xùn)練狀態(tài)將變更為訓(xùn)練中,。此時(shí),，您可點(diǎn)擊訓(xùn)練任務(wù)的查看操作進(jìn)入訓(xùn)練詳情頁，瀏覽訓(xùn)練任務(wù)的配置和訓(xùn)練的過程指標(biāo),。您可以點(diǎn)擊查看預(yù)估來瀏覽本次訓(xùn)練任務(wù)預(yù)估的計(jì)費(fèi)信息,。您也可以隨時(shí)點(diǎn)擊終止訓(xùn)練來結(jié)束訓(xùn)練任務(wù)。

訓(xùn)練過程指標(biāo)主要有以下三個(gè),，大致體現(xiàn)了模型的訓(xùn)練效果,。如果您不了解這些指標(biāo)的含義，也可以等待訓(xùn)練結(jié)束后,，使用阿里云百煉的模型評測工具評價(jià)訓(xùn)練效果,。

一般情況下,，千條以下的數(shù)據(jù)訓(xùn)練所需的時(shí)長為2-3個(gè)小時(shí),。由于平臺(tái)承載能力有限，可能出現(xiàn)排隊(duì)狀態(tài),，還請您諒解,。訓(xùn)練任務(wù)完成后，列表及詳情頁中模型的狀態(tài)將變更為訓(xùn)練成功,，此時(shí)您已經(jīng)獲得自定義模型,，該模型已處于等待部署狀態(tài)，您可以直接點(diǎn)擊模型部署跳轉(zhuǎn)到部署頁面,。

新建部署任務(wù)

1. 登錄阿里云百煉控制臺(tái),，在左側(cè)導(dǎo)航欄中,，選擇模型工具 > 模型部署。您也可以在模型工具 > 模型訓(xùn)練中等待模型訓(xùn)練結(jié)束后,，直接點(diǎn)擊模型部署,。這里展示了所有模型部署任務(wù)。

2. 點(diǎn)擊部署新模型,，您將跟隨向?qū)У闹敢瓿刹渴鹋渲茫?/p>

1. 選擇模型：阿里云百煉提供了兩類可部署的模型,，此處請您選擇之前訓(xùn)練的自定義模型。

2. 選擇資源配置：阿里云百煉提供了兩類資源配置方式,。包月資源是按月購買計(jì)算資源的方式,，不同版本的包月資源在部署模型的能力上有差別。按量付費(fèi)是按實(shí)際使用時(shí)長購買計(jì)算資源的方式,，您可以按需購買一定數(shù)量的計(jì)算資源,，也可以隨后變更計(jì)算資源的數(shù)量。為完成后續(xù)的模型評測，對訓(xùn)練效果做進(jìn)一步評估,，此處推薦您選擇按量付費(fèi),。

3. 開始部署：這一步將展示您的所有部署配置和預(yù)估費(fèi)用，待您確認(rèn)所有信息后即可開始部署,。

3. 開始部署后,，您可以在模型部署列表中查看模型的部署進(jìn)度、預(yù)估費(fèi)用和其他管理操作,。有關(guān)部署費(fèi)用的詳細(xì)信息,，請參考產(chǎn)品計(jì)費(fèi)。

一般情況下,，模型部署時(shí)長在幾十分鐘到幾個(gè)小時(shí)不等,，由于阿里云百煉資源限制，部署可能會(huì)產(chǎn)生隊(duì)列,，部署完成后,，狀態(tài)將變?yōu)檫\(yùn)行中，運(yùn)行中的模型可被調(diào)用,，用于模型評測及應(yīng)用調(diào)用,。

管理部署任務(wù)

待您啟動(dòng)部署后，您新建的模型部署任務(wù)將出現(xiàn)在模型部署的列表里,，其部署狀態(tài)將變更為部署中,。此時(shí)，您可點(diǎn)擊部署任務(wù)的查看操作瀏覽部署任務(wù)的配置,。您可以點(diǎn)擊擴(kuò)縮容來變更計(jì)算資源的用量,。您也可以隨時(shí)點(diǎn)擊下線來結(jié)束部署任務(wù),。

待部署完成后，其部署狀態(tài)將變更為運(yùn)行中,。此時(shí)您訓(xùn)練的自定義模型已經(jīng)具備了推理調(diào)用的能力,。您可以點(diǎn)擊去體驗(yàn)，在模型體驗(yàn)頁面測試您的自定義模型推理效果,。此時(shí),，您可以使用模型評測對自定義模型的效果做評估。

新建評測任務(wù)

1. 登錄阿里云百煉控制臺(tái),，在左側(cè)導(dǎo)航欄中，選擇模型工具 > 模型評測,。這里展示了所有模型評測任務(wù),。

2. 點(diǎn)擊創(chuàng)建評測任務(wù)，您將遵循向?qū)瓿稍u測任務(wù)的配置：

1. 評測方式：阿里云百煉提供了多種評測方式,。對于自定義模型,，請您選擇基線評測。

2. 選擇模型：請?jiān)谙吕蛑羞x擇已部署的目標(biāo)評測模型,。

3. 選擇評測數(shù)據(jù)：阿里云百煉預(yù)置了基線評測集（包括C-Eval/CMMLU等主流榜單評測集）對待測模型的各項(xiàng)基礎(chǔ)通用能力進(jìn)行自動(dòng)評測,。您可以任選評測數(shù)據(jù)，以此構(gòu)建您的所有評測數(shù)據(jù),。

4. 開始評測：這一步將展示您的所有評測配置和預(yù)估費(fèi)用,，待您確認(rèn)所有信息后即可開始評測。

3. 開始評測后,，您可以在模型評測列表中查看模型的評測進(jìn)度,、預(yù)估費(fèi)用和其他管理操作。有關(guān)評測費(fèi)用的詳細(xì)信息,，請參考產(chǎn)品計(jì)費(fèi),。

管理評測任務(wù)

當(dāng)評測開始后，該評測任務(wù)的狀態(tài)將變更為執(zhí)行中或隊(duì)列中,，您可以隨時(shí)點(diǎn)擊中止來結(jié)束評測,。待評測完成后，您可以點(diǎn)擊結(jié)果查看詳細(xì)的評測結(jié)果。您可以點(diǎn)擊刪除刪去一項(xiàng)評測任務(wù),。