最近很高興有機(jī)會(huì)較為全面深入地研究GPT / ChatGPT這一熱門技術(shù),學(xué)到了不少東西,,當(dāng)然也遇到不少問題,,其中一個(gè)問題就是,,所有的GPT模型,,都會(huì)有輸入輸出長(zhǎng)度(加起來)的限制這個(gè)問題,就好像一個(gè)緊箍咒似的,。
我這段時(shí)間看到很多不同的一些辦法來想辦法繞過這個(gè)限制,,例如把一個(gè)長(zhǎng)的prompt拆成多個(gè)短的,逐個(gè)執(zhí)行后再拼接起來,。雖然有的確實(shí)能實(shí)現(xiàn)效果,,但就是很麻煩,。
難道沒有更好的辦法了么?我倒是實(shí)驗(yàn)了如下的這方法,,而且確實(shí)是可行的,。
你可能會(huì)說,我的內(nèi)容不是一個(gè)網(wǎng)頁(yè)啊,,我是本地的一些文字呢,?其實(shí),這又有什么難的呢,?你要做的無非是把你的文字,,轉(zhuǎn)換為一個(gè)網(wǎng)頁(yè)即可。例如本例我演示一下,,我把剛才那個(gè)openai的幫助文檔保存在本地,,形成一個(gè)html文件。
這個(gè)文件其實(shí)是可以直接通過瀏覽器打開的,。
那么問題來了,,這個(gè)文件是肯定不可能被openai 在云端讀取到的?怎么辦呢,?還是很容易,,我可以本地把這個(gè)文件打開來,并且用反向代理將其發(fā)布到公網(wǎng)允許匿名訪問,。首先,,我用了一個(gè)靜態(tài)服務(wù)器來把這個(gè)網(wǎng)頁(yè)托管起來。
然后用ngrok來做反向代理
運(yùn)行起來后的效果如下
那么接下來你要做的就是,,把這個(gè)地址給GPT去解析即可,。
打完,收工,!
請(qǐng)注意,,真實(shí)場(chǎng)景下,你完全可以動(dòng)態(tài)地生成很多本地的html文件,,然后通過這個(gè)辦法就解決了長(zhǎng)度限制的問題了,。