今天這篇教程介紹個人電腦,,接入大模型的搭建方法,。 1、為什么要這么做,?有哪些好處,?首先,這種搭建方法在本地電腦也能流暢流行,,因為使用了專家微調(diào)后的大模型,,專門針對編程的,所以參數(shù)規(guī)模和計算資源消耗,,都降到最小,,一般電腦也能流暢的運行。 如下圖所示,,我推薦的deepseek-coder編程大模型,,參數(shù)尺寸只有776M,,相比于通用大模型如qwen:7b和llama3:8b都有近5G的參數(shù)規(guī)模,可以說已經(jīng)輕量級到極限: 其次,,這種搭建方法是沒有費用的,,推薦的方法包括Pycharm社區(qū)版,可以免費使用,,deepseek-coder是開源的編程大模型,,而CodeGPT插件也是免費。所以全都是免費的,,并且沒有附帶費用,。 再次,CodeGPT插件目前應(yīng)該是支持開源大模型編程最好的插件之一了,,大家看完這篇教程,,就知道它的界面使用非常小白,看完教程大家直接就能在本地借助大模型更好學(xué)習(xí)Python起來了,。 如下圖所示,,接入Pycharm后,可以直接在右側(cè)面板使用大模型能力,,這樣就不用來回倒騰頁面了,,操作方便性直接拉到極限: 2、框架為什么這么選,?目標(biāo)決定了選型策略,,具體來說,很多想學(xué)編程的朋友想借助大模型直接在Pycharm或vscode里編寫,。這種目標(biāo)需要使用大模型的API,而絕大部分大模型走API調(diào)用都有費用,。 而本篇介紹的教程方案就解決了這個問題,,并且deepseek是目前公認(rèn)的編程較好的大模型,因此方案還是比較好的,。 基于上面的目標(biāo),,最后找出這種組合: Pycharm社區(qū)版或vscode + 輕量級的deepseek-coder + CodeGPT插件。 總結(jié)下來,,這個方案具有三個特點:輕量級,,運行速度快,開源免費,。 3,、搭建方法第一步,安裝Pycharm,,推薦安裝社區(qū)版,,完全免費,, 這個頁面包括了Pycharm社區(qū)版最近幾年的歷史版本,推薦收藏,。如下為下載軟件頁面部分截圖: 第二步,,安裝deepseek-coder,推薦使用ollama管理本地大模型,,目前使用最多的管理工具之一,。 關(guān)于安裝ollama和ollama安裝在本地安裝大模型的系統(tǒng)介紹,我在此前幾篇文章都有詳細(xì)教程,,在此不再重復(fù),,沒看過的參考:自己電腦搭建AI大模型詳細(xì)教程,支持通義千問,、Llama3,、接口調(diào)用等。 安裝完成后,,可以做個簡單測試: 在終端提問界面不友好,,需要有比較好的UI工具輔助,更友好的幫助我們學(xué)習(xí)編程,,為了解決此問題,,因此有了第三步。 第三步,,安裝CodeGPT,,安裝它之后,可以直接在Pycharm或vscode里像GPT那樣輔助編程了,。因此,,第三步是很關(guān)鍵的。 在這里我以Pycharm里安裝這個插件為例,,介紹如何安裝,。 打開Pycharm,蘋果電腦是找到設(shè)置,,Windows電腦是文件按鈕下的設(shè)置,,進入到設(shè)置頁面,如下所示,,在這個頁面的操作步驟,,我都已經(jīng)按照箭頭和文字標(biāo)注了,大家按照步驟操作下: 找到這個插件后,,選擇右側(cè)的Install按鈕,,就能安裝完成了: 安裝就是這么簡單,至此我們已經(jīng)全部安裝完成。 4,、使用演示再次打開Pycharm后,,在最右側(cè)會出現(xiàn)如箭頭所示的圖標(biāo),點擊下: 就出現(xiàn)下面這個頁面,,在右側(cè)我們就可以使用大模型對話界面一樣,,使用它解決編程問題了,這種方式不用拉回倒騰頁面,,會比較方便: 選的模型比較小,,運行速度還是很快的。除此以外,,這個插件還有智能代碼補全功能,,更多功能大家在使用過程中可以慢慢摸索。 最后總結(jié)本方案輕量級,、免費且易于操作,,適合個人電腦搭建大模型環(huán)境。 借助 Pycharm 社區(qū)版,、DeepSeek-Coder 和 CodeGPT 插件,,實現(xiàn)高效學(xué)習(xí)和編程支持。 安裝簡單,、運行流暢,,是零成本接入大模型的一個不錯的解決方案。 本文,,完,。 |
|