deepseek本地部署最簡教程

zZ華 2025-01-31

展開全文

1簡介

隨著人工智能技術(shù)的飛速發(fā)展,，大語言模型（Large Language Models, LLMs）逐漸從云端走向本地,，為開發(fā)者、研究者和技術(shù)愛好者提供了更靈活,、更私密的應(yīng)用可能,。國產(chǎn)DeepSeek 作為一款高效且功能強(qiáng)大的開源大模型，憑借其毫不遜色于Chatgpt的推理能力和對中文場景的深度適配,，成為許多用戶探索本地智能化的首選工具,。

然而，對于非專業(yè)開發(fā)者或剛接觸本地部署的用戶而言,，復(fù)雜的配置流程,、環(huán)境依賴和資源管理往往令人望而卻步。本文旨在通過極簡的步驟,、清晰的說明和實用的技巧,，幫助小白用戶在最短時間內(nèi)完成從零部署的流程。

2環(huán)境介紹

windows:win11

3安裝ollama

Ollama 是一個提供開源,、簡便且高效的工具平臺,，旨在使開發(fā)者能夠在本地環(huán)境中運(yùn)行和部署大型語言模型（LLMs）。Ollama 可以讓用戶輕松地運(yùn)行一些主流的,、開源的 LLM 模型,，而無需依賴云服務(wù)，支持在本地服務(wù)器或個人計算機(jī)上進(jìn)行推理任務(wù),。因此我們deepseek的載體就是ollama,。

在官網(wǎng)下載ollama（安裝包也可在本文附錄A獲取）

https://ollama.com/

安裝ollama

4安裝deepseek模型

打開ollama官網(wǎng),，右上角models找到deepseek模型

選擇模型版本,，在人工智能領(lǐng)域，模型名稱中的 1.5B,、7B,、8B 等數(shù)字代表模型的參數(shù)量（Parameters），其中 B 是英文 Billion（十億） 的縮寫,。參數(shù)越多,，模型通常更“聰明”（能處理更復(fù)雜的任務(wù)），但對硬件資源（顯存,、內(nèi)存）的要求也更高,。個人用戶可優(yōu)先 7B（通用性最佳）,，若設(shè)備較弱則選 1.5B，開發(fā)者可選 8B,。

以下是各版本的介紹

找到對應(yīng)的命令,，復(fù)制

然后輸入到cmd中：

ollama run deepseek-r1:1.5b

如果是7b，以此類推：

ollama run deepseek-r1:7b

需要等待一段時間下載

5使用deepseek

打開cmd,，輸入所下版本同樣的命令,，則可以使用deepseek：

ollama run deepseek-r1:1.5b

6ollama大模型安裝路徑更改

如果我們使用windows系統(tǒng)安裝，ollama默認(rèn)安裝在系統(tǒng)盤,，而往往系統(tǒng)盤的容量不夠大,，我們可以將deepseek安裝到其他盤中，但目前,，ollama 本身并沒有提供直接的,、官方的選項來修改模型存儲路徑。我們可以使用符號鏈接的方式將對應(yīng)文件夾鏈接到D盤文件夾,，這樣ollama讀寫文件只會讀寫對應(yīng)D盤的鏈接文件夾,。

首先，我們找到ollama模型的安裝位置：

Linux/macOS: ~/.ollama/Windows: C:\Users\<YourUser>\.ollama\

刪除models文件夾：

在D盤創(chuàng)建一個新文件夾,，如

D:\OllamaModels\

用管理員打開cmd,，進(jìn)行符號鏈接，然后再下載deepseek文件夾：

mklink /D C:\Users\<YourUser>\.ollama D:\OllamaModels

7寫在最后

本文主要介紹了 DeepSeek 的最簡安裝方法,，后續(xù)將繼續(xù)更新,，介紹如何將 DeepSeek 集成到圖形化界面中。

附錄A

關(guān)注公眾號輸入,deepseek即可獲得對應(yīng)安裝包

本站是提供個人知識管理的網(wǎng)絡(luò)存儲空間,，所有內(nèi)容均由用戶發(fā)布,，不代表本站觀點。請注意甄別內(nèi)容中的聯(lián)系方式,、誘導(dǎo)購買等信息,，謹(jǐn)防詐騙。如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容,，請點擊一鍵舉報,。

轉(zhuǎn)藏 分享

QQ空間 QQ好友新浪微博微信

獻(xiàn)花（0） +1

來自： zZ華 > 《人工智能》

舉報/認(rèn)領(lǐng)