最近羊仔忙著研究一些新的AI工具，其中一個(gè)就是Ollama,，可能有些朋友還不太熟悉它,，這是一款能讓你在本地運(yùn)行各種大模型的神器。

無論你使用的是PC,、Mac,，還是小巧玲瓏的樹莓派，Ollama都能完美適配,，真的很方便,。

今天就和大家聊聊如何利用Ollama在本地輕松運(yùn)行大模型，并使用現(xiàn)代化的UI界面和大模型聊天,。

好了,，廢話不多說，進(jìn)入正題啦,！

1

初識(shí)Ollama

首先,，要使用Ollama，你需要先安裝它,，這部分其實(shí)非常簡單,，就像羊仔那天坐在電腦前吃著薯片，幾分鐘搞定一樣,。

你只需要訪問Ollama的官網(wǎng)（ollama.com或者ollama.ai）,，選擇適合你操作系統(tǒng)的版本下載。

安裝過程不復(fù)雜,，和其他軟件一樣,，幾下點(diǎn)擊就搞定了。

安裝完成后,，打開cmd終端,，輸入命令`ollama run 模型名稱`即可運(yùn)行，比如：

ollama run llama3.1

這個(gè)命令會(huì)自動(dòng)下載并配置對(duì)應(yīng)的大模型文件,，非常省心,。

如果你對(duì)有哪些模型可以使用不太清楚，可以去Ollama官網(wǎng)看看,，每種模型都有詳細(xì)介紹和版本選擇,。

一般來說，7B的模型需要至少8G內(nèi)存,，13B需要16G內(nèi)存,，33B需要32G內(nèi)存,。

一定要根據(jù)自己的硬件配置來選擇，否則運(yùn)行時(shí)有可能會(huì)很卡,。

2

Open WebUI：大模型伴侶

在默認(rèn)設(shè)置下,，你需要在終端中和大模型進(jìn)行交互，雖然這是個(gè)不錯(cuò)的選擇,，但看著一長串代碼和黑色背景,，實(shí)在有些沉悶。

如果你也覺得如此,，不妨試試Open WebUI,，這個(gè)工具可以給你帶來更現(xiàn)代化的操作體驗(yàn)。

安裝Docker,，這是一個(gè)虛擬容器工具,，簡單來講，Docker就像一個(gè)萬能的小盒子,，把所有環(huán)境依賴都裝到一個(gè)盒子里,，運(yùn)行起來特別方便。

訪問Docker官網(wǎng)：

https://www./products/docker-desktop

下載對(duì)應(yīng)操作系統(tǒng)的Docker安裝包并安裝,。

安裝好Docker后,，在終端執(zhí)行Open WebUI的安裝命令：

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

不出意外的話幾分鐘后，你就能在本地瀏覽器上打開一個(gè)簡潔友好的Web界面,，這下再也不用面對(duì)黑乎乎的終端了,。

3

打造本地知識(shí)庫

Open WebUI不僅能讓你和大模型輕松互動(dòng)，還支持RAG（Retrieval-Augmented Generation）能力,，這意味著你可以讓大模型參考網(wǎng)頁和文檔內(nèi)容,。

如果你想讓大模型讀取某個(gè)網(wǎng)頁的內(nèi)容，只需在鏈接前加上“#”,。例如提示詞：“讀取這個(gè)網(wǎng)頁的內(nèi)容,，#https://”。

如果你要讀取文檔內(nèi)容,，可以直接在對(duì)話框中導(dǎo)入文件,，或者到Documents頁面上傳。

這樣一來,，所有文檔都能成為大模型的參考資料,，大大提升工作的效率和效果。

在對(duì)話框中輸入“#”,，會(huì)顯示出所有已導(dǎo)入的文檔,，你可以選擇其中一個(gè)或者多個(gè)，甚至可以讓大模型參考所有的文檔。

無論是工作上的文檔管理還是個(gè)人知識(shí)儲(chǔ)備,，這個(gè)功能相當(dāng)于打造了一個(gè)高效的本地知識(shí)庫,。

零基礎(chǔ)如何學(xué)習(xí)AI大模型

領(lǐng)取方式在文末

為什么要學(xué)習(xí)大模型？

學(xué)習(xí)大模型課程的重要性在于它能夠極大地促進(jìn)個(gè)人在人工智能領(lǐng)域的專業(yè)發(fā)展,。大模型技術(shù),，如自然語言處理和圖像識(shí)別，正在推動(dòng)著人工智能的新發(fā)展階段,。通過學(xué)習(xí)大模型課程,，可以掌握設(shè)計(jì)和實(shí)現(xiàn)基于大模型的應(yīng)用系統(tǒng)所需的基本原理和技術(shù)，從而提升自己在數(shù)據(jù)處理,、分析和決策制定方面的能力。此外,，大模型技術(shù)在多個(gè)行業(yè)中的應(yīng)用日益增加,，掌握這一技術(shù)將有助于提高就業(yè)競爭力，并為未來的創(chuàng)新創(chuàng)業(yè)提供堅(jiān)實(shí)的基礎(chǔ),。

大模型典型應(yīng)用場景

①AI+教育：智能教學(xué)助手和自動(dòng)評(píng)分系統(tǒng)使個(gè)性化教育成為可能,。通過AI分析學(xué)生的學(xué)習(xí)數(shù)據(jù)，提供量身定制的學(xué)習(xí)方案,，提高學(xué)習(xí)效果,。
②AI+醫(yī)療：智能診斷系統(tǒng)和個(gè)性化醫(yī)療方案讓醫(yī)療服務(wù)更加精準(zhǔn)高效。AI可以分析醫(yī)學(xué)影像,，輔助醫(yī)生進(jìn)行早期診斷,，同時(shí)根據(jù)患者數(shù)據(jù)制定個(gè)性化治療方案。
③AI+金融：智能投顧和風(fēng)險(xiǎn)管理系統(tǒng)幫助投資者做出更明智的決策,，并實(shí)時(shí)監(jiān)控金融市場,，識(shí)別潛在風(fēng)險(xiǎn)。
④AI+制造：智能制造和自動(dòng)化工廠提高了生產(chǎn)效率和質(zhì)量,。通過AI技術(shù),，工廠可以實(shí)現(xiàn)設(shè)備預(yù)測性維護(hù)，減少停機(jī)時(shí)間,。
…
這些案例表明,，學(xué)習(xí)大模型課程不僅能夠提升個(gè)人技能，還能為企業(yè)帶來實(shí)際效益,，推動(dòng)行業(yè)創(chuàng)新發(fā)展,。

學(xué)習(xí)資料領(lǐng)取

如果你對(duì)大模型感興趣，可以看看我整合并且整理成了一份AI大模型資料包,，需要的小伙伴文末免費(fèi)領(lǐng)取哦,，無償分享！！,！
vx掃描下方二維碼即可
加上后會(huì)一個(gè)個(gè)給大家發(fā)

部分資料展示

一,、 AI大模型學(xué)習(xí)路線圖

整個(gè)學(xué)習(xí)分為7個(gè)階段

二、AI大模型實(shí)戰(zhàn)案例

涵蓋AI大模型的理論研究,、技術(shù)實(shí)現(xiàn),、行業(yè)應(yīng)用等多個(gè)方面。無論您是科研人員,、工程師,，還是對(duì)AI大模型感興趣的愛好者，皆可用,。

三,、視頻和書籍PDF合集

從入門到進(jìn)階這里都有，跟著老師學(xué)習(xí)事半功倍,。

四,、LLM面試題

五、AI產(chǎn)品經(jīng)理面試題