作者：京東科技 楊菲

前言

在科技浪潮洶涌澎湃的今天，人工智能與軟件開發(fā)工具不斷迭代升級(jí)，深度融合前沿技術(shù)來(lái)滿足個(gè)性化知識(shí)管理與開發(fā)需求，已然成為技術(shù)愛好者和開發(fā)者們競(jìng)相探索的方向。本文將利用 Ollama、Deepseek-R1、AnythingLLM 搭建強(qiáng)大的本地個(gè)人知識(shí)庫(kù)，并詳細(xì)介紹 Continue 在 VScode 中的本地集成，帶你解鎖全新的技術(shù)應(yīng)用體驗(yàn)，開啟高效知識(shí)管理與開發(fā)的新征程。

一、Ollama+Deepseek-R1+AnythingLLM本地個(gè)人知識(shí)庫(kù)搭建

在搭建強(qiáng)大的本地個(gè)人知識(shí)庫(kù)以及提升開發(fā)效率的技術(shù)體系中，Ollama、DeepSeek-R1 和 AnythingLLM 扮演著舉足輕重的角色。Ollama 作為模型運(yùn)行與管理工具，是整個(gè)技術(shù)架構(gòu)中的關(guān)鍵樞紐，負(fù)責(zé)模型的高效調(diào)度；DeepSeek-R1 憑借其卓越的語(yǔ)言理解和生成能力，為后續(xù)的知識(shí)處理和應(yīng)用提供核心支持；AnythingLLM 則憑借豐富功能，助力構(gòu)建多樣化知識(shí)體系，豐富知識(shí)儲(chǔ)備。

1、Ollama安裝

1) 安裝前了解

Ollama 是什么？

Ollama 是一個(gè)開源項(xiàng)目，用于運(yùn)行和管理大型語(yǔ)言模型（LLM）的工具或平臺(tái)。它提供了一個(gè)簡(jiǎn)化的框架，讓用戶能夠在個(gè)人計(jì)算機(jī)或服務(wù)器上部署和運(yùn)行這些模型，而無(wú)需依賴云端服務(wù)。Ollama 支持多種模型，并允許用戶通過命令行或 API 與模型進(jìn)行交互。

為什么 DeepSeek 本地化部署先安裝 Ollama？

DeepSeek 是一個(gè)基于大型語(yǔ)言模型的應(yīng)用，可以獨(dú)立配置部署。

不過使用Ollama 提供的本地化部署能力，有以下幾個(gè)原因：

1.模型管理：Ollama 簡(jiǎn)化了大型語(yǔ)言模型的下載、安裝和管理，DeepSeek 需要這些模型來(lái)運(yùn)行。

2.本地運(yùn)行：Ollama 支持在本地運(yùn)行模型，確保數(shù)據(jù)隱私和安全，這對(duì) DeepSeek 的本地化部署至關(guān)重要。

3.性能優(yōu)化：Ollama 針對(duì)本地環(huán)境進(jìn)行了優(yōu)化，確保模型在本地硬件上高效運(yùn)行，提升 DeepSeek 的性能。

4.依賴集成：在其它工具中集成能簡(jiǎn)化部署、高效管理模型、優(yōu)化性能，還能借助社區(qū)生態(tài)拓展應(yīng)用。

2）官網(wǎng)下載

打開官網(wǎng)：ollama官網(wǎng) （ https://ollama.com/ ），點(diǎn)擊DownLoad，選擇與自己電腦匹配的版本進(jìn)行下載，我的電腦是Mackbook Pro，芯片是 Apple M3 Pro，所以下載macOS。

3）安裝Ollama

下載到本地后，只需雙擊對(duì)應(yīng)的下載包，按照安裝向?qū)У奶崾局鸩酵瓿砂惭b操作。安裝完成后，點(diǎn)擊啟動(dòng)按鈕，此時(shí)你便能在電腦右上角的任務(wù)欄中看到已啟動(dòng)的 Ollama 應(yīng)用圖標(biāo)，

然后使用瀏覽器檢查是否安裝啟動(dòng)成功，地址： http://localhost:11434/ ,如果頁(yè)面顯示“Ollama is running”，則代表啟動(dòng)成功

?審核編輯 黃宇