DeepSeek 最近成為熱門話題已經有一段時間。作為一款功能強大的開源大型語言模型，專為各種 AI 應用而設計，從自然語言處理到內容生成，它有多種規(guī)格的模型，使其能夠適應不同的計算系統(tǒng)。

雖然 DeepSeek-R1 通常在高性能硬件上運行，但它也可以通過適當優(yōu)化部署在 Raspberry Pi 5 上。本指南將引導你如何設置兼容環(huán)境、安裝必要的工具以及使用 Ollama 平臺在 Raspberry Pi 5 上運行 DeepSeek-R1。無論是在尋找用于快速響應的輕量級模型，還是尋找更高級的模型以獲得更高的準確性，本教程都將幫助你入門。

材料清單

硬件

樹莓派5 8G

crowpi 2套件

軟件

ollama

huggingfance

DeepSeek

第1步：設置虛擬環(huán)境

為防止與系統(tǒng)的默認設置發(fā)生沖突，最好為模型部署創(chuàng)建虛擬環(huán)境。這可確保對 DeepSeek 所做的任何更改都不會影響其他應用程序。

創(chuàng)建項目目錄和虛擬環(huán)境

打開終端并運行以下命令：

mkdir /home/pi/my_project
cd /home/pi/my_project/
python -m venv /home/pi/my_project/

激活虛擬環(huán)境，創(chuàng)建虛擬環(huán)境后，將其激活：

source /home/pi/my_project/bin/activate

要停用虛擬環(huán)境，請使用：

deactivate

確保在此虛擬環(huán)境中執(zhí)行所有模型設置步驟。

第 2 步：安裝 Ollama 平臺

DeepSeek-R1 可以使用 Ollama 平臺運行，該平臺支持 GGUF 格式的模型文件。如果您選擇 safetensors 格式模型，則需要使用 llama.cpp 將其轉換為 GGUF。

檢查系統(tǒng)兼容性

在繼續(xù)之前，請通過運行

uname -m

安裝 Ollama

首先，更新您的系統(tǒng)：

sudo apt update
sudo apt upgrade -y

然后，安裝 curl（下載 Ollama 所需）：

sudo apt install curl

現(xiàn)在，下載并安裝 Ollama 平臺：

curl -fsSL https://ollama.com/install.sh | sh

驗證安裝

檢查 Ollama 是否安裝成功：

ollama –version

現(xiàn)在 Ollama 已準備就緒，讓我們繼續(xù)下載 DeepSeek-R1 模型。

第 3 步：在 Ollama 上運行 DeepSeek-R1

有兩種方法可以獲取 DeepSeek-R1 模型：

1. 直接從 Ollama 下載并運行它。

2. 從 HuggingFace 下載模型，然后將其導入 Ollama。

無論采用哪種方法，都需要 Ollama。

方法 1：直接從 Ollama 下載并運行

Ollama 提供預配置的模型，使其成為最簡單的入門方式。

在Ollama 網站上搜索 DeepSeek-R1 并找到合適的模型大小。

下載 Deepseek R1

要運行 1.5B 模型：

運行 1.5B Deepseek

ollama run deepseek-r1:1.5b

向模型提出一個問題，例如“用簡單的術語解釋量子糾纏”。它會立即響應，同時也會展示它的思維過程。

向 Deepseek 提問

方法 2：從 HuggingFace 下載模型

從 HuggingFace 下載允許您選擇特定的模型大小。這很有幫助，因為 Raspberry Pi 5（即使有 16GB RAM）也無法有效地處理更大的模型。

從 HuggingFace 中選擇模型

訪問HuggingFace并搜索 DeepSeek-R1。

選擇適合 Raspberry Pi 5 的較小蒸餾版本。

在本指南中，我們將使用 DeepSeek-R1-Distill-Llama-8B-GGUF，它有 80 億個參數，并針對性能進行了優(yōu)化。

下載 Q8_0模型文件 （~8.54GB），因為它平衡了質量和效率。

下載 Q8_0 Deepseek R1 模型

將模型文件傳輸到 Raspberry Pi

下載這三個文件后，使用 FileZilla 或其他文件傳輸工具將它們傳輸到您的 Raspberry Pi。

傳輸 DeepSeek 模型文件

第 4 步：將 GGUF 模型導入 Ollama

一旦模型文件位于 Raspberry Pi 上，我們需要將它們導入 Ollama。

創(chuàng)建 Modelfile

首先，在 model 文件夾中創(chuàng)建一個 Modelfile 并授予其完全權限：

sudo touch /home/pi/my_project/DeepSeek-R1-Distill-Llama-8B-Q8_0/Modelfile

sudo chmod 777 /home/pi/my_project/DeepSeek-R1-Distill-Llama-8B-Q8_0/Modelfile

添加模型配置

打開 Modelfile 并添加：

FROM /home/pi/my_project/DeepSeek-R1-Distill-Llama-8B-Q8_0/DeepSeek-R1-Distill-Llama-8B-Q8_0.gguf

編輯模型文件

現(xiàn)在，在 Ollama 中創(chuàng)建模型：

ollama create DeepSeek-R1 -f Modelfile

驗證模型是否可用：

ollama list   

Deepseek R1 模型

現(xiàn)在，啟動模型：

ollama run deepseek-r1:latest

運行 deepseek r1

向它提出問題并觀察其反應。

模型選項的比較

我們已經測試了 DeepSeek-R1 的兩個版本：

1. DeepSeek-R1-1.5B（直接從 Ollama 下載）。

2. DeepSeek-R1-Distill-Llama-8B（從 HuggingFace 下載）。

Deepseek R1 模型比較

如果您優(yōu)先考慮更快的響應，請使用 DeepSeek-R1-1.5B。如果您想要更高質量的答案，請使用 DeepSeek-R1-Distill-Llama-8B，但請注意 RAM 限制。

結論

通過遵循本指南，您可以使用 Ollama 平臺在 Raspberry Pi 5 上成功運行 DeepSeek-R1。如果您想要簡單的設置，最好直接從 Ollama 下載。但是，如果您需要特定的模型大小，HuggingFace 提供了更大的靈活性。現(xiàn)在，嘗試你的模型，看看它能做什么！