本地部署DeepSeek-R大模型的实用教程实用指南

作者：袖梨 2026-08-23

平时做技术实践时，很多问题不是概念不会，而是细节没串起来。拿“本地部署DeepSeek-R大模型”来说，它看着像小点，放到项目里常会牵出环境、配置、兼容性和维护成本。下面按实际采用顺序，把思路、关键写法和容易踩坑的地方讲清楚，便于大家直接对照操作。

一、准备工作
二、安装 Ollama
- 1. 下载 Ollama
- 2. 安装 Ollama
- 3. 检查安装是否成功
三、拉取大模型（DeepSeek）
- 1. 打开命令行
- 2. 下载模型
- 3. 测试下载
- 4. 等待下载完成
四、测试模型效果
五、安装客户端工具（AnythingLLM）
- 1. 下载 AnythingLLM
- 2. 设置 Ollama 模型
- 3. 新建工作区
检测AI回答效果
- 推理性问题
- 解释性问题
六、上传本地知识库
- 1. 上传文档
- 2. 保存知识库
七、总结与建议

一、准备工作

在正式开始之前，你需准备以下内容：

实际处理时，一台设置还不错的电脑（建议至少有独立显卡，内存 16GB 以上，显存越高越好, 没有独立显卡也没关系）。稳定的网络环境（下载模型文件时很重要）。一点点耐心，毕竟我们要部署的是大模型，可能会花点时间。

二、安装 Ollama

我们采用的软件是 Ollama，它是一个很便于的本地大模型运行工具。

1. 下载 Ollama

官网地址：Download Ollama on macOS
从实现思路看，打开官网后，根据你的操作系统选择对应的版本进行下载（Windows、Mac、Linux 都兼容）。

2. 安装 Ollama

下载完成后，双击安装包进行安装。
安装过程很轻松，一路点击“下一步”即可。
实际处理时，默认情况下，Ollama 会安装到 C 盘，建议不要修改安装路径，直接按默认设置安装。

3. 检查安装是否成功

理解这一步时，打开命令行（Windows 用户能够按 Win + R，输入 cmd，随后回车）。
输入以下命令，检查 Ollama 是否成功安装：

ollama -v

如果显示版本号，说明安装成功！

三、拉取大模型（DeepSeek）

从实现思路看，下面，我们需借助 Ollama 下载 DeepSeek 模型。这一步需用到命令行，别担心，我会一步步教你操作。

1. 打开命令行

同样，按 Win + R，输入 cmd，随后回车。

2. 下载模型

以下是不同版本模型的下载命令，你能够根据自己的需求选择合适的版本：

1.5B Qwen DeepSeek R1

ollama run deepseek-r1:1.5b

7B Qwen DeepSeek R1

ollama run deepseek-r1:7b

8B Llama DeepSeek R1

ollama run deepseek-r1:8b

14B Qwen DeepSeek R1

ollama run deepseek-r1:14b

32B Qwen DeepSeek R1

ollama run deepseek-r1:32b

70B Llama DeepSeek R1

ollama run deepseek-r1:70b

3. 测试下载

实际处理时，为便于测试效果，建议先下载一个较小的模型，比如 1.5B 或 7B(我选择的7B测试 1.5不行)。
理解这一步时，下载过程中如果网速过慢，能够按 CTRL + C 中断，随后重新运行命令。

4. 等待下载完成

下载完成后，模型会自动安装到本地。
安装完成后，你能够借助命令行直接提问，测试模型的效果！

四、测试模型效果

下载完成后，我们来测试一下模型是否正常运行。

2. 注意事项

结合项目来看，若采用的是较大的模型（比如 32B 或 70B），可能会占用大量的 GPU 和 CPU 资源，建议根据电脑设置选择合适的模型。

五、安装客户端工具（AnythingLLM）

实际处理时，虽然命令行能够用来提问，但操作起来同时不便于。为了更好的采用体验，我们能够安装一个客户端工具 AnythingLLM。

1. 下载 AnythingLLM

官网地址：Download AnythingLLM for Desktop
下载完成后，双击安装包进行安装。

Download AnythingLLM for Desktop

2. 设置 Ollama 模型

打开 AnythingLLM，进入设置页面。
实际处理时，选择本地 Ollama 模型方式，软件会自动识别你之前下载的 DeepSeek 模型。

安装完成之后打开软件找到设置选择本地Ollama模型方式

他会自动识别本地Ollama下载的大模型

3. 新建工作区

回到主界面，随便起一个名字新建工作区。
这样就能够开始提问啦！界面和互联网的聊天软件差不多，采用体验很流畅。

（请合理的选择大模型的参数，防止电脑带不动的情况出现卡死宕机）

检测AI回答效果

兼容问题询问链接上传图片上传无限次数上传文档和图片！

推理性问题

比如：“如果今天是星期一，五天后是星期几？”这类问题能够测试AI的逻辑推理能力。

DeepSeek回答：

嗯，今天是星期一，那五天后会是星期几呢？让我仔细想想。首先，一周有七天，所以从星期一开始数起：星期一、星期二、星期三、星期四、星期五、星期六、星期日。现在，如果今天是星期一，那么过一天就是星期二，再过一天就是星期三，依此类推。
 
那问题来了，我要计算的是五天后是星期几。首先，我需要明确“今天”指的是哪一天。假设今天是星期一，那么接下来的每一天分别是：
 
星期二（明天）
星期三（后天）
星期四
星期五
星期六
所以，从星期一开始数五天，第五天就是星期六。因此，五天后的那一天应该是星期六。
 
不过，为了确保我没有搞错，我可以使用另一种方法来验证。比如，可以用模运算来计算：用当前的星期几加上要过去的天数，然后对7取余数。例如：
 
今天是星期一（1），五天后就是1 + 5 = 6。因为一周有七天，所以6 mod 7 = 6，对应的是星期六。
 
这样看来，无论是通过直接数数还是使用模运算的方法，得出的结果都是星期六。
 
 
如果今天是星期一，那么五天后是星期六。

解释性问题

比如：“请解释一下相对论的基本概念。”这类问题能够评估AI的解释能力和深度。

DeepSeek回答：

好的，现在我要回答用户的问题，用户之前问了一个关于星期几的问题，并得到了正确的答案。接下来，用户又发来一个请求，要求我解释性地回答问题，举个例子来说“请解释一下相对论的基本概念。”。
 
首先，我需要理解用户当前的需求是什么。看起来用户对相对论这个概念不太熟悉，想要一个简明扼要的解释，可能用于学习或兴趣了解。用户希望得到一个清晰、直观的例子来帮助理解相对论。
 
接下来，我要回忆相对论的相关知识。相对论主要包括狭义相对论和广义相对论。狭义相对论由爱因斯坦在1905年提出，主要讨论了惯性参考系中的现象，特别是光速不变原理和时间膨胀效应。而广义相对论则是关于引力的理论，它指出引力是时空曲率的表现。
 
为了使解释更易懂，我可以选择一个具体的例子来说明相对论的基本概念。例如，时间膨胀是一个重要的狭义相对论现象，可以举一个火车与闪电同时到达两个点的故事。通过这个故事，可以形象地展示在高速运动的参考系中，同一事件的时间测量会发生差异。
 
此外，我还需要确保语言简洁明了，避免使用过于专业的术语或复杂的数学公式。这样可以让不同背景的用户都能理解。
 
最后，总结一下，我的回答应该包括相对论的两个主要部分，并通过一个具体的例子来解释时间膨胀这一概念，以帮助用户更好地理解相对论的基本思想。
 
 
当然可以！相对论是爱因斯坦提出的一套描述宇宙运动和引力的理论。它主要包括狭义相对论和广义相对论两部分。
 
举个例子：假设有一列火车以接近光速的速度运行，当火车上的乘客看到闪电同时击中火车头和尾部时，地面上的人可能会觉得这两件事并不同时发生（因为火车在移动）。这是因为相对于火车来说，光是同步传播的，但相对于地面，由于火车速度极快，时间会有一点差异。这种现象说明时间和空间并不是绝对的，而是相对的，具体取决于观察者的运动状态。
 
这样的例子可以帮助理解相对论中的一些基本概念，如时间膨胀、长度收缩和相对性原理等。