Ubuntu Linux部署DeepSeek

asd

技术背景

DeepSeek是这段时间最热门的话题之一，其蒸馏模型可以实现低成本而高质量的推理，使得我们现在可以在本地小型化的硬件上也用上大模型这一AI利器。本文主要介绍通过Ollama来部署DeepSeek R1模型的方法，由于网络环境的问题，过程相比于普通的安装方案可能略有改动。
安装Ollama

以下是DeepSeek生成的关于Ollama的介绍的一个片段：

Ollama 是一个开源工具，专门用于在本地运行、管理和部署大型语言模型（LLMs，Large Language Models）。它简化了 LLMs 的安装、配置和运行流程，支持多种流行的开源模型（如 LLaMA、Mistral、DeepSeek 等），适合开发者和研究人员在本地环境中快速实验和开发。

Ollama的官网地址为：https://ollama.com，可以先尝试一下直接从官网下载适合自己本地环境的版本，Linux、Windows和MacOS都有相应的支持。如果按照官网的Linux下载方式有类似于这样的报错信息：
curl: (22) The requested URL returned error: 403则可以按照本章节的方案试一试，如果没有出现报错，那就直接跳到下一个章节即可。这里我们将Ollama的下载和执行脚本分开进行，首先用curl下载一个安装脚本：
$ curl -fsSL https://ollama.com/install.sh -o ollama_install.sh然后为该脚本加上一个可执行的权限：
$ chmod +x ollama_install.sh使用如下指令，把默认的Ollama下载地址指向Github下载地址：
$ sed -i 's|https://ollama.com/download/|https://github.com/ollama/ollama/releases/download/v0.5.7/|' ollama_install.sh这里版本号是写这篇文章时最新的版本号，读者可以自行搜索最新版本的地址进行修改，然后执行该脚本文件：
$ sh ollama_install.sh>>> Installing ollama to /usr/local>>> Downloading Linux amd64 bundle##############################################                                     57.7%这就开始下载了，速度也蛮快。对于Github访问有困难的选手来说，你可能需要这个：https://github.moeyy.xyz/。如果安装过程没有任何的报错，那界面输出大概是这样的：
$ sh ollama_install.sh>>> Installing ollama to /usr/local>>> Downloading Linux amd64 bundle################################################################################# 100.0%>>> Creating ollama user...>>> Adding ollama user to render group...>>> Adding ollama user to video group...>>> Adding current user to ollama group...>>> Creating ollama systemd service...>>> Enabling and starting ollama service...Created symlink /etc/systemd/system/default.target.wants/ollama.service → /etc/systemd/system/ollama.service.>>> NVIDIA GPU installed.可以验证一下安装结果：
$ ollama --helpLarge language model runnerUsage:  ollama [flags]  ollama [command]Available Commands:  serve       Start ollama  create      Create a model from a Modelfile  show        Show information for a model  run         Run a model  stop        Stop a running model  pull        Pull a model from a registry  push        Push a model to a registry  list        List models  ps          List running models  cp          Copy a model  rm          Remove a model  help        Help about any commandFlags:  -h, --help      help for ollama  -v, --version   Show version informationUse "ollama [command] --help" for more information about a command.这就说明Ollama安装成功了。
下载DeepSeek模型

Ollama拉取和使用模型的操作跟Docker很像，所以如果有过使用容器的经验的话，用起来会非常顺手。首先我们访问以下Ollama官方的模型库中的DeepSeek-R1：https://ollama.com/library/deepseek-r1，选择一个适合自己本地硬件条件的版本，然后使用如下指令进行拉取：
$ ollama pull deepseek-r1:14b然后就是漫长的等待，最终成功的示例大概是这样子：
$ ollama pull deepseek-r1:14bpulling manifestpulling 6e9f90f02bb3... 100% ▕██████████████████████████▏ 9.0 GBpulling 369ca498f347... 100% ▕██████████████████████████▏  387 Bpulling 6e4c38e1172f... 100% ▕██████████████████████████▏ 1.1 KBpulling f4d24e9138dd... 100% ▕██████████████████████████▏  148 Bpulling 3c24b0c80794... 100% ▕██████████████████████████▏  488 Bverifying sha256 digestwriting manifestsuccess好在ollama支持断点续传，所以即时中途中断了，也是可以重新pull的。pull完成之后，就可以直接run开始启动对话了：
$ ollama run deepseek-r1:14b>>> who are you?<think></think>Greetings! I'm DeepSeek-R1, an artificial intelligence assistant created byDeepSeek. I'm at your service and would be delighted to assist you with anyinquiries or tasks you may have.>>> 今天是几月几号？<think>今天是几月几号？</think>您好，建议您联网获取时效性较强的信息；如果还有其他问题需要帮助，请随时告诉我！>>> 你支持联网获取信息吗？<think>嗯，用户问我是否支持联网获取信息。让我仔细想想。首先，回顾一下对话历史，用户之前问了我是谁，我介绍了自己是DeepSeek-R1。接着他问今天是几月几号，我解释说无法提供时效性信息，并建议他联网。现在他进一步确认我是否支持联网。这可能意味着他对我的功能有更深的了解需求。也许他想测试我的能力或者想知道我能做什么。需要明确告诉他我不具备联网的能力，但可以处理其他问题。同时，我要确保语气友好，让他知道尽管不能联网，但我会尽力帮助他解决其他问题。这样他可能会继续提出其他请求。</think>目前我无法联网获取实时信息或最新的互联网内容。如果您有任何问题或需要帮助，请告诉我，我会尽力为您解答！>>> 你能读取本地文件信息吗？<think>今天用户问我是否能读取本地文件信息。回顾之前的对话，用户之前询问了日期和联网功能，现在继续测试我的功能边界。可能他想了解我能做什么，以便判断如何与我交互。明确告诉他无法访问本地文件，这样他就能知道数据来源仅限于已知的信息库。同时，保持友好态度，邀请他提出其他问题。这样有助于用户明确我的能力，避免后续的混淆或失望。</think>很抱歉，目前我还不支持读取本地文件信息或上传文件的功能。如果您有任何其他问题，请随时告诉我！中英文都可以输入。
安装Chatbox

Chatbox是一个对话工具，可以导入各种大模型平台的API，或者本地部署模型的API也都是可以的，其主页地址为：https://www.chatboxai.app/zh，可以在这里下载对应于自己本地操作系统的桌面应用。如果是Windows系统，下载之后是一个安装工具，按照提示进行安装即可。如果是Linux平台，下载下来是一个APPImage的文件，其实就是一个可执行文件，免安装的，但是下载之后需要手动配置一个可执行的选项：

       

安装好Chatbox之后，打开就可以配置本地ollama API下的deepseek模型了：

       

然后就可以启动对话：

       

还可以解析一些静态网页，例如我的上一篇博客，把这个链接丢进去，是可以被解析的。但是如果是一个有递归目录的，或者是有JS的网页，可能就解析不了。

       

至于其他格式的文件，还有待考察。
远程部署

假如我们在远程的电脑上部署了一个ollama+deepseek，想在本地电脑用chatbox调用远程ollama的API，这个也是支持的，但是要在远程电脑上进行相应的配置。先暂停ollama服务：
$ sudo systemctl stop ollama修改配置文件：
$ sudo vi /etc/systemd/system/ollama.service在配置文件的[Service]下加上这么两句：
Environment="OLLAMA_HOST=0.0.0.0"Environment="OLLAMA_ORIGINS=*"如果不知道上面这一串怎么执行，可以直接使用以下脚本：
$ sudo sed -i '/\[Service\]/a Environment="OLLAMA_HOST=0.0.0.0"\nEnvironment="OLLAMA_ORIGINS=*"' /etc/systemd/system/ollama.service如果是担心文件被覆盖，可以先把-i选项去掉：
$ sudo sed '/\[Service\]/a Environment="OLLAMA_HOST=0.0.0.0"\nEnvironment="OLLAMA_ORIGINS=*"' /etc/systemd/system/ollama.service该操作会把修改后的配置文件打印输出在屏幕上，确认无误之后可以把-i配置加上，把修改同步到文件中，然后重新加载ollama服务：
$ systemctl daemon-reload$ systemctl restart ollama然后就可以在本地配置一个远程的ip地址和相应端口进行访问了。
资源占用

DeepSeek的一大优势就是对于资源的消耗没有那么高，就算是这个14b的模型，在两张显卡上面运行也没有什么压力，每张卡大概会占用6G不到的显存：
Thu Feb  6 09:25:54 2025       +---------------------------------------------------------------------------------------+| NVIDIA-SMI 535.183.01             Driver Version: 535.183.01   CUDA Version: 12.2     ||-----------------------------------------+----------------------+----------------------+| GPU  Name                 Persistence-M | Bus-Id        Disp.A | Volatile Uncorr. ECC || Fan  Temp   Perf          Pwr:Usage/Cap |         Memory-Usage | GPU-Util  Compute M. ||                                         |                      |               MIG M. ||=========================================+======================+======================||   0  xxxxxxxxxxxxxxx                Off | 00000000:03:00.0  On |                  N/A || 30%   56C    P0              99W / 125W |   6800MiB /  8192MiB |     38%      Default ||                                         |                      |                  N/A |+-----------------------------------------+----------------------+----------------------+|   1  xxxxxxxxxxxxxxx                Off | 00000000:A6:00.0 Off |                  N/A || 30%   49C    P0              63W / 125W |   5716MiB /  8192MiB |     38%      Default ||                                         |                      |                  N/A |+-----------------------------------------+----------------------+----------------------+如果不配置显卡，用CPU似乎也是可以进行推理的，但是这里就不进行测试了。
总结概要

本文介绍了通过Ollama在Ubuntu Linux平台上部署DeepSeek本地大模型的方法，并且可以使用ChatBox调用本地Ollama API进行本地对话或者是远程对话。
版权声明

本文首发链接为：https://www.cnblogs.com/dechinphy/p/deepseek.html
作者ID：DechinPhy
更多原著文章：https://www.cnblogs.com/dechinphy/
请博主喝咖啡：https://www.cnblogs.com/dechinphy/gallery/image/379634.html
参考链接

• https://chatboxai.app/zh/help-center/connect-chatbox-remote-ollama-service-guide