$ ollama run deepseek-r1:14b
  are you?
think

/think

Greetings Im at your  and would be delighted to assist you with any
inquiries or tasks you may have.

 今天是几月几号？
think
今天是几月几号？

/think

您好，建议您联网获取时效性较强的信息；如果还有其他问题需要帮助，请随时告诉我！

 你支持联网获取信息吗？
think
嗯，用户问我是否支持联网获取信息。让我仔细想想。

首先，回顾一下对话历史，用户之前问了我是谁，我介绍了自己是DeepSeek-R1。接着他问今天
是几月几号，我解释说无法提供时效性信息，并建议他联网。现在他进一步确认我是否支持联网
。

这可能意味着他对我的功能有更深的了解需求。也许他想测试我的能力或者想知道我能做什么。
需要明确告诉他我不具备联网的能力，但可以处理其他问题。

同时，我要确保语气友好，让他知道尽管不能联网，但我会尽力帮助他解决其他问题。这样他可
能会继续提出其他请求。
/think

目前我无法联网获取实时信息或最新的互联网内容。如果您有任何问题或需要帮助，请告诉我，
我会尽力为您解答！

 你能读取本地文件信息吗？
think
今天用户问我是否能读取本地文件信息。

回顾之前的对话，用户之前询问了日期和联网功能，现在继续测试我的功能边界。可能他想了解
我能做什么，以便判断如何与我交互。

明确告诉他无法访问本地文件，这样他就能知道数据来源仅限于已知的信息库。同时，保持友好
态度，邀请他提出其他问题。

这样有助于用户明确我的能力，避免后续的混淆或失望。
</think>

很抱歉，目前我还不支持读取本地文件信息或上传文件的功能。如果您有任何其他问题，请随时
告诉我！

中英文都可以输入。

安装Chatbox

Chatbox是一个对话工具，可以导入各种大模型平台的API，或者本地部署模型的API也都是可以的，其主页地址为：
https://www.chatboxai.app/zh，可以在这里下载对应于自己本地操作系统的桌面应用。如果是Windows系统，下载之后是一个安装工具，按照提示进行安装即可。如果是Linux平台，下载下来是一个APPImage的文件，其实就是一个可执行文件，免安装的，但是下载之后需要手动配置一个可执行的选项：

安装好Chatbox之后，打开就可以配置本地ollama API下的deepseek模型了：

然后就可以启动对话：

还可以解析一些静态网页，例如我的上一篇博客，把这个链接丢进去，是可以被解析的。但是如果是一个有递归目录的，或者是有JS的网页，可能就解析不了。

至于其他格式的文件，还有待考察。

远程部署

假如我们在远程的电脑上部署了一个ollama+deepseek，想在本地电脑用chatbox调用远程ollama的API，这个也是支持的，但是要在远程电脑上进行相应的配置。先暂停ollama服务：

$ sudo systemctl stop ollama

修改配置文件：

$ sudo vi /etc/systemd/system/ollama.service

在配置文件的[Service]下加上这么两句：

Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_ORIGINS=*"

然后保存退出，重新加载ollama服务：

$ systemctl daemon-reload
$ systemctl restart ollama

然后就可以在本地配置一个远程的ip地址和相应端口进行访问了。

资源占用

DeepSeek的一大优势就是对于资源的消耗没有那么高，就算是这个14b的模型，在两张显卡上面运行也没有什么压力，每张卡大概会占用6G不到的显存：

Thu Feb  6 09:25:54 2025       
+---------------------------------------------------------------------------------------+
| NVIDIA-SMI 535.183.01             Driver Version: 535.183.01   CUDA Version: 12.2     |
|-----------------------------------------+----------------------+----------------------+
| GPU  Name                 Persistence-M | Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp   Perf          Pwr:Usage/Cap |         Memory-Usage | GPU-Util  Compute M. |
|                                         |                      |               MIG M. |
|=========================================+======================+======================|
|   0  xxxxxxxxxxxxxxx                Off | 00000000:03:00.0  On |                  N/A |
| 30%   56C    P0              99W / 125W |   6800MiB /  8192MiB |     38%      Default |
|                                         |                      |                  N/A |
+-----------------------------------------+----------------------+----------------------+
|   1  xxxxxxxxxxxxxxx                Off | 00000000:A6:00.0 Off |                  N/A |
| 30%   49C    P0              63W / 125W |   5716MiB /  8192MiB |     38%      Default |
|                                         |                      |                  N/A |
+-----------------------------------------+----------------------+----------------------+

如果不配置显卡，用CPU似乎也是可以进行推理的，但是这里就不进行测试了。

总结概要

本文介绍了通过Ollama在Ubuntu Linux平台上部署DeepSeek本地大模型的方法，并且可以使用ChatBox调用本地Ollama API进行本地对话。