摘要:大家好,笔者已经使用DeepSeek已经有一段时间了,总体使用感受是不错的,推理和计算的能力很强,但是,在使用过程中经常会遇到“服务器繁忙,请稍后再试”的问题,然后就是漫长的等待与重试的过程,让人很苦恼。
大家好,笔者已经使用DeepSeek已经有一段时间了,总体使用感受是不错的,推理和计算的能力很强,但是,在使用过程中经常会遇到“服务器繁忙,请稍后再试”的问题,然后就是漫长的等待与重试的过程,让人很苦恼。
好在有了Olama+Chatbox组合,可以有效解决“服务器繁忙,请稍后再试”的问题,Olama可以在本地部署DeepSeek-R1模型,Chatbox可以连接本地模型,方便在图形操作界面与AI交互对话。
下面一起学习DeepSeek如何实现在本地部署和应用,操作比较简单,仅需三步即可完成DeepSeek本地部署,实现过程如下:
安装Ollama下载DeepSeek模型安装和配置Chatbox先打开Ollama官网,官网的地址如下,点击Download下载。
这里我选择的操作系统是Windows 系统。
点击下载即可,但是从官网下载安装程序需要很久的时间,我已经提前将安装文件下载下来,「OllamaSetup.exe」链接:https://pan.quark.cn/s/ae595258a822,保存下载即可使用。
安装程序下载以后,双击下载的 OllamaSetup.exe 文件,开始安装。
点击Install开始安装,默认是安装到C盘里,需要提前预留C盘的空间。
如下是安装的过程,整个安装过程持续三分钟左右。
安装完成后,验证一下Ollama 有没有安装成功,在电脑上使用Win+R 键,输入cmd,点击确定。
在命令行里面输入如下的命令:ollama -v,当显示版本信息时,表明Ollama已经安装好了。
还是回到Ollama的官网主页,找到模型DeepSeek-R1,点击进去。
可选的DeepSeek-R1模型选项有1.5B、7B、8B、14B、32B、70B,这些数字代表模型的参数量,参数量越大,模型越复杂,需要更多的计算资源和内存,对于本地部署来说,参数量越大的模型对硬件的要求越高。
如果你不知道自己的笔记本配置可以适配哪个模型,可以用DeepSeek帮你解决,在系统设置里面找到自己的设备规格,截图即可,然后发给DeepSeek,输入下面的提示词。
图片所示是我的电脑配置,我想要安装DeepSeek-R1的模型,可选的模型有DeepSeek-R1-Distill-Qwen-1.5B、7B、8B、14B、32B、70B,请根据我的机型,推荐一个适合我的电脑配置安装的模型。
上面DeepSeek给我推荐的是1.5B的版本,所以我这里安装的是1.5B版本,以安装1.5B版本的模型为例,在电脑上按下 Win + R 键,输入 cmd,点击确定,输入以下命令下载所需版本的 DeepSeek 模型,并按回车执行:
ollama run deepseek-r1:1.5b等待一段时间直到下载和初始化完成,这个过程会比较慢,耐心等待。
当模型安装成功后,会显示success的字样,表明本地模型已经部署成功,不过这种方式仅在本地部署模型与模型交互,并没有联网查询的功能。
下面测试一下功能,输入“帮我设计一个上海周边一日游路线”,可以看到模型很快就得出了答案,不会出现服务器繁忙的情况。
DeepSeek本地部署完成,如果关闭命令行以后,你想再次对话的时候,还是在命令中输入下面的命令,就可以继续发送给命令进行对话。
上面的模型已经部署到了本地,并且可以正常应用,但是,在实际使用时界面不够美观,交互式不够强,可以利用第三方应用程序如 ChatBox 来增强用户体验,使其更加直观易用。
安装Chatbox AI可以打开如下的Chatbox AI官网,点击免费下载,下载好安装程序。
Chatbox AI的安装程序我已经提前下载好了,点击链接保存下载,「Chatbox-1.9.8-Setup.exe」
下载好应用程序后,双击即可安装,这里选择仅为我安装,点击下一步。
安装位置我这里选择了默认安装。
然后等待安装即可。
如下表明Chatbox AI已经安装好了,点击完成,运行Chatbox AI。
接下来,需要配置DeepSeek模型,打开Chatbox AI界面如下。
点击主页中设置选项,在模型提供方选择 Ollama API,API域名中填写http://localhost:11434,这是Ollama的默认端口,模型名称填写与部署的DeepSeek模型版本一致的名称,如deepseek-r1:1.5b。
然后还可以对话选项中设置用户名的头像,以及新对话的默认提示,点击保存即可。
以上,整体完成了在本地部署DeepSeek-R1模型,且搭配Chatbox AI客户端界面,整个安装过程都是很简单的,接下来就可以友好地在本地使用DeepSeek-R1模型,Chatbox AI客户端支持在DeepSeek网页中的所有功能,快来试试。
来源:大话数据分析