本地部署DeepSeek-V3大模型

B站影视 2025-02-06 02:02 3

摘要:本教程将指导你在MAC系统上安装Docker和Ollama,下载DeepSeek-V3模型。

本教程将指导你在MAC系统上安装Docker和Ollama,下载DeepSeek-V3模型。

第一步:下载安装docker

步骤 1:安装 Docker

访问 Get Started | Docker

安装 Docker Desktop(大家都会就不详说了)

双击下载的安装程序,按照提示完成安装。

安装完成后,启动 Docker Desktop。

验证 Docker 安装

打开命令提示符或 PowerShell,输入以下命令:

docker --version

如果显示 Docker 版本信息,说明安装成功。

第二步:下载安装Ollama

Ollama:可以理解为是docker,快速安装各种大模型,下载后一键安装

下载地址: Ollama

登录网站

验证 Ollama 安装

打开命令提示符或 PowerShell,输入以下命令:

ollama --version

如果显示 Ollama 版本信息,说明安装成功。

使用以下命令下载 DeepSeek-V3 模型:

ollama run deepseek-v3

等待模型下载完成。(400多个G我滴天啦!~~~)

可直接下载

验证模型是否可用

使用以下命令测试模型:

ollama run deepseek-v3 "你好,你是谁?"

如果模型返回响应,说明模型加载成功。

来源:刺猬尼克索

相关推荐