免 Docker 在本地部署 DeepSeek-R1
时间:02-18来源:作者:点击数:8
城东书院 www.cdsy.xyz
[前言]
目前网络上大部分教程都需要借助 Docker,对于只是想在本地部署体验的人来说太过复杂,因此本篇文章给大家介绍一种简单直接的方案
一、安装 Ollama
点击右侧链接进入官网,下载对应操作系统的版本安装即可 https://ollama.com/download
二、安装 Web UI 控制端
简而言之就是安装一个浏览器插件,使我们可以用可视化界面而不是在命令行终端里与 DeepSeek 对话
- 原版下载地址(需外网):https://chromewebstore.google.com/detail/page-assist-%E6%9C%AC%E5%9C%B0-ai-%E6%A8%A1%E5%9E%8B%E7%9A%84-web/jfgfiigpkhlkbnfnbobbkinehhfdhndo
- 国内镜像下载:https://www.crxsoso.com/webstore/detail/jfgfiigpkhlkbnfnbobbkinehhfdhndo
三、安装 DeepSeek 模型
安装方法: 在任意位置打开终端,选择以下某个参数的模型,复制代码到终端里执行即可
注意: 选择的模型大小最好不要超过电脑内存+显存(专用 GPU 显存)的总和
更多大语言模型详见:https://ollama.com/search
- DeepSeek-R1 1.5B(1.1GB)
ollama run deepseek-r1:1.5b
- DeepSeek-R1 7B(4.7GB)
ollama run deepseek-r1:7b
- DeepSeek-R1 8B(4.9GB)
ollama run deepseek-r1:8b
- DeepSeek-R1 14B(9.0GB)
ollama run deepseek-r1:14b
- DeepSeek-R1 32B(20GB)
ollama run deepseek-r1:32b
- DeepSeek-R1 70B(43GB)
ollama run deepseek-r1:70b
- DeepSeek-R1 671B(404GB)
ollama run deepseek-r1:671b
四、运行 DeepSeek 模型
- 打开 Ollama(若桌面没有快捷方式,可前往开始菜单打开)。成功打开后没有界面,但是在任务栏右下角会有 Ollama 的图标
- 打开浏览器,在右上角插件栏(可能是隐藏状态,需要到浏览器设置里打开)单击刚刚安装的插件。经常访问的话可将其固定在插件栏上,Edge 浏览器是“在工具栏中显示”,其他浏览器大同小异
- 在页面上方选择模型,也可进入右上角设置里更改。语言选项也在设置里,可改成“简体中文”
- 开始对话
城东书院 www.cdsy.xyz