2025年3月19日 星期三 甲辰(龙)年 月十八 设为首页 加入收藏
rss
您当前的位置:首页 > 计算机 > 编程开发 > 人工智能

免 Docker 在本地部署 DeepSeek-R1

时间:02-18来源:作者:点击数:8
城东书院 www.cdsy.xyz

[前言]

目前网络上大部分教程都需要借助 Docker,对于只是想在本地部署体验的人来说太过复杂,因此本篇文章给大家介绍一种简单直接的方案

一、安装 Ollama

点击右侧链接进入官网,下载对应操作系统的版本安装即可 https://ollama.com/download

二、安装 Web UI 控制端

简而言之就是安装一个浏览器插件,使我们可以用可视化界面而不是在命令行终端里与 DeepSeek 对话

  • 原版下载地址(需外网):https://chromewebstore.google.com/detail/page-assist-%E6%9C%AC%E5%9C%B0-ai-%E6%A8%A1%E5%9E%8B%E7%9A%84-web/jfgfiigpkhlkbnfnbobbkinehhfdhndo
  • 国内镜像下载:https://www.crxsoso.com/webstore/detail/jfgfiigpkhlkbnfnbobbkinehhfdhndo

三、安装 DeepSeek 模型

安装方法: 在任意位置打开终端,选择以下某个参数的模型,复制代码到终端里执行即可

注意: 选择的模型大小最好不要超过电脑内存+显存(专用 GPU 显存)的总和

更多大语言模型详见:https://ollama.com/search

  • DeepSeek-R1 1.5B(1.1GB)
    ollama run deepseek-r1:1.5b
  • DeepSeek-R1 7B(4.7GB)
    ollama run deepseek-r1:7b
  • DeepSeek-R1 8B(4.9GB)
    ollama run deepseek-r1:8b
  • DeepSeek-R1 14B(9.0GB)
    ollama run deepseek-r1:14b
  • DeepSeek-R1 32B(20GB)
    ollama run deepseek-r1:32b
  • DeepSeek-R1 70B(43GB)
    ollama run deepseek-r1:70b
  • DeepSeek-R1 671B(404GB)
    ollama run deepseek-r1:671b

四、运行 DeepSeek 模型

  1. 打开 Ollama(若桌面没有快捷方式,可前往开始菜单打开)。成功打开后没有界面,但是在任务栏右下角会有 Ollama 的图标
  2. 打开浏览器,在右上角插件栏(可能是隐藏状态,需要到浏览器设置里打开)单击刚刚安装的插件。经常访问的话可将其固定在插件栏上,Edge 浏览器是“在工具栏中显示”,其他浏览器大同小异
  3. 在页面上方选择模型,也可进入右上角设置里更改。语言选项也在设置里,可改成“简体中文”
  4. 开始对话
城东书院 www.cdsy.xyz
方便获取更多学习、工作、生活信息请关注本站微信公众号城东书院 微信服务号城东书院 微信订阅号
推荐内容
相关内容
栏目更新
栏目热门
本栏推荐