相信大家最近在使用deepseek的时候,经常会遇到这种服务器繁忙无法回答的情况。要想解决这个问题,除了不断刷新重试外,你还可以把它部署到你的本地电脑中,这样就算是电脑没联网也可以放心使用了!
安装步骤
Ollama: 在本地运行 Mistral、Llama 3.3、DeepSeek R1 等大语言模型的开源工具
官网地址 https://ollama.com/
主要优势:
一行命令搞定大模型部署
完全本地运行,保护隐私
支持 Mac、Windows、Linux 系统,快速上手
响应速度快,支持GPU加速(GPU英文全称Graphic Processing Unit,中文翻译为“图形处理器”。我们通常就叫它显卡)
点击download,进入下载页,有3个版本:Mac,Linux,Windows版本。为方便大众使用,本教程只讲述:Windows版本本地化安装和部署。
注意:电脑系统版本要求windiws10已以上
1、下载到本地
出现上面的页面别慌,请移步百度云盘解锁。链接:
https://pan.baidu.com/s/1rK-uGiabslL2E93iceR_1g?pwd=yyds 提取码: yyds
2、双击运行 OllamaSetup.exe
3、点击 install,安装需要一定时间
注意:默认安装在C盘,如果想运行模型在其它磁盘,建议通过软链接方式同步到其它磁盘。相应的我们将对应的Ollama运行主程序,大模型运行,日志文件放到指定磁盘.
4、验证安装是否成功
快捷键 Windows+R , 打开cmd命令窗口,输入
C:Usersadmin>ollama -v
ollama version is 0.5.7
出现版本号,即为安装成功
1、选择模型
2、参数说明
在 AI 模型(如 DeepSeek-R1)中,参数数量(例如 1.5b、7b、14b 等)是指模型中可训练的参数总数。这些参数是模型通过学习数据来调整的权重,用于捕捉数据中的模式和规律。参数数量通常用来衡量模型的规模和复杂度:
1.5b:15 亿个参数。
7b:70 亿个参数。
14b:140 亿个参数。
32b:320 亿个参数。
70b:700 亿个参数。
671b:6710 亿个参数。
...
一般来说,参数数量越多,模型的表达能力越强,能够处理更复杂的任务,但同时也会对硬件资源(如 GPU 内存、计算能力)要求更高。
3、模型和硬件参数对应关系参考
2025年最火AI大模型DeepSeek资源资料汇总」:
https://pan.quark.cn/s/c20959f9118b