type
status
date
slug
summary
tags
category
icon
password
📝 DeepSeek+Dify本地部署知识库
内容来自知乎有气质的王，关注原创，珍惜优秀作者~（博文仅供个人学习交流，若有相关侵权，请联系我，立即删除）
一、windows11系统环境变量设置
右击“我的电脑”—“属性”—选择“高级系统设置”—选择“环境变量”，新建“变量名”：OLLAMA_MODELS，“变量值”例如D盘或E盘下新建文件夹Ollama3：E:\Ai\Ollama3，最后“确定”完成环境变量设置并重启系统
高级系统设置
环境变量
新建环境变量
二、下载Ollama软件
Ollama：https://ollama.com
双击打开“OllamaSetup.exe”点击“Install”，软件自动安装完成。
三、DeepSeek大模型本地部署
打开网站：https://ollama.com/search 点击“deepseek-r1”根据自已电脑配置来选择模型，例如：选择“8B”，再选择复制“ollama run deepseek-r1:8b”
然后再按键盘“win+R”键打开—”运行”窗口输入”cmd”出现命令行窗口
然后粘贴“ollama run deepseek-r1:8b”置于命令行中按键盘“回车”拉取大模型
大模型拉取完成，测试大模型，测试没问题退出模型按键盘“Ctrl+C”再按“Ctrl+D”
再继续拉取“embedding”模型—”bge-m3”，打开网址：
https://ollama.com/library/bge-m3 点击复制“ollama pull bge-m3”置于命令行中按键盘“回车”拉取模型完成
最后在命令行中用”ollama list”命令检查模型是否下载成功，至此本地deepseek大模型部署完成，关闭命令行窗口。
四、下载docker软件
打开网址：https://www.docker.com/ 点击Download Docker Desktop选择“Download for Windows - AMD64”下载
双击”Docker Desktop Installer.exe”自动安装完成，打开“Docker Desktop”软件然后配置镜像地址，点击”Settings”—“Resources”—”Advanced”先配置镜像存储位置Disk image location例如存储路径：“D:\Docker\DockerDesktopWSL”
再点击“Docker Engine”配置如下：
复制以下代码覆盖即可：
{
"builder": {
"gc": {
"defaultKeepStorage": "20GB",
"enabled": true
}
},
"experimental": false,
"registry-mirrors": [
]
}
最后点击“Apply&restart”应用完成配置退出重启软件。
五、下载Dify开源应用平台
打开网址：
https://github.com/langgenius/dify/archive/refs/heads/main.zip 下载Dify至D盘或E盘下解压并命名为“dify”
打开”dify”文件夹下的”docker”文件夹，将“.env.example”文件命名为“.env”文件，点击”是”—右击选择“在记事本中编辑”打开“.env”文件
将滚动条拉至最后换一空行，复制以下代码粘贴至最后“Ctrl+S”保存关闭即可：
# 启用自定义模型
CUSTOM_MODEL_ENABLED=true
# 指定 Ollama 的 API 地址（根据部署环境调整 IP）
OLLAMA_API_BASE_URL=host.docker.internal:11434
然后在“docker”文件夹下的空白处右击”在终端中打开”会弹出“windows powershell”窗口，在命令行中键入“docker compose up -d”拉取镜像依赖环境
最后所有镜像依赖环境拉取完成并关闭窗口。
六、运行并配置Dify开源应用平台
打开本地网址：http://127.0.0.1/install 能看到此界面表示“Dify”配置并运行成功，现设置管理员账户
设置并登录进入如下网页窗口
点击右侧账户“设置”
进入“设置”窗口，选择“模型供应商”找到“Ollama”点击“添加模型”
使用“ollama list”命令查看本地部署的模型名称，按键盘“Win+R”键弹出运行窗口输入“cmd”回车，进入命令行窗口，在命令行中输入“ollama list”查看模型名称，如下图示：
再按下图所示填写“LLM”—“模型名称”、“基础URL”、“模型类型”其他保持默认，点击“保存”
继续选择“Ollama”—“添加模型”选择“Text Embedding”按如下图示填写，最后点击“保存”完成模型配置
回到dify主界面，选择“聊天助手”—“创建空白应用”，点击“聊天助手”在“应用名称&图标”中填写“应用名称”，点击“创建”如图所示：
再选择“知识库”—“创建知识库”—选择数据源“导入已有文本”—上传文本文件“选择文件”—点击“下一步”
选择分段设置“通用”—索引方式“高质量”—检索设置“向量检索”点击“保存并处理”，最后等待知识库创建完成
知识库创建完成，然后再点击“工作室”进入“xx助手”—上下文“添加”—选择引用知识库点击“添加”
此时，就可以和创建的助手对话啦！
- 作者:poze624
- 链接:https://poze624.top/ai/20250208132151
- 声明:本文采用 CC BY-NC-SA 4.0 许可协议，转载请注明出处。
