最近想在新安装的飞牛nas上搭建自己的大模型聊天工具和知识库,由于飞牛自带docker环境,而window安装docker比较麻烦,主要是硬件虚拟化不支持,只能在飞牛上搭建。还有飞牛里存储空间大,搭建知识库再适合不过了。

第一要安装dify,这是一个开源的LLM(大语言模型)应用开发平台,开源代码地址是:
https://github.com/langgenius/dify
以管理员身份登录飞牛linux后台,通过ssh工具连接

下载dify
git clone https://github.com/langgenius/dify
设置dify
由于我宿主机80和443端口部署了其他应用,所以变更默认端口,避免冲突。
需要修改dify目录下的docker/.env 文件

改成自己想要的端口:
# ------------------------------
# Docker Compose Service Expose Host Port Configurations
# ------------------------------
EXPOSE_NGINX_PORT=3800
EXPOSE_NGINX_SSL_PORT=1443修改docker 源:
root@lijian-nas:/home/admin/dify/docker# vi /etc/docker/daemon.json
{
"registry-mirrors":[
"https://dockerpull.pw",
"https://dockerhub.icu",
"https://hub.rat.dev",
"https://register.librax.org",
"https://docker-0.unsee.tech",
"https://docker-cf.registry.cyou",
"https://docker.1panel.live"
],
"dns" : [
"8.8.8.8",
"114.114.114.114"
]
}推荐使用梯子 ,没有梯子使用修改为代理镜像修改docker-compose内镜像地址前缀增加dockerpull.pw
services:
# API service
api:
image: dockerpull.pw/langgenius/dify-api:0.15.3这样修改后就能顺利下载了。
运行dify
docker-compose up -d
docker 会先下载,再启动。
再通过
http://192.168.10.92:3800/install在线安装