近段时间以来,"高中禁止补课"的浪潮席卷全国。有些家长嘴上说着支持减负,心里却难免要犯嘀咕,没了补习班,那孩子作业遇到难题怎么办?
全靠家长辅导?那别说微积分了,光是历史年份和化学周期表,都没准能把一些家长逼得哑口无言。
虽然我家孩子还小,不过可有不少同事遇到了这个问题,平时在单位聊天时也没少讨论。
作为10年NAS老玩家,家里NAS都有好几台,我自然而然想到了一个曲线救国的思路——
能否利用NAS在本地存储教辅资料,再配合顶尖大模型DeepSeek-R1-671B满血版的强悍推理能力,打造一台24小时在线的智能家教?
这样二者配合,就能同时解决NAS算力不够强,以及AI大模型容易出现幻觉的问题。就算比不上真人教师的辅导水平,但再怎么说也能帮忙做个查缺补漏、提炼思路的活儿不是?
于是乎最近仔细研究了一番,摸索出了这套AI教辅知识库的具体部署方案,今天就以我手头这台威联通(QNAP)TS-464C2为例,为大家演示详细的操作步骤:
一、Dify是什么?
这套本地AI知识库的部署思路,是以威联通NAS上安装的Dify为核心的。这款软件是目前特别火的开源 LLM 应用开发平台,目前在GitHub上已经有了8万多颗星:
Dify的主要特色是界面非常直观,并且功能很强,结合了AI工作流、RAG检索、Agent 智能体、模型管理等功能,无缝集成了几十家AI算力提供商的对接方式,可以轻松构建生成式AI应用,易用性极佳。
二、威联通NAS部署Dify详细流程
1.下载Dify代码包
Dify在NAS端的安装方式与普通的拉取方式不太一样,需要首先去GitHub页面中克隆代码库。
考虑到国内特有的网络环境,这里比较推荐大家直接用PC浏览器下载代码压缩包,然后解压缩进行后续操作。
如下图所示,进入Dify的代码界面后,直接点击绿色的“Code"按钮,然后选择Download ZIP即可将代码包下载到电脑上。
解压缩后如下图所示,我们直接进入docker文件夹进行后续操作。
2.修改环境变量
进入docker文件夹,我们需要将下图中的.env.example文件移除.example后缀,重新命名为.env,然后使用记事本或者NotePad++之类的软件将其打开。
这里我图省事儿,直接用记事本将其打开,接下来我们需要修改几个设置项。
首先搜索UPLOAD_FILE关键字,找到下图中的UPLOAD_FILE_SIZE_LIMIT和UPLOAD_FILE_BATCH_LIMIT参数。
UPLOAD_FILE_SIZE_LIMIT参数表示单次上传的文件大小,默认只有15MB,这里我们将其修改为1500,这样就很充裕了。
UPLOAD_FILE_BATCH_LIMIT参数表示单次可以批量上传的文件数量,默认为5个,这里大家根据自己需求选择即可,我是设置为50个。
接下来,搜索“BODY_SIZE"关键字,找到NGINX_CLIENT_MAX_BODY_SIZE参数,这是Dify允许上传保存的文件总大小,默认只有15MB,太小了,这里随手给它多加几个0即可:
接着,继续搜索“******_NGINX_PORT"关键字,下图红框圈出的两个参数,分别代表反向代理后,我们访问Dify的端口。
默认情况下,http的访问端口是80,https的访问端口是443,这俩端口都太敏感了,不建议使用,最好能根据个人需求修改掉。比如我自己就将二者分别修改为了8080和8443.
为了避免等会儿部署时候出现差错,这里最好在dify-main/docker/volumes中再手动创建一些文件夹,分别是:
1.db/data
2.redis/data
3.weaviate
4.app/storage
5.certbot/conf/live
6.certbot/www
3.威联通NAS部署Dify
将.env文件修改保存,并且新建几个文件夹后,接下来我们就将Dify代码库下的整个docker文件上传至NAS里,例如我就按照习惯将其上传到了威联通TS-464C2的Container文件夹中,并将其重新命名为dify。
由于Dify的部署过程会拉取至少8个docker映像,而现在国内是不方便正常访问docker hub的,所以最好提前在威联通的Container Station中提前设置一下docker镜像加速服务器(相关教程可以参考NAS领域大佬@羊刀仙的文章,讲解的非常详细):
然后在NAS的控制台——网络和文件服务——Telnet/SSH页面中,临时启用NAS的SSH功能:
接着,我们使用putty之类的SSH工具登录NAS的局域网IP地址,输入用户名和密码,再使用CD命令进入我们刚才上传的docker文件夹:
使用ls命令确认一下文件夹无误后,我们直接输入docker compose up -d命令,自动部署Dify。
在拉取好几个镜像之后,回到威联通的Container Station中,可以看到若干运行着的容器:
至此,不出意外的话,Dify已经在NAS上部署完成了,接下来咱们就来看看如何使用Dify利用本地资料,配合DeepSeek-R1的API搭建本地知识库。
三、如何使用Dify
还记得我们刚才在.env文件中配置的******_NGINX_PORT参数嘛?这就是我们用来访问Dify的端口了。
比如我将其设置为了8080,然后NAS的局域网地址是192.168.10.55,这时候就可以用下面的网址进入Dify:
http://192.168.10.55:8080
首次登录Dify时,会要求我们自行设定邮箱、用户名和密码,这也是之后我们进入管理页面的凭据。
首先咱们得点击右上角进入设置选项,来设置一下系统使用的AI模型。由于Dify集成了许多在线API服务预设,这就让我们的配置过程相当方便了。稍微往下拉一拉,我们在安装模型供应商这里,选择安装深度求索或者硅基流动。
如果大家只是用Dify进行AI模型对话的话,那使用深度求索官方的API服务效果最好。
不过由于我们在部署知识库的过程中还需要对上传的文件进行Embedding(嵌入)向量化处理,这个过程中不仅需要DeepSeek-R1,还需要专门的嵌入式模型,所以就使用了可以同时提供多个模型算力的硅基流动。
使用方式也很简单,将我们在硅基流动中生成的API粘贴到下图中的框里就可以了:
粘贴API后,就可以设置系统默认的模型了。推理模型我习惯用Pro开头付费版的DeepSeek-R1,要比免费版的效果好得多,然后Embedding(嵌入式)模型和Rerank(重排序)模型分别选了支持8K的BAAI/bge-m3和BAAI/bge-reranker-v2-m3。另外这里也不用看到付费俩字就担心,我充值至今1个多月了,没事儿就用DeepSeek聊天,到现在好像才花了六七块钱的Token。
接下来我们回到Dify主页面,点击上方中央的“知识库”按钮,开始搭建本地知识库。Dify的知识库来源可以是本地的TXT、PDF、DOCX等文件,也可以是在线网页的内容,这里我就以官方的电子版高中历史教材为例,批量上传5个文件。
点击“下一步”后,进入文本分段与清洗设置页,这里个人比较推荐选择高质量的索引方式:
再往下拉,建议使用效果更好的混合检索方式,最后点击保存:
静静等待上传的文件都完成检索后,就可以对其进行调用了。
使用知识库的方法也很简单,我们在Dify的主页首先选择新建一个智能助手:根据下图箭头的提示,添加刚才建立的知识库、确认推理模型是否正确,再点击发布更新:
然后在Dify主页左侧的工作区就能看到它了,接下来选择开启新对话,就能根据我们知识库中已有的数据,结合DeepSeek-R1强大的思考能力,来回答学习中的问题了:
这里简单尝试了一下,提问美国独立战争发生的背景和结果,回答得还是挺像样的:
其实Dify的功能还有很多很多,不过限于篇幅,本次就先简单介绍到这里了。大家用威联通NAS部署后,还能再多多自行摸索研究,真的能大大提高学习和工作的效率。
最后需要多说一句,使用Dify搭建知识库时要切记一点,Dify似乎并没有像RAGFLOW一样集成OCR功能,所以用来搭建知识库的数据最好原始就是文字版,或者通过OCR数据清洗后,以便AI模型能够正常调用。
所以如果是搭建教辅知识库的话,个人建议还是尽量去下载官方原版的电子文件,以中小学教材为例,包括配图中的文字都能够选择,数据质量极高,而且这些电子教材资源可以在一些公众号里获取下载链接,善用百度的话其实并不难找。
总结
目前在传统NAS领域,基本上就是威联通和群晖这两家台企大厂在左右互搏,华硕(爱速特)虽然也算台系NAS御三家之一,不过市占率还是照着两位大哥差了一些。
相较而言,群晖是老牌大厂,由于黑群晖培养了大批随时可能转正的潜在用户群,所以即便价格昂贵,但是市占率还是更高。不过群晖的问题在于硬件配置方面一直挤牙膏,在2025年的新机还在使用J4125处理器,这你敢信?颇有种让人哭笑不得的感觉。
而威联通在性价比方面则明显更胜一筹,同配置、性能下,威联通的机型往往能比群晖便宜几百上千元。虽然QTS系统的操作确实略有些繁复,但该有的专业功能都能提供,习惯了之后也没啥不好的。
像我这台威联通TS-464C2,采用了Intel N5095 四核四线程处理器+8GB内存的配置,4+2盘位的足够家庭和小工作室使用,相较前代产品还升级了可扩展内存插槽和锁止硬盘位,售价只有2000元出头,算是性价比相当相当高了,日常要推荐一波。
而具体到AI时代的应用来说,个人感觉NAS这种设备一般要7x24h运行,用来配合各种AI大模型搭建随时待命的智能服务,是最适合不过了。
就比如今天为大家分享这套方案,通过NAS本地大容量存储功能特性,配合在线的AI大模型API运算力,就是非常典型的优势互补案例,同时调用算力的成本基本也是白菜价。
而且我们放宽思路,利用NAS,不仅仅可以用来辅导孩子学习,还可以搭建烹饪、养生、甚至工作资料等等各种知识库,这些都能大大提高我们的生活质量和工作效率,应用场景是真的广阔。
更多游戏资讯请关注:电玩帮游戏资讯专区
电玩帮图文攻略 www.vgover.com