之前曾经发布过一篇有关知识库推荐的相关内容。有人问我哪些是必须要搭建服务器，并且还能够让团队一同使用的情况。实际上比如Obsidian、AnythingLLM桌面版这类软件自己使用一下还可以，要是想要给团队进行分享、对外提供服务的话，那么还是得把它们部署到服务器上面才可以。
部署的难度我同样也进行了标注，存在有那种从一键就可以启动的情况，也存在有需要专门去进行运维的情况，你就依据自己团队的规模来进行选择就是。
服务器推荐
阿里云9全场9折优惠，2核2g 99计划 99元每年，续费同价，快来薅
https://link.aitq.net/RcgjvF
一、全能型LLM应用平台
这类平台具备着极为全面的功能，知识库仅仅是它其中的一部分内容罢了。它还拥有工作流、Agent、模型管理、API发布这类的功能。是比较适合很多想要去搭建一套完整的AI基础设施的团队。
1. Dify
GitHub：https://github.com/langgenius/dify
Star：90k+
部署难度：中等（Docker Compose，推荐配置4核8G以上）
当下最为流行的开源大语言模型平台，功能确实是相当的齐全。该平台的知识库能够对PDF、Word、PPT、Excel、网页、Notion、飞书文档这类格式予以支持，差不多常见的格式都可以直接进行导入。分块的策略是呈现出可视化的状态，你可以看到文档被切割成什么模样，要是某一块划分得不合适，就手动去进行调整就可以了。
Dify并不仅仅只能够开展知识库方面的问答工作。Dify同时还可以进行工作流的编排操作。Dify同样也能够去打造Agent。Dify还可以实施提示词的管理事宜。Dify可以进行日志的审计工作。Dify还能够进行API的发布。你搭建起来一个Dify，团队运用这一整套来开展内部的问答工作，来打造客服机器人，来打造AI助手等都是可行的。
支持多个使用者来进行使用，具备权限管理这样的功能。在团队之中不同的部门可以构建起各自所属的知识库，相互之间互不产生影响。官方所提供的Docker Compose能够进行一键式的部署操作。在社区里面还有Sealos、1Panel的一键安装的包。依照文档来进行操作，半个小时就可以让它运行起来。
2. RAGFlow
GitHub：https://github.com/infiniflow/ragflow
Star：40k+
部署难度：中等（Docker Compose，需要至少8G内存，推荐16G）
和Dify相对比，RAGFlow在文档解析这一块下的功夫更为深入。对于扫描版的PDF、复杂的表格、图片当中的文字，还有合同里的印章以及手写签名这些方面，它的OCR以及版面分析能力相较于别的开源RAG框架来讲是更厉害的。
在护网以及HW场景当中，经常会接收到各种格式的报告。客户所发来的有可能是扫描件、截图，甚至于手机拍摄的照片这类比较脏的数据。RAGFlow对于处理这类脏数据那是最为擅长的。它具备有人工标注这样一个功能，在AI进行完分块之后，你可以去检查一遍，标对或者标错都是能够进行修改的，它适用于对准确率有着较高要求的场景。
问答对模式还是挺实用的。你可以直接投喂标准的问题以及对应的答案。如此一来特定的问题就不会被RAG胡乱编造。它存在的缺陷就是比Dify要重些，会比较吃内存。服务器的配置可不能太低。
3. FastGPT
GitHub：https://github.com/labring/FastGPT
Star：23k+
部署难度：简单（Docker Compose，Sealos一键部署）
国内某个团队所研发的这个物件，其中文方面的支持以及国内生态方面的集成相较于国外的项目而言更为强大。它最为明显的特点就是引用溯源，在回答问题的时候会把原文的段落标注出来，你点击一下就可以看到人工智能是从哪一段话语中得出的结论，这样到底有没有胡编乱造就非常明晰了。
工作流程之中可以串联起多个知识库。举个例子来讲，你将漏洞库、工具手册、应急响应流程构建成三个相互独立的库。当问漏洞相关内容的时候就自动到漏洞库中去查找，问WAF配置的时候就前往工具库，不会把答案给混淆在一起。
存在现成的插件能够去对接飞书、企业微信以及微信公众号。当把知识库做好之后直接就能够把它发布成为飞书机器人。团队在群里边@一下就可以进行提问，不需要另外去记录网址。在 Sealos 上面点一下就完成部署。这对于很多不想去折腾 Docker 的人来说是很友好的。
4. Bisheng 毕升
GitHub：https://github.com/dataelement/bisheng
Star：10k+
部署难度：中等（Docker Compose）
国内存在着数据要素公司开源了一个平台。此平台的定位是企业级LLM应用平台。它和Dify相比较，在知识库这一方面有着更多的企业级特性。例如细粒度的权限控制，像是谁能够查看哪个库、谁能够进行编辑；还有审核的流程，问答的内容得经过审核才可以发布；另外还有知识库的版本管理以及操作审计的日志。
对于那一些对于数据安全以及合规要求比较高的团队是适用的。像国企、金融行业、大型企业的安全部门就属于这一类的情况。它还支持国产的模型以及国产的算力，在信创的环境之下也能够进行使用。
5. Coze Studio 扣子开源版
GitHub：https://github.com/coze-dev/coze-studio
Star：15k+
部署难度：中等（Docker Compose）
字节已经把Coze的核心功能进行了开源。其中包含有工作流的编排功能。同时还有插件生态的功能。Bot的发布功能也是有的。知识库支持直接从飞书文档进行抓取，还支持从Notion进行抓取，也支持从网页进行抓取。
最大的那个优势就在于发布的渠道方面。所制作出来的Bot能够直接发送到飞书、抖音、微信、微信公众号这类的平台当中。要是你们公司主要是使用飞书来进行办公的话，那么Coze制作出来的机器人的体验就会比其他的平台要好一些，这是因为它是字节自己家的东西。
6. Flowise
GitHub：https://github.com/FlowiseAI/Flowise
Star：38k+
部署难度：简单（Docker，低配置也能跑）
Flowise是一款能够进行拖放操作的LLM工作流搭建工具，它是依托于LangChAIn的。知识库属于它的核心组件当中的一个，可视化的程度那可是相当高的。你拖拽那么几个组件然后把它们给连接上线，就能够拼凑出一个RAG流程，从加载文档、进行分块、做embedding到问答整个过程那都是可视化的。
适合于那一些有想要对RAG流程进行自定义需求的人群。打个比方要是你需要对安全报告进行特殊的处理，把代码块给单独地提取出来，把POC还有CVE编号单独地拿去当作索引来使用，用Flowise去拼凑出一套自定义的流程要比去修改别人的源码更加的方便。它是具备有API的，能够嵌入到自己的系统之中 。
二、专注知识库问答
这几个（家伙）不搞那平台那一套的做法，就死磕知识库问答这单单一个事情。功能没有前面很多那么的齐全完备，可是更加的轻便、更加的专注，部署起来简单易行，占据的资源还少。
7. MaxKB
GitHub：https://github.com/1Panel-dev/MaxKB
Star：15k+
部署难度：非常简单（1Panel一键安装，或者Docker）
这是由1Panel团队所打造的。倘若你服务器上已经正在使用1Panel管理面板，直接在应用商店里点击一下就能够安装好了。功能就是知识库问答，没有很多乱七八糟的其他东西，界面相当简洁，学习起来的成本并不高。
支持直接与飞书、钉钉、企业微信进行对接来弄群机器人，打开就可以使用。要是小团队或者个人想要快点搭建内部问答，并且又不想去研究复杂的配置的话，那么MaxKB就是最为省心的一个选择。
8. QAnything 网易有道
GitHub：https://github.com/netease-youdao/QAnything
Star：10k+
部署难度：简单（官方提供一键启动脚本，支持Windows/Linux/Mac服务器）
网易有道存在着开源的相关事物。它着重于能够离线使用、中文方面表现良好。它的核心的优势之处在于自身所研发的embedding模型以及RAG策略。它的中文问答的准确率相较于众多通用框架而言是要高一些的，特别是在对于长文档、多轮对话的支持这一方面。
支持PDF格式、Word格式、Excel格式、PPT格式、图片格式以及音频格式。甚至于还可以直接对音频文件进行处理，自动地将音频转化为文字然后进行问答。在安全的场景状况之下，比如说你存在着大量的会议录音、培训录音，QAnything能够直接予以接收，不需要你事先把它转化为文字。
在项目之中已经事先安装好了模型，不需要你再另外去进行模型的下载操作。启动脚本一旦运行就可以使用。这个情况比较适合用来进行快速的验证，又或者是针对中文效果有着比较高要求的场景当中。
9. LangChAIn-Chatchat（原ChatGLM）
GitHub：https://github.com/chatchat-space/Langchain-Chatchat
Star：35k+
部署难度：中等（Docker或者源码部署）
国内最早开展 RAG 项目当中的其中一个，它的先前的身体是 LangchAIn - ChatGLM。有很多人第一次去搭建本地知识库所采用的就是这一个。它对于开源模型的支持是很不错的。几乎全部主流的开源大模型、embedding 模型都能够进行连接，像是 Qwen、Llama 还有 ChatGLM 都可以（行）。
它的RAG实现是比较透明的。要是你想要去更改检索策略、更改prompt、更改重排序逻辑等等，那都是挺方便的。比较适合很多想要去学习RAG原理或者进行二次开发的团队。社区还是相当大的，中文文档也是很齐全的，碰到问题在网络上搜一搜基本就能够找到答案。
10. AnythingLLM（服务器版）
GitHub：https://github.com/Mintplex-Labs/anything-llm
Star：35k+
部署难度：非常简单（Docker一键启动）
有很多人仅仅知道AnythingLLM存在桌面版本，而实际上它也是可以进行服务器部署的，像多用户管理这类以及权限控制这类企业方面的功能它都是具备的。和桌面版本相比较而言，服务器版本支持好几个用户一同使用，管理员能够对所有用户以及知识库等进行管理。
它的优势在于所能够支持的大语言模型的提供商数量是最为众多的。几乎你所能想到的模型它都可以接入进去。比如Ollama本地模型、OpenAI、Anthropic、Azure、AWS Bedrock等等都能够进行接入。界面还算是比较好看，用户体验方面也做的还不错。非技术方面的人员使用起来也不会觉得很吃力。
11. Quivr
GitHub：https://github.com/QuivrHQ/quivr
Star：45k+
部署难度：简单（Docker）
它的定位是开源的第二大脑。文件类型支持极为宽泛。不单单是普通文档，音频、视频、代码仓库、GitHub链接等都可以被导入进去。安全研究人员常常需要去分析恶意样本、阅读开源工具代码，Quivr能够直接把整个Git仓库给克隆进去进行分析。
可以支持多个用户进行使用。还可以创建工作区并且把它分享给团队。存在Premium云服务，并且开源自托管版本的功能并没有被大幅度地进行削减。
12. Open WebUI
GitHub：https://github.com/open-webui/open-webui
Star：60k+
部署难度：非常简单（Docker一条命令启动）
有不少人将它视作Ollama的前端界面。但是它的RAG知识库功能还是挺完备的。在聊天界面的侧边栏存在文档管理这一情况，能够把文件拖进去来构建知识库，也可以把网址直接收藏到知识库当中。
要是你已经在服务器之上运行了Ollama，安装一个Open WebUI就可以顺带着拥有知识库的功能，不需要另外去搭建别的服务。它支持多用户、OAuth登录，还可以接入企业SSO，小团队在内部使用是完全足够的。
三、网安/威胁情报专用知识库
这几个并非是那种普适性的通用知识库。它们是专门为安全领域所打造的。其中预先设置了安全数据模型。这些模型是用于开展威胁情报相关工作，用于构建安全知识库，以及用于进行漏洞管理等等方面的。
13. OpenCTI
GitHub：https://github.com/OpenCTI-Platform/opencti
Star：7k+
部署难度：偏难（Docker Compose，依赖多个服务：Elasticsearch、Redis、RabbitMQ、MinIO）
开源的威胁情报平台，它的本质是结构化的网络威胁知识图谱。它并非仅仅是对文档进行存储而已。它将 APT组织、恶意软件、漏洞、攻击技术、IP、域名、哈希这类 IOC、受害者所属行业、攻击发生的时间等等都相互关联起来，从而构建成一张关系的网络。
当你查找到一个恶意的IP的时候，OpenCTI能够顺着关系去找出：此IP归属于哪一个僵尸网络，它和哪个APT相关联，使用过哪些恶意的样本，对哪些行业进行过攻击，采用了哪些MITRE ATT&CK技术，还有应该如何去检测以及阻断。一般的RAG知识库可不存在这般的关联分析的能力。
默认情况下会同步MITRE ATT&CK、CVE、CWE这些数据库。并且还可以和MISP、TheHive、Splunk、Elastic这类安全工具进行对接。对于做SOC、威胁情报、态势感知的团队而言，应该安装上这么一个东西。这可是属于基础设施级别的物件。
14. MISP（Malware Information Sharing Platform）
GitHub：https://github.com/MISP/MISP
Star：5k+
部署难度：偏难（传统LAMP栈，需要配置不少东西）
存在一个老牌的威胁情报共享平台。在全球范围之内有好几千个CERT、安全厂商、企业都在使用它。它自身本身就是一个极为巨大的结构化的威胁情报库。它支持IOC的共享、恶意样本的分析、威胁事件的关联、自动同步情报feeds（这里feeds拼写如果是正确的应该保留，若有误需修正，但按要求保留核心牺牲精炼等，先按原文）。
MISP具备着完整的REST API这样的一个情况。你是可以把RAG系统连接到MISP之上的。在AI对可疑文件、域名、IP进行分析之后，先去MISP当中查询是否存在已知的情报信息，之后再结合大模型来进行分析。这样子的准确率会比单纯依靠AI来进行判断要高上很多。MISP里面的情报是经过安全人员验证过的，不会像AI那样出现幻觉去瞎编乱造相关的情况。
MISP可以和OpenCTI进行联动。MISP主要所做的事情是情报的收集以及共享这一方面的事宜，OpenCTI主要负责的是知识图谱以及可视化这一块的内容，把它们二者一起运用起来的效果是最为良好的。
15. TheHive
GitHub：https://github.com/TheHive-Project/TheHive
Star：4k+
部署难度：中等（Docker Compose）
TheHive是开源的安全事件响应平台。并且它还是一个挺好的安全案例知识库。每一个安全事件，也就是告警以及工单，在TheHive里边都是一个Case。所有的IOC、分析的过程、处置的步骤还有最终的结论都存储在那里面。时间长了就变成团队自己的应急响应知识库。
搭配着Cortex来进行自动的分析，利用MISP去开展情报方面的查询，之后再连接上AI知识库。当遇到新的事件的时候，首先自动去搜索以往有没有碰到过相类似的情况。以往碰到相类似的情况的时候是如何去进行处理的？对于安全运营团队而言，这要比通用的知识库实用得多。
16. AIL Framework
GitHub：https://github.com/ail-project/ail-framework
Star：2k+
部署难度：偏难（Docker，但配置项多）
AIL是一个专门用于开展暗网以及开源情报收集与分析的框架。它会去对暗网论坛、Pastebin、Telegram频道、泄露数据站点进行爬取操作。它将所收集到的信息实施结构化的存储处理。它还会自动地去提取IOC、识别数据泄露情况、发现针对你的公司的威胁状况。
它具备着许多的分析器，比如泄露凭证识别、信用卡号识别、密钥识别、恶意JS检测相关的。你可以将AIL所抓取的资料连接到你的RAG系统当中，然后去问它最近在暗网上有没有售卖你们公司的数据，那它就能够给出相应的答案。
四、知识图谱增强RAG
普通的RAG是去寻觅相关段落，对于像这个APT和哪些漏洞存在关联、这次事件涉及多少个IOC这类复杂问题，它没办法很好地进行回答。而这几个项目是在RAG基础之上增添了知识图谱，如此便可以去处理关系型的查询。
17. LightRAG
GitHub：https://github.com/HKUDS/LightRAG
Star：25k+
部署难度：简单（Python库，也有Docker部署方式）
香港大學所進行的輕量級圖譜RAG。在導入文檔的時候自動抽取實體以及關係來構建圖譜。在進行查詢的時候將向量檢索和圖譜遍歷一同進行，如此一來所得出的答案便比純粹的RAG更加準確。它相較於微軟的GraphRAG要輕盈得多，不需要那麼多的token，普通的伺服器就可以運行。
在安全领域的场景之中是非常实用的。当你导入一批 APT 相关的报告的时候，LightRAG 可以自动地将组织、工具、漏洞、行业之间的关系抽取出来。问它 Lazarus 曾经使用过哪些 0day 漏洞，问针对金融行业的攻击通常采用什么漏洞的时候，它能够顺着关系链条将全部的答案找寻出来，普通的 RAG 是做不到这样的一点的。
存在网络用户界面（WebUI）的情况下，Docker是能够进行运行操作的，而且既可以去连接Ollama，同时也可以去连接OpenAI。
18. GraphRAG（微软）
GitHub：https://github.com/microsoft/graphrag
Star：23k+
部署难度：中等（Python，需要配置Azure/OpenAI API或者本地模型）
微软官方所推出的图谱RAG，相较于LightRAG而言更为厚重。它在进行索引构建的时候所花费的时间比较长，而且消耗的token数量较多。但是它具备较强的全局理解能力。它会把文档划分成社区层级这样的结构，之后从下往上一层一层地进行摘要处理，最终构建出一张全局的知识图谱。
当面对需要去处理大量的长文档的这种情形，就比如几百份威胁报告、几十个G的安全白皮书这类状况的时候，GraphRAG可以协助你梳理出整个领域的结构以及主题，而不只是去搜寻几个相关的段落而已。
不足之处在于索引成本比较高。倘若全部采用GPT-4来构建索引的话，所花费的费用可不会是低的。那么建议运用开源的本地模型来进行索引的制作，如此一来成本就将会低上许多。
五、底层检索/向量引擎
倘若你计划自身从最开始去开展开发，并非仅仅运用现成的平台，那下面这些便是底层的向量数据库以及检索引擎，它们是知识库的核心构成部分。
19. Milvus / Zilliz
GitHub：https://github.com/milvus-io/milvus
Star：32k+
部署难度：偏难（K8s或者Docker Compose，分布式架构）
在开源向量数据库当中属于比较成熟的那一类。在大规模场景状况之下性能表现还不错。可以存储上亿条向量。检索的速度比较快。并且还支持GPU加速。众多上层平台比如Dify、RAGFlow底层都支持把Milvus当作向量库来使用。
要是你所拥有的知识库文档数量极为众多，有着几十万份文档、几百万个分块，当默认的向量数据库，比如Chroma、PGVector这类承受不住的时候，那么就更换成Milvus。但对于个人或小团队来说，没必要换，PGVector就够用。
20. Pathway
GitHub：https://github.com/pathwaycom/pathway
Star：10k+
部署难度：中等（Docker或者Python包）
Pathway可以达成实时RAG文档的一键变更，索引会自动进行更新，不需要你再重新去跑索引的流程。传统的RAG，你把文档导进去之后，如果文档更新了，就得重新进行分块然后重新去做embedding。可是Pathway，是直接去监听文件的变化、数据库的变化以及网页的变化，只要数据一发生变化索引就立刻同步。
在安全场景之中，就好比你在对某一个漏洞信息进行监控，相关的公告、POC（漏洞利用代码）、分析文章不断地进行更新。Pathway可以使得你的知识库始终保持最新的状态，不需要手动地重新进行导入。它还支持实时的数据流输入，用来开展实时的情报分析是挺合适的。
部署建议
给不同场景的建议：
针对个人或者人数处于5人以下的小团队，不想花费精力的状况而言：可以去考虑MaxKB或者QAnything，利用Docker来进行一键启动，耗费半天的时间就可以搭建出能够使用的（相关东西）。要是已经正在使用Ollama了，直接安装Open WebUI，并且顺带就会有知识库了。
要是团队人员数量处于10人到50人这个区间范围之内，并且有内部知识库以及工作流方面的需求的话，那么可以去考虑从Dify或者FastGPT当中挑选一个。这两者功能相对比较齐全，社区也是相当活跃的，文档也比较完备，遇到问题能够找得到人去进行咨询。要是使用飞书来办公的话，那么就选择Coze，在国内使用的时候体验会更加良好。
安全团队当中的SOC要去开展威胁情报相关工作。需要安装上MISP以及OpenCTI，此二者是安全领域里的基础设施，可不是通用的RAG就能够把它取代的。在这个基础之上，再连接上Dify或者FastGPT来进行自然语言方面的问答操作。
要是文档特别的脏乱，像是扫描件、截图比较多这类的状况，那么就选择RAGFlow，在开源当中它的文档解析方面的能力到目前为止是最为强大的。
若想要去处理那种复杂关系查询的情况，像是APT关联、攻击链分析这一类的情形。要么就是在通用RAG的基础之上再加上LightRAG来进行图谱增强，要么就是直接去使用OpenCTI 。
服务器配置建议：
- 最低配（跑小模型、小知识库）：4核8G，能跑
Ollama 7B模型+简单知识库 - 推荐配置（团队用，10-50人）：8核16G+GPU（16G显存以上），能跑
14B/32B模型 - 大规模用（百万级文档）：16核32G+独立GPU，向量数据库单独部署
不管你挑选了什么东西，可千万不要一开始把全部的套装都搭建好。首先拿一个项目来开展起来，导入一批实实在在有用的文档，使用一段时间之后了解自己需要什么了，再去更换更为复杂的东西或者添加组件。工具是用于解决问题的，而不是用于收集物件的。
阿里云全场九折优惠：
https://link.aitq.net/RcgjvF
阿里云2核2g 99计划 99元每年，续费同价，快来薅
腾讯云2H2G 99 每年：
https://link.aitq.net/mVGWtG
薄荷云实惠海外服务器：
https://link.aitq.net/RYbx8O
评论 (0)