本地部署知识库

背景

从抖音刷到了一个视频，介绍了怎么部署一个知识库模型，心痒难耐，立马动手跟着操作了一番，可惜教程还没写完，只有上半部分，自己摸索了一下总算全部搭好了。
原教程链接：https://harryai.cc/post/enterprise-knowledge-llm-qa/

准备

首先已经可以访问fastgpt和oneapi了，本地的ollama也启动好了。

配置oneapi

登录one api，进入到渠道设置，配置两个渠道，分别如下图


然后修改默认令牌的可用模型如下图

配置fastgpt

进入fastgpt的知识库界面，创建一个知识库，索引模型和文件处理模型选择dmeta-embedding-zh和qwen-7b,然后提交几个文本文档测试一下
然后进入应用界面，AI模型选择qwen-7b，知识库选择刚才创建的知识库，保存一下，然后就可以对话了。