使用AI协助工作,可以大幅提升效率,但是将公司文件、客户资料上传到平台时,又会担心信息泄露,存在合规风险。又或者是由于AI缺少行业内的专业知识,生成的内容准确度不高,很难作为参考。

如果通过将文档在本地电脑上分析整理,构建私有知识库,不仅能降低数据泄露风险,还能减少幻觉,让AI的回答更贴合实际业务场景。

下面我们就使用GPT4All,结合PPIO派欧云提供的高性能大模型 API 服务,手把手带你构建本地知识库,让AI成为最懂你业务的“私人顾问”。

PPIO × GPT4All 配置教程

第一步:获取 API key

  1. 获取 API 密钥

注册登录派欧云,填写邀请码【N7EUVY】得 15元代金券。

打开 API 密钥管理页面,点击创建按钮,输入自定义密钥名称,生成API密钥。

  1. 生成并保存 API 密钥

**!!注意:**秘钥在服务端是加密存储,请在生成时保存好秘钥;若遗失可以在控制台上删除并创建一个新的秘钥。

  1. 获取 【模型ID】

需要使用的模型 ID

  • deepseek/deepseek-r1-turbo
  • deepseek/deepseek-v3-0324
  • qwen/qwen3-235b-a22b-fp8
  • qwen/qwen3-30b-a3b-fp8

其他模型ID、最大上下文及价格可参考:模型列表

第二步:下载并配置GPT4All

  1. 下载GPT4All

前往GPT4All官网下载应用。

下载地址:https://www.nomic.ai/gpt4all

  1. 配置API密钥

主页点击【查找模型】,选择【自定义】,填入对应内容。

① API密钥:从派欧云官网保存的API密钥;

② 基础URL:https://api.ppinfra.com/v3/openai

③ 添加你所需要的模型名称,例如:deepseek/deepseek-v3-0324

  1. 选择所需模型

打开对话窗口,选择所需使用模型,此时已经可以进行对话,但想要模型根据本地文档生成内容,还需构建私有知识库。

第三步:构建私有知识库

  1. 创建本地文档合集

点击【本地文档】,选择你的本地文档所在文件夹,并输入文档名称。

  1. 配置Embedding模型

文档合集创建后,系统会自动下载所需Embedding模型,模型下载完成显示“准备”时,即代表已完成配置。

  1. 开启本地知识库使用

回到对话页面,勾选此前创建本地文档合集,对话时就可以看到模型从本地知识库开始检索并生成回答。