跳转到内容

常见问题

我的文档会被发到模型服务吗?

Section titled “我的文档会被发到模型服务吗?”

文档原文留在本机。提问时,检索命中的片段会作为上下文发给你自己配置的模型服务。发多少取决于上下文预算和检索结果。

CongoRAG 不代管模型账号,也不把数据传到项目自己的服务器。模型服务商怎么处理请求,取决于你和它的协议。

v5.0.2 只接受 .md、.markdown、.txt。服务端会按扩展名白名单拒绝其他类型。

要处理 PDF 或 Word,先在本地转成 Markdown 或纯文本再上传。仓库里没有内置的 PDF 解析器。

没有账号、登录和权限系统。一个实例就是一组数据,任何能访问 127.0.0.1:3210 的人都能读写全部内容。

多人使用需要你自己在前面加一层认证,或者放进只有你们能访问的内网/VPN。

不建议。CongoRAG 没有内置认证,API 也没有按用户隔离。要远程访问,至少在反向代理层加 Basic Auth、OIDC 或 VPN,并且只开 HTTPS。

具体配置见反向代理与安全。

v5.0.2 的模型接入走 OpenAI 兼容的 chat / embedding 接口。Anthropic 原生消息格式不在内置支持范围内;如果你的服务只提供 Anthropic 格式,需要先经过一个兼容网关。

当前 Release 没有附带二进制或启动包。仓库里有源码、Dockerfile 和启动包构建脚本;要么从源码构建,要么自己打镜像。

也没有官方在线演示。CongoRAG 是本地运行的软件,本站只做介绍和文档。

先确认 worker 在跑:make dev-worker 或 docker compose logs worker。worker 没起时,文档不会被解析。

还要确认 api 和 worker 连的是同一个数据库、同一个 CONGORAG_DOCUMENTS_DIR。Docker 形态下两者必须挂同一个数据卷。

引用来自检索命中的分块。先看知识库里的文档状态是不是 ready,再用检索调试接口看这个知识库能不能命中内容。

如果检索有结果但回答没引用,检查模型是否按提示词返回了引用标记;这部分行为依赖模型。

两样东西一起备:

  1. PostgreSQL 数据库。
  2. 数据目录/数据卷:原始文档、master.key、tiktoken 缓存。

只备数据库,文档记录还在但原始文件没了;只备文件,反过来。主密钥丢了,所有 API Key 都要重填。

具体命令见升级与回滚。

启动时要下载一次 tiktoken 词表。项目选择在启动时预热,下载失败就拒绝启动,避免起来之后每条消息才报错。成功一次后缓存在本地。

MIT。见许可证。