server: port: 9091 # SSE 长连接不受该值约束(SseEmitter 使用 0L 永不超时),此处只影响普通请求 tomcat: max-connections: 8192 spring: application: name: webui-springboot profiles: active: dev datasource: # 关于连接参数(这里踩过一个坑,记录一下): # characterEncoding 接受的是 **Java 字符集名**,不是 MySQL 的字符集名。 # 写 characterEncoding=utf8mb4 会抛: # java.sql.SQLException: Unsupported character encoding 'utf8mb4' # 正确做法是写 Java 侧的 UTF-8;至于底层用 utf8mb4(4 字节,支持 emoji) # 还是 utf8mb3,由 Connector/J 8.x 与服务器协商决定, # 再用 connectionCollation 明确指定排序规则即可。 url: jdbc:mysql://localhost:3306/webui?useUnicode=true&characterEncoding=UTF-8&connectionCollation=utf8mb4_general_ci&serverTimezone=Asia/Shanghai&useSSL=false&allowPublicKeyRetrieval=true&rewriteBatchedStatements=true username: root password: rootroot driver-class-name: com.mysql.cj.jdbc.Driver hikari: maximum-pool-size: 20 minimum-idle: 5 connection-timeout: 30000 idle-timeout: 600000 max-lifetime: 1800000 # 文件上传大小限制(同时也是 Spring 层的硬限制) servlet: multipart: max-file-size: 50MB max-request-size: 60MB mvc: # SSE 异步请求超时:0 表示不超时(配合 SseEmitter(0L)) async: request-timeout: 0 mybatis-plus: configuration: map-underscore-to-camel-case: true # 开发期打印 SQL,生产请改为 NoLoggingImpl log-impl: org.apache.ibatis.logging.stdout.StdOutImpl global-config: banner: false db-config: id-type: auto table-underline: true # ============================================================ # 自定义业务配置 # ============================================================ webui: jwt: # 生产环境务必替换,长度 >= 32 字节,建议用环境变量注入 WEBUI_JWT_SECRET secret: ${WEBUI_JWT_SECRET:custom-webui-dev-secret-key-change-me-in-production-32bytes} # token 有效期(毫秒),默认 7 天 expire-millis: 604800000 issuer: custom-webui # 文件存储 storage: # 本地磁盘目录(相对项目运行目录);生产可替换为 MinIO location: /Users/kongdeqiang/Desktop/webui/upload # 允许上传的扩展名白名单(小写,不含点) allowed-extensions: - txt - md - markdown - pdf - docx - doc - csv - json - log - html # 图片:对话中上传后走 OCR 提取文字,也可作为知识库资料 # (同样是白名单制,不要图省事放开成允许全部) - png - jpg - jpeg - webp - bmp - gif - tif - tiff # 单文件最大字节数(50MB) max-file-size: 52428800 # 会话导出(JSON / TXT / PDF) export: # PDF 用的中文字体文件;留空则自动探测系统字体。 # # 为什么要显式嵌入字体:PDF 内置的 14 个标准字体只有 Latin-1, # 写中文会直接抛「No glyph for U+4E2D」;而引用系统 CJK 标准字体 # 虽然省事,但对方机器没装就是一片空白 —— 导出文件是要发给别人的, # 不能赌他的环境。所以这里找一份真实字体**按子集嵌入** # (只带用到的字形,一个中文对话导出的 PDF 通常只有几十 KB)。 # # macOS 无需配置(会自动用 /System/Library/Fonts/Supplemental/Arial Unicode.ttf); # Linux / Windows 若自动探测失败,用这里指定,例如: # pdf-font-path: /usr/share/fonts/opentype/noto/NotoSansCJK-Regular.ttc # 启动日志的「导出自检」会告诉你最终用了哪个字体。 pdf-font-path: ${WEBUI_PDF_FONT:} # 单次导出的消息条数上限与单条消息字符上限: # 防止一条超长对话生成几十兆的文件把内存拖垮。超出会截断并**在文件里写明**。 max-messages: 2000 max-chars-per-message: 20000 llm: # 可选值:ollama / openai-compat / mock # ollama —— Ollama 原生接口(/api/chat,NDJSON 流) # openai-compat —— 任意 OpenAI 兼容服务(/v1/chat/completions): # vLLM、LM Studio、SGLang、Xinference、one-api 网关, # 以及 OpenAI / DeepSeek / Kimi / 通义 / GLM 云端 API # mock —— 本地模拟流式输出,不依赖任何模型服务 provider: ${WEBUI_LLM_PROVIDER:openai-compat} # ---- OpenAI 兼容服务配置 ---- # 用 openaiCompat(不是 openai)这个名字:它同样用于本地 vLLM 等自建服务, # 名字要体现「协议兼容」而非「调用 OpenAI 官方」。 # # ⚠️ 键名必须写成 openaiCompat 或全小写 openaicompat, # 不能写 openai-compat —— Spring Boot 的 relaxed binding 只做 # 「小写 + 去连字符」归一化,openai-compat 会变成 openaicompat, # 与 Java 字段 openaiCompat 对不上,结果是**配置被静默忽略、悄悄用默认值** # (实测踩过:base-url 配了 :10020/v1 却仍连默认的 :8000/v1,且不报错)。 openaiCompat: # 注意要带 /v1 base-url: ${OPENAI_COMPAT_BASE_URL:http://127.0.0.1:10020/v1} # 本地服务一般不需要;云端 API 请用环境变量注入,不要写进文件 api-key: ${OPENAI_COMPAT_API_KEY:} model: ${OPENAI_COMPAT_MODEL:qwen35} # 思考型模型较慢,超时给足(10 分钟) timeout-millis: 600000 # 输出 token 上限(**这个值要留足**)。 # # 思考型模型会把「推理」和「正式回答」都算进输出 token: # 实测 qwen35 回答一句「你好」,推理占到 168 个流式分片, # 正式回答只占 5 个 —— 若把 max-tokens 设小(如 512), # 推理还没结束就把预算耗尽,用户看到一条**空回答**或半截话, # 而且 finish_reason=length 不会报错,非常容易误判成「模型不工作」。 # # 模型上下文 133120,默认给 8192 输出预算足够日常使用; # 若你发现回答常被截断(finish_reason=length),继续调大即可。 # # 注意:这是「输出上限」,与 Ollama 的 num-ctx(输入+输出总窗口) # 不是一个概念,因此单独配置而不是复用。 max-tokens: 8192 # 是否把推理内容(reasoning_content / 标签)也推给前端折叠展示 include-thinking: false # ---- Ollama 原生接口配置(provider=ollama 时生效)---- # # ⚠️ 这里必须是 **Ollama 守护进程**的地址。它的协议是 Ollama 原生的 # POST /api/chat(NDJSON 流),与上面的 openaiCompat # (POST /v1/chat/completions)是两套完全不同的协议, # 端口、路径、请求体、响应格式都不通用。 # # 实测踩过的坑(就是「提示模型未下载」的真正原因): # 把本段 base-url 也改成了 OpenAI 兼容服务的端口 127.0.0.1:10020, # 同时 IDE 的 Run Configuration 里还留着 -Dwebui.llm.provider=ollama, # 于是后端去请求 http://127.0.0.1:10020/api/chat,那边没有这个路由, # 返回 404 "Sorry, Page Not Found",而错误提示只说了 # 「请确认模型 qwen35 已通过 ollama pull 下载」—— # 一句话把方向指到了模型上,真实原因是 provider 与协议不匹配。 # # 判断口诀: # base-url 以 /v1 结尾 → provider 必须是 openai-compat # base-url 是 http://…:11434 → provider 才是 ollama # 启动日志里的「LLM 自检」会直接告诉你当前配的对不对。 ollama: base-url: ${OLLAMA_BASE_URL:http://127.0.0.1:11434} # 默认模型,需与本机 `ollama list` 中的模型名一致 default-model: ${OLLAMA_MODEL:qwen2.5:7b} # 单次请求超时(毫秒),流式请求需给足时间 timeout-millis: 300000 # 是否把 reasoning 模型的 thinking 内容一并返回 include-thinking: false # 传给模型的默认采样参数,可被 chat.meta 覆盖 defaults: temperature: 0.7 top-p: 0.9 num-ctx: 8192 # 上下文最多携带的历史消息条数(条数上限,非 token 上限) history-limit: 20 # 整个 prompt 的字符预算。超出时必须由后端按优先级裁剪 —— # 否则模型服务会从开头静默截断,把最前面的 system 消息 #(RAG 资料 / 图片 OCR 文字)丢掉,表现为「模型没看到我给的图片」。 # # ⚠️ 这个值要**按模型的上下文窗口**来定,中文场景 1 字符 ≈ 1 token: # 预算 ≤ 窗口 - 输出上限(max-tokens) - 余量 # # 本项目当前用的是本地大窗口模型(vLLM,max_model_len=133120), # 输出上限 8192,因此 16000 非常保守、完全安全。 # 实测踩过的坑:这个值一度只有 4000,而模型的长回答动辄 4000~9000 字, # 结果「上一条回答」本身就把预算撑爆,历史对话整段进不去 —— # 用户看到的现象是「每轮对话都不记得上文」。 # (现在即使遇到超长消息也会截取摘要而不是整段丢弃, # 但预算给小了,模型能看到的上下文终究有限。) # # 若改用 Ollama 且 num_ctx=8192,请改回 4000 左右, # 或把 num_ctx 一起调大(如 32768 → 预算 20000)。 context-char-budget: 16000 # 单个部分(图片文字 / 知识库资料)各自的上限,防止某一部分独占预算 per-part-char-limit: 2000 rag: # Python RAG 微服务地址;enabled=false 时完全跳过检索,纯聊天也可用 enabled: ${WEBUI_RAG_ENABLED:true} base-url: ${RAG_BASE_URL:http://localhost:8000} ingest-timeout-millis: 600000 search-timeout-millis: 30000 # 单次检索默认返回片段数 default-top-k: 4 # 拼接进 prompt 的片段总字符上限 max-context-chars: 6000 logging: level: root: INFO com.custom.webui: DEBUG # MyBatis-Plus 的 StdOut 日志比较吵,需要静音时打开下面这行 # org.mybatis: WARN