kongdeqiang
2026-10-10 ad24c871d74a417db5412fd9d1fa60411c33ae7f
src/main/java/com/custom/webui/service/impl/OllamaLlmService.java
@@ -74,10 +74,9 @@
            int status = conn.getResponseCode();
            if (status != 200) {
                String err = readErrorBody(conn);
                log.error("Ollama 返回非 200: status={}, body={}", status, err);
                throw BusinessException.serverError(
                        "LLM 服务返回错误 (HTTP " + status + ")。请确认模型 "
                                + resolveModel(options) + " 已通过 `ollama pull` 下载。详情: " + err);
                log.error("Ollama 返回非 200: status={}, url={}/api/chat, body={}",
                        status, properties.getOllama().getBaseUrl(), err);
                throw BusinessException.serverError(describeFailure(status, err, resolveModel(options)));
            }
            try (BufferedReader reader = new BufferedReader(
@@ -229,6 +228,66 @@
        return properties.getOllama().getDefaultModel();
    }
    /**
     * 拼装「能定位问题」的失败信息。
     *
     * <p><b>为什么要专门写这个方法</b>:早先这里只有一句
     * 「请确认模型 X 已通过 {@code ollama pull} 下载」。问题在于,
     * 触发非 200 的原因里,**模型没下载只占很小一部分**:
     * <ul>
     *   <li>Ollama 根本没启动(连接被拒,此时连非 200 都走不到)</li>
     *   <li>base-url 被指到了别的服务上 —— 比如 OpenAI 兼容服务,
     *       它只有 {@code /v1/chat/completions},没有 {@code /api/chat},
     *       于是返回 404</li>
     * </ul>
     * 这几种情况用户都会看到「模型没下载」,然后花大量时间去
     * {@code ollama pull},而真实原因与模型毫无关系。
     *
     * <p>所以这里把**实际请求地址**和**协议是否匹配的判断**一并给出。
     * 尤其 404:它几乎从不意味着「模型没下载」,因为模型不存在时
     * Ollama 返回的是 200 + 流内 {@code {"error": "model ... not found"}}。
     */
    private String describeFailure(int status, String err, String model) {
        String baseUrl = properties.getOllama().getBaseUrl();
        StringBuilder sb = new StringBuilder(256);
        sb.append("LLM 服务返回错误 (HTTP ").append(status).append(")。")
                .append("请求地址: ").append(baseUrl).append("/api/chat")
                .append(",模型: ").append(model).append("。");
        if (status == 404) {
            sb.append("404 基本可以断定**不是**模型没下载 —— Ollama 的模型不存在时返回的是 HTTP 200 "
                            + "和流内的 model not found 消息。404 说明这个地址上跑的不是 Ollama:")
                    .append("它的原生接口是 /api/chat,而 OpenAI 兼容服务(vLLM / LM Studio / SGLang / one-api 等)")
                    .append("只有 /v1/chat/completions。若你用的是后者,请把 webui.llm.provider 改为 openai-compat,")
                    .append("并把 webui.llm.openaiCompat.base-url 配成以 /v1 结尾的地址。");
        } else if (status == 401 || status == 403) {
            sb.append("这通常是网关或鉴权层拒绝,请检查 webui.llm.ollama.base-url 是否指向了需要 API Key 的服务。");
        } else {
            sb.append("请确认 Ollama 已启动,且模型已下载(`ollama pull ").append(model).append("`)。");
        }
        sb.append("详情: ").append(sanitize(err));
        return sb.toString();
    }
    /**
     * 清洗错误响应体。
     *
     * <p>踩过的坑:某些服务(实测那个 node 写的转发器)返回的 404 文本
     * 后面跟着几十个 NUL 字节,原样塞进 JSON 之后前端提示里显示成一串方块,
     * 用户完全看不出内容。这里把控制字符去掉并限长。
     */
    private String sanitize(String body) {
        if (body == null || body.isBlank()) {
            return "(无响应体)";
        }
        String cleaned = body.replaceAll("[\\p{Cntrl}&&[^\r\n\t]]", "").trim();
        if (cleaned.isEmpty()) {
            return "(响应体只有控制字符,内容不可读)";
        }
        return abbreviate(cleaned);
    }
    private void writeBody(HttpURLConnection conn, String body) throws IOException {
        try (var out = conn.getOutputStream()) {
            out.write(body.getBytes(StandardCharsets.UTF_8));