| | |
| | | int status = conn.getResponseCode(); |
| | | if (status != 200) { |
| | | String err = readErrorBody(conn); |
| | | log.error("Ollama 返回非 200: status={}, body={}", status, err); |
| | | throw BusinessException.serverError( |
| | | "LLM 服务返回错误 (HTTP " + status + ")。请确认模型 " |
| | | + resolveModel(options) + " 已通过 `ollama pull` 下载。详情: " + err); |
| | | log.error("Ollama 返回非 200: status={}, url={}/api/chat, body={}", |
| | | status, properties.getOllama().getBaseUrl(), err); |
| | | throw BusinessException.serverError(describeFailure(status, err, resolveModel(options))); |
| | | } |
| | | |
| | | try (BufferedReader reader = new BufferedReader( |
| | |
| | | return properties.getOllama().getDefaultModel(); |
| | | } |
| | | |
| | | /** |
| | | * 拼装「能定位问题」的失败信息。 |
| | | * |
| | | * <p><b>为什么要专门写这个方法</b>:早先这里只有一句 |
| | | * 「请确认模型 X 已通过 {@code ollama pull} 下载」。问题在于, |
| | | * 触发非 200 的原因里,**模型没下载只占很小一部分**: |
| | | * <ul> |
| | | * <li>Ollama 根本没启动(连接被拒,此时连非 200 都走不到)</li> |
| | | * <li>base-url 被指到了别的服务上 —— 比如 OpenAI 兼容服务, |
| | | * 它只有 {@code /v1/chat/completions},没有 {@code /api/chat}, |
| | | * 于是返回 404</li> |
| | | * </ul> |
| | | * 这几种情况用户都会看到「模型没下载」,然后花大量时间去 |
| | | * {@code ollama pull},而真实原因与模型毫无关系。 |
| | | * |
| | | * <p>所以这里把**实际请求地址**和**协议是否匹配的判断**一并给出。 |
| | | * 尤其 404:它几乎从不意味着「模型没下载」,因为模型不存在时 |
| | | * Ollama 返回的是 200 + 流内 {@code {"error": "model ... not found"}}。 |
| | | */ |
| | | private String describeFailure(int status, String err, String model) { |
| | | String baseUrl = properties.getOllama().getBaseUrl(); |
| | | StringBuilder sb = new StringBuilder(256); |
| | | sb.append("LLM 服务返回错误 (HTTP ").append(status).append(")。") |
| | | .append("请求地址: ").append(baseUrl).append("/api/chat") |
| | | .append(",模型: ").append(model).append("。"); |
| | | |
| | | if (status == 404) { |
| | | sb.append("404 基本可以断定**不是**模型没下载 —— Ollama 的模型不存在时返回的是 HTTP 200 " |
| | | + "和流内的 model not found 消息。404 说明这个地址上跑的不是 Ollama:") |
| | | .append("它的原生接口是 /api/chat,而 OpenAI 兼容服务(vLLM / LM Studio / SGLang / one-api 等)") |
| | | .append("只有 /v1/chat/completions。若你用的是后者,请把 webui.llm.provider 改为 openai-compat,") |
| | | .append("并把 webui.llm.openaiCompat.base-url 配成以 /v1 结尾的地址。"); |
| | | } else if (status == 401 || status == 403) { |
| | | sb.append("这通常是网关或鉴权层拒绝,请检查 webui.llm.ollama.base-url 是否指向了需要 API Key 的服务。"); |
| | | } else { |
| | | sb.append("请确认 Ollama 已启动,且模型已下载(`ollama pull ").append(model).append("`)。"); |
| | | } |
| | | |
| | | sb.append("详情: ").append(sanitize(err)); |
| | | return sb.toString(); |
| | | } |
| | | |
| | | /** |
| | | * 清洗错误响应体。 |
| | | * |
| | | * <p>踩过的坑:某些服务(实测那个 node 写的转发器)返回的 404 文本 |
| | | * 后面跟着几十个 NUL 字节,原样塞进 JSON 之后前端提示里显示成一串方块, |
| | | * 用户完全看不出内容。这里把控制字符去掉并限长。 |
| | | */ |
| | | private String sanitize(String body) { |
| | | if (body == null || body.isBlank()) { |
| | | return "(无响应体)"; |
| | | } |
| | | String cleaned = body.replaceAll("[\\p{Cntrl}&&[^\r\n\t]]", "").trim(); |
| | | if (cleaned.isEmpty()) { |
| | | return "(响应体只有控制字符,内容不可读)"; |
| | | } |
| | | return abbreviate(cleaned); |
| | | } |
| | | |
| | | private void writeBody(HttpURLConnection conn, String body) throws IOException { |
| | | try (var out = conn.getOutputStream()) { |
| | | out.write(body.getBytes(StandardCharsets.UTF_8)); |