MaxKB 对接本地私有大模型对接报错

背景: 客户在内网部署了本地大模型,model_base_url为域名为https://xxxxxx.com/v1,在部署MaxKB的服务器和容器中都能curl 通,但是在MaxKB 的前端页面确对接失败,一直显示 connection error

f396ed28-67e4-4e87-944c-81527274042d.png

解决方法:
客户用的是自签名证书,即使在系统层curl 通了,在 maxkb 中会对ssl进行验证,如果python 环境没有加载信任证书,就会报 connection error。

1. 修改maxkb的docker-compose.yml

添加一条本地证书路径映射和配置docker证书环境变量地址;

然后重启maxkb 容器,在容器中进到/usr/local/share/ca-certificates 目录下进行更新证书,使其生效;
更新证书命令:

update-ca-certificates

之后maxkb前端进行对接模型,就可以成功了。