一、该问题的重现步骤是什么?
1. 我们产品部署在麒麟v10 aarch架构上,向量模型bge-large-zh-v1.5,容器是华为官方的MIS-TIE容器,这个是兼容的huggingface的text embeding 接口
可以通过 curl -X post http://172.18.0.29:8000/embed 的方式正常访问
我在后台添加了向量模型,模型名称填写的 mis-tei容器启动的modelid, 类型huggingface,维度1024(和redis-stack保持一致),计费价格0,base url http://172.18.0.29:8000/ api key 随便填写
2.增加知识库是,向量库和向量模型都选择对应,点击测试,后台提示

测试的时候,mis-tei没看到任何请求

扫一扫访问 Blade技术社区 移动端