如何配置华为的MIS-TEI词向量模型

Blade 未结 1 25

一、该问题的重现步骤是什么?

1. 我们产品部署在麒麟v10 aarch架构上,向量模型bge-large-zh-v1.5,容器是华为官方的MIS-TIE容器,这个是兼容的huggingface的text embeding 接口

可以通过 curl -X post http://172.18.0.29:8000/embed 的方式正常访问

我在后台添加了向量模型,模型名称填写的  mis-tei容器启动的modelid, 类型huggingface,维度1024(和redis-stack保持一致),计费价格0,base url http://172.18.0.29:8000/  api key 随便填写

2.增加知识库是,向量库和向量模型都选择对应,点击测试,后台提示2.jpg

1.jpg


测试的时候,mis-tei没看到任何请求

5.jpg



1条回答
  • 15小时前

    再补充打印的堆栈图片_20251215101409_24_127.jpg

    作者追问:15小时前

    模型类型换成 openai试试看

    0 讨论(3)
提交回复