前言
之前部署了fastgpt官方文档的一个,提供的一个m3e-large的向量模型打包的docker镜像,虽然使用起来整体效果还可以,但是有些文本向量相似度匹配的结果还是不太满意的,目前,网络上层出不穷的带推理文本向量,想体验一下,于是我基于modelscope库封装了一个兼容open ai的api接口服务,方便替换不同的文本向量模型使用。
教程
首先我们打开魔塔社区modelscoper,点击模型库,点击模型类型为文本向量
,点击排序 为下载量排序
。我们在下载量排名靠前的几个中选择一个适合自己的模型,点击。
例如,最近很火的bge模型 https://www.modelscope.cn/models/AI-ModelScope/bge-large-zh,点击复制模型ID,下面会用到。
项目源码