GPT开发平台的部署需要做什么?向量数据库部署信息去哪里找?部署后如何配置mc信息?

问题描述
私有化客户使用GPT开发平台的知识库相关功能依赖向量数据库,现场部署数据库的相关步骤和资源要求是什么?
解决方法
GPT开发平台相关部署工作:
步骤1:准备模型接口(如GPT3.5、GPT4.0、Azure text embedding模型的密钥等参数);
步骤2:升级苍穹6.0.1后将1中的模型接口的参数配置到【AI能力中心】→【服务实例】中 ;
步骤3:向量数据库部署,相关资料及信息可参考:
参考官方文档:https://milvus.io/docs/v2.2.x/install_standalone-docker.md
镜像版本:
1.milvusdb/milvus:v2.2.3
2.minio/minio:RELEASE.2022-03-17T06-34-49Z
3.quay.io/coreos/etcd:v3.5.5
部署硬件要求参考:
- CPU:Intel第二代酷睿处理器或更高版本
- 内存:16GB
- 硬盘:SATA 3.0 SSD或更高版本 50G
步骤4:向量数据库MC配置
v6.0版本
1.1. 系统路径【MC】→【租户管理】
1.2. 选择租户,如下图

1.3. 租户配置
新增配置项,并将相关信息配置完成后保存
milvus.host:xxx.xxx.xxx.xxx
milvus.port: xxxx
milvus.user:xxxx
milvus.passw
GPT开发平台的部署需要做什么?向量数据库部署信息去哪里找?部署后如何配置mc信息?
声明:除非特别标注,否则均为本站原创文章,转载时请以链接形式注明文章出处。如若本站内容侵犯了原著者的合法权益,可联系本站删除。



