语言模型配置--Moonshot AI
变更记录
产品版本 | 更新内容 | 更新日期 |
V6.0.8 | 初始版本 | 2024年03月29日 |
1 简介
AI开发平台已适配Moonshot开放平台提供的如下模型服务,在【AI能力中心】应用中配置后即可使用。
moonshot-v1-8k
moonshot-v1-32k
moonshot-v1-128k
2 操作步骤
2.1 获取API密钥
登录Moonshot 开放平台,参考使用指南文档,获取API 密钥。
2.2 配置算法服务
打开【AI服务云】→【AI能力中心】→【算法服务】,点击“新增”按钮后,维护服务编码、服务名称字段,并打开是否支持流式字段。
其中,服务编码需按如下要求准确配置。
Moonshot 模型 | AI能力中心配置算法服务编码 |
moonshot-v1-8k | MOONSHOT_V1_8K |
moonshot-v1-32k | MOONSHOT_V1_32K |
moonshot-v1-128k | MOONSHOT_V1_128K |
配置完成后,保存算法服务,并进行审核,将使用状态变为“可用”后,即可进行下一步。
2.3 配置服务实例
打开【AI服务云】→【AI能力中心】→【服务实例】,点击“新增”按钮。填写实例名称、最大并发数,并选择对应的算法服务。
配置信息中,字段可参考下表进行配置:
字段 | 字段值 |
认证方式 | TOKEN认证 |
ClientID | 无需配置 |
SecretKey | 2.1中获取的moonshot API密钥 |
代理用户密钥 | 无需填写 |
协议类型 | HTTPS |
主机 | api.moonshot.cn |
端口 | 443 |
上下文地址 | /v1/chat/completions |
配置完成后,点击“保存”,并进行审核,使用状态变为“可用”后,即可进行下一步。
2.4 测试配置结果
语言模型配置测试需打开【AI服务云】→【GPT开发平台】→【GPT提示】,打开“语言模型”下拉框,若对应的模型已变成为“已配置”状态后,即可输入提示词并测试模型效果。
若配置后模型状态仍为“未配置”,请仔细检查算法服务的编码是否正确、算法服务及服务实例是否为“可用”状态。
注意:服务实例中的ClientID或SecretKey配置错误,会导致模型调用失败。此时可将对应服务实例“反审核”或“禁用”,修改正确后重新审核启用。或者新增服务实例配置正确的签名信息后审核并启用。若有多个可用实例,将自动轮询实例进行调用。
3 注意事项
事项1:算法服务/服务实例列表中,若已存在对应数据,则无需重复配置。
事项2:服务编码是系统识别语言模型的唯一标识,一定要跟2.2表格中提供的编码一致,不可自定义。
事项3:算法服务及服务实例保存后,用户可自行审核,审核单据并查看状态变为“可用”后,可进行使用。
事项4:服务实例中的ClientID或SecretKey配置错误,会导致模型调用失败。此时可将对应服务实例“反审核”或“禁用”,修改正确后重新审核启用。或者新增服务实例配置正确的签名信息后审核并启用。若有多个可用实例,将自动轮询实例进行调用。
4 参考资料
语言模型配置--Moonshot AI
本文2024-09-23 01:01:55发表“云苍穹知识”栏目。
本文链接:https://wenku.my7c.com/article/kingdee-cangqiong-143313.html