语言模型配置--百度:文心大模型

栏目:云苍穹知识作者:金蝶来源:金蝶云社区发布:2024-09-23浏览:1

语言模型配置--百度:文心大模型

1 简介

GPT开发平台已适配百度千帆大模型平台提供的如下模型服务,在【AI能力中心】应用中配置后即可使用。

  • ERNIE-Bot

  • ERNIE-Bot-turbo

  • ERNIE-Bot-4.0

  • Embedding-V1


2 操作步骤


2.1 准备百度AK/SK

登录百度智能云,参考应用接入文档,获取API Key(以下简称AK)及Secret Key(以下简称SK)。


2.2 配置算法服务

打开【AI服务云】→【AI能力中心】→【算法服务】,点击“新增”按钮后,维护服务编码、服务名称字段,并打开是否支持流式字段。



其中,服务编码需按如下要求准确配置。

百度模型AI能力中心算法服务编码备注
ERNIE-BotBAIDU_ERNIE_BOT
ERNIE-Bot-turboBAIDU_ERNIE_TURBO

V6.0.1苍穹版本,请将编码配置BAIDU_ERNIE_BOT_TURBO

V6.0.4苍穹版本及以后,编码为BAIDU_ERNIE_TURBO;

ERNIE-Bot-4.0BAIDU_ERNIE_BOT_PRO
Embedding-V1BAIDU_EMBEDDING_V1

此模型不支持流式输出,请关闭“是否支持流式”开关;


配置完成后,保存算法服务,并进行审核,将使用状态变为可用后,即可进行下一步。

2.3 配置服务实例

打开【AI服务云】→【AI能力中心】→【服务实例】,点击“新增”按钮。填写实例名称、最大并发数,并选择对应的算法服务。



配置信息中,字段可参考下表进行配置:


字段百度模型字段值
认证方式
BAIDU
ClientID
2.1中获取的百度AK
SecretKey
2.1中获取的百度SK
代理用户密钥
无需填写
协议类型
HTTPS
主机
aip.baidubce.com
端口

443
上下文地址ERNIE-Bot/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/completions
ERNIE-Bot-turbo/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/eb-instant
ERNIE-Bot-4.0/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/completions_pro
Embedding-V1/rpc/2.0/ai_custom/v1/wenxinworkshop/embeddings/embedding-v1

配置完成后,点击“保存”,并进行审核,使用状态变为可用后,即可进行下一步。


2.4 测试配置结果

语言模型配置测试需打开【AI服务云】→【GPT开发平台】→【GPT提示】,打开“语言模型”下拉框,若对应的模型已变成为“已配置”状态后,即可输入提示词并测试模型效果。



若需测试知识库中配置的模型是否可用,需打开【AI服务云】→【GPT开发平台】→【知识库】,打开“索引方式”下拉框,若对应的模型已变成为“已配置”状态后,即可上传文档测试索引效果。



若配置后模型状态仍为“未配置”,请仔细检查算法服务的编码是否正确、算法服务及服务实例是否为“可用”状态。


注意:服务实例中的ClientID或SecretKey配置错误,会导致模型调用失败。此时可将对应服务实例“反审核”或“禁用”,修改正确后重新审核启用。或者新增服务实例配置正确的签名信息后审核并启用。若有多个可用实例,将自动轮询实例进行调用。

3 注意事项

事项1:算法服务/服务实例列表中,若已存在对应数据,则无需重复配置。

事项2:服务编码是系统识别语言模型的唯一标识,一定要跟2.2表格中提供的编码一致,不可自定义。

事项3:算法服务及服务实例保存后,用户可自行审核,审核单据并查看状态变为“可用”后,可进行使用。

事项4:服务实例中的ClientID或SecretKey配置错误,会导致模型调用失败。此时可将对应服务实例“反审核”或“禁用”,修改正确后重新审核启用。或者新增服务实例配置正确的签名信息后审核并启用。若有多个可用实例,将自动轮询实例进行调用。

4 参考资料

百度智能云千帆大模型平台 wenxinworkshop

语言模型配置--百度:文心大模型

1 简介GPT开发平台已适配百度千帆大模型平台提供的如下模型服务,在【AI能力中心】应用中配置后即可使用。ERNIE-BotERNIE-Bot-turboERNIE-...
点击下载文档
上一篇:助手下一篇:GPT开发平台微服务
确认删除?
回到顶部
客服QQ
  • 客服QQ点击这里给我发消息