语言模型配置--豆包大模型

变更记录
| 产品版本 | 更新内容 | 更新日期 |
| V6.0.15 | 初始版本 | 2024年08月16日 |
1 简介
AI开发平台已适配火山引擎提供的豆包大模型服务,在【AI能力中心】应用中配置后即可使用。
备注:AI开发平台从6.0.15版本开始支持豆包大模型,如需使用,请将AI开发平台升级到最新版本
Doubao-pro-4k
Doubao-pro-32k
Doubao-pro-128k
2 操作步骤
2.1 获取ClientID密钥
登录火山方舟管理控制台,参考使用指南文档,获取Clientid 和 API 密钥。
2.1.1 获取Clientid方法:
进入火山方舟管理控制台,点击“在线推理”,创建“推理接入点”,创建后,记录下接入点名称(一般以“ep-”开头的一串字符)


2.1.2 获取API key方法:
点击“API key管理”-“创建API key”完成创建,记录下API key

2.2 配置算法服务
打开【AI服务云】→【AI能力中心】→【算法服务】,点击“新增”按钮后,维护服务编码、服务名称、模型类型及基础大模型字段,并打开是否支持流式字段。

其中,服务模型字段请选择“LLM”,基础大模型根据在【火山方舟管理控制台】中新增的推理接入点中选择的模型类型进行选择,如下表:
| 火山方舟推理接入模型 | AI能力中心基础大模型 |
Doubao-pro-4k | 豆包 pro 4k |
Doubao-pro-32k | 豆包 pro 32k |
Doubao-pro-128k | 豆包 pro 128k |
配置完成后,保存算法服务,并进行审核,将使用状态变为“可用”后,即可进行下一步。
2.3 配置服务实例
打开【AI服务云】→【AI能力中心】→【服务实例】,点击“新增”按钮。填写实例名称、最大并发数,并选择对应的算法服务。

配置信息中,字段可参考下表进行配置:
| 字段 | 字段值 |
| 认证方式 | TOKEN认证 |
| ClientID | 2.1.1中获取的接入点名称 |
| SecretKey | 2.1.2中获取的API密钥 |
| 代理用户密钥 | 无需填写 |
| 协议类型 | HTTPS |
| 主机 | ark.cn-beijing.volces.com |
| 端口 | 443 |
| 上下文地址 | /api/v3/chat/com |
语言模型配置--豆包大模型
变更记录产品版本更新内容更新日期V6.0.15初始版本2024年08月16日1 简介AI开发平台已适配火山引擎提供的豆包大模型服务,在【AI能力中心】...
点击下载文档文档为doc格式
声明:除非特别标注,否则均为本站原创文章,转载时请以链接形式注明文章出处。如若本站内容侵犯了原著者的合法权益,可联系本站删除。
上一篇
已经是第一篇



