1.1 功能介绍

提示词提供可视化的提示词编排、管理、测试功能，可配置历史对话上下文、自定义输入、输出变量，并关联知识库。

1.2 应用场景

配置语言模型，并编写、调试、测试提示词效果。并支持关联知识库，实现在知识库范围内的问答功能。

1.3 系统路径

【AI服务云】→【AI开发平台】→【提示词】

1.4 关键字段

关键字段说明

2 主要操作

操作步骤

步骤1： 新增【提示词】

在【提示词】列表页面中，点击“新增”按钮后，系统会自动生成一个新的【提示词】详情页面。首先，填写好“名称”等必录的基础字段。

AI开发平台已适配市面上主流云厂商的各类模型，可选择想使用的模型，并配置模型风格。

步骤2： 编写提示词

根据模型可编辑具体场景的提示词，提示词就是对AI回复的内容做出的要求和指令，提示词支持引入自定义变量，例如{{variable}}。

还支持让AI记住跟用户对话的历史消息，历史消息条数是指每次请求中包含的AI回复和用户输入合计的条数。例如设置“包含历史消息”为10的时候，每次请求会包含5条用户历史输入及5条AI回复内容，如果历史消息条数超出模型的token数限制，系统将自动截取更近的历史消息。

在右侧对话框里，用户可以实时测试生成效果，并不断调整提示词。

注意：提示词中引入/输出的变量和输入/输出变量中配置的变量要一致。

步骤3： 关联知识库（可选）

支持在提示词中关联已处理好的知识库，在知识库配置面板内，点击“增行”后，选择对应知识库即可。

注意：知识库分代码生成和文档问答两类，同一个提示词只能关联同类知识库。

后续操作

若需要在侧边栏中使用此提示词，需要继续配置【任务流】。

3 实践经验

目标1：实现可能的最佳表现

• 用GPT-4

• 清晰而具体的提示词：扮演什么角色，解决什么问题，相关上下文，输出格式（JSON）

• 善用自定义变量，从业务中获取相关上下文信息到提示中

• 增加历史消息可以让模型表现得更“聪明”，但也会更贵、更耗时

• 给模型更多的思考“时间”（token）：请一步一步思考

• 使用与场景相关且尽可能多样化的少量示例

• 模型不擅长的事情（计算、业务操作）交给外部工具/插件

• 持续迭代优化

目标2：优化成本

• 一旦有了可能的最佳表现，尝试节省成本、提高速度（使用文心一言模型，精简提示词等）