变更记录

1.1 功能介绍

AI开发平台新增敏感词审查功能，支持用户配置敏感词库并审查用户输入，提升使用大语言模型的安全性。

1.2 应用场景

在与LLM（Large Language Model）交互的过程中，在内容安全、法律法规等方面会有相关的要求，借助“敏感词审查”的功能，可以审查终端用户是否触发企业定义的敏感词，营造更安全的交互体验。

1.3 系统路径

【AI服务云】→【AI开发平台】→【可信层】→【敏感词库】

1.4 关键字段/按钮说明

1.4.1 关键字段说明

1.4.2 关键按钮说明

2 主要操作

2.1 配置敏感词库

在敏感词库列表中点击“新增”按钮，可在敏感词库弹窗中填写要审查敏感词以及触发敏感词后的回复内容。

例如将“杀人”作为敏感词，并配置回复内容为“您的输入出发了敏感词审查机制，请重新输入。”

“启用”敏感词库后，状态会自动更新为可用。

用户使用GPT助手时，效果如下。

注意：敏感词库保存以后，会自动启动审查机制，如果不需要审查，可“禁用”该词库。