监控优化
变更记录
产品版本(季度版本号/patch补丁号) | 更新内容 | 更新日期 |
V6.0.8 | 初始版本 | 2024年03月 |
1 简介
1.1 功能介绍
通过对日志数据分析,提供可视化的LLM应用的调试、测试、评估、监控能力,及时追踪、调试解决问题,优化GPT开发平台性能水平。
功能列表:
会话管理:支持查看从用户会话开始到会话结束的完整沟通记录,提供入口查询监控日志详情,让使用记录有迹可循。
Trace管理:支持查看所有的后端执行记录,提供入口查询监控日志详情,让开发人员可追踪至每个执行细节,及时发现问题。
监控日志详情:支持查看所有单次完整的会话记录、后端执行记录及各步骤日志详情。
1.2 应用场景
业务人员:查询会话记录、流量明细,监控GPT任务使用情况。
开发人员:查看日志、调试、测试、评估、监控能力,及时追踪、调试解决问题,优化GPT开发平台性能水平。
1.3 系统路径
【AI服务云】→【GPT开发平台】→【监控优化】
1.4 关键字段/按钮说明
无
2 主要操作
2.1 会话列表
支持查看从用户会话开始到会话结束的完整沟通记录,包括会话ID、业务云、业务应用、创建组织、创建人、创建时间、Trace数,提供入口查询会话详情,让使用记录有迹可循。
前提条件:
在GPT助手中发起会话后,进入会话列表查看会话记录。
操作步骤
系统路径:AI服务云-GPT开发平台-监控优化-会话管理
后续操作:
查看监控日志详情
2.2 Trace列表
支持查看所有的后端执行记录,提供入口查询Trace详情,包括Trace ID、会话ID、业务云、业务应用、创建组织、创建人、输入、Token数、耗时、创建时间,让开发人员可追踪至每个执行细节,及时发现问题。
前提条件:
在GPT助手中发起会话后,进入Trace列表查看Trace记录。
操作步骤
系统路径:AI服务云-GPT开发平台-监控优化-会话管理
后续操作:
查看监控日志详情
2.2 监控日志详情
支持查看会话、Trace和步骤详情,让用户能够快速找到所需信息。
前提条件:
在GPT助手中发起会话后,从会话或Trace进入监控日志详情。
操作步骤
系统路径:AI服务云-GPT开发平台-监控优化-会话管理/Trace管理-监控日志详情
(1)监控日志详情-会话
展示会话信息和完整记录,包括会话ID、业务云、业务应用、Trace数、Token数、用时、创建组织、用户名、创建时间。
(2)监控日志详情-Trace
展示Trace信息、用户输入及大模型输出,包括Trace ID、业务云、业务应用、Token数、用时、创建组织、用户名、创建时间。
(3)监控日志详情-Step
展示后端执行步骤的详细信息,包括步骤ID、步骤名、GPT任务、GPT任务节点、大语言模型、Token数、用时、创建时间。
后续操作:
无
监控优化
本文2024-09-23 01:01:58发表“云苍穹知识”栏目。
本文链接:https://wenku.my7c.com/article/kingdee-cangqiong-143318.html