监控优化

栏目:云苍穹知识作者:金蝶来源:金蝶云社区发布:2024-09-23浏览:1

监控优化

变更记录


产品版本(季度版本号/patch补丁号)

更新内容更新日期
V6.0.8初始版本2024年03月





1 简介

1.1 功能介绍

通过对日志数据分析,提供可视化的LLM应用的调试、测试、评估、监控能力,及时追踪、调试解决问题,优化GPT开发平台性能水平。


功能列表:

  • 会话管理:支持查看从用户会话开始到会话结束的完整沟通记录,提供入口查询监控日志详情,让使用记录有迹可循。

  • Trace管理:支持查看所有的后端执行记录,提供入口查询监控日志详情,让开发人员可追踪至每个执行细节,及时发现问题。

  • 监控日志详情:支持查看所有单次完整的会话记录、后端执行记录及各步骤日志详情。


1.2 应用场景

业务人员:查询会话记录、流量明细,监控GPT任务使用情况。

开发人员:查看日志、调试、测试、评估、监控能力,及时追踪、调试解决问题,优化GPT开发平台性能水平。


1.3 系统路径

【AI服务云】→【GPT开发平台】→【监控优化】 


1.4 关键字段/按钮说明



2 主要操作

2.1 会话列表

支持查看从用户会话开始到会话结束的完整沟通记录,包括会话ID、业务云、业务应用、创建组织、创建人、创建时间、Trace数,提供入口查询会话详情,让使用记录有迹可循。

  • 前提条件:

在GPT助手中发起会话后,进入会话列表查看会话记录。

  • 操作步骤

系统路径:AI服务云-GPT开发平台-监控优化-会话管理

  • 后续操作:

查看监控日志详情

2.2 Trace列表

支持查看所有的后端执行记录,提供入口查询Trace详情,包括Trace ID、会话ID、业务云、业务应用、创建组织、创建人、输入、Token数、耗时、创建时间,让开发人员可追踪至每个执行细节,及时发现问题。

  • 前提条件:

在GPT助手中发起会话后,进入Trace列表查看Trace记录。

  • 操作步骤

系统路径:AI服务云-GPT开发平台-监控优化-会话管理

  • 后续操作:

查看监控日志详情

2.2 监控日志详情

支持查看会话、Trace和步骤详情,让用户能够快速找到所需信息。


  • 前提条件:

在GPT助手中发起会话后,从会话或Trace进入监控日志详情。

  • 操作步骤

系统路径:AI服务云-GPT开发平台-监控优化-会话管理/Trace管理-监控日志详情

(1)监控日志详情-会话

展示会话信息和完整记录,包括会话ID、业务云、业务应用、Trace数、Token数、用时、创建组织、用户名、创建时间。

(2)监控日志详情-Trace

展示Trace信息、用户输入及大模型输出,包括Trace ID、业务云、业务应用、Token数、用时、创建组织、用户名、创建时间。

(3)监控日志详情-Step

展示后端执行步骤的详细信息,包括步骤ID、步骤名、GPT任务、GPT任务节点、大语言模型、Token数、用时、创建时间。

  • 后续操作:

监控优化

变更记录产品版本(季度版本号/patch补丁号)更新内容更新日期V6.0.8初始版本2024年03月1 简介1.1 功能介绍通过对日志数据分析,提供可视...
点击下载文档
上一篇:PII脱敏配置下一篇:助手
确认删除?
回到顶部
客服QQ
  • 客服QQ点击这里给我发消息