AI开发平台整体介绍

栏目：云苍穹知识作者：金蝶来源：金蝶云社区发布：2024-09-23浏览：1

AI开发平台整体介绍

1 产品概述

1.1 产品介绍

chatGPT 之类的 LLM 技术高速发展令人感到惊奇和兴奋，企业迫不及待的想利用前沿技术实现更智能的应用，可由于欠缺工具栈，企业落地生成式的应用往往会面对如下问题：

我该如何“训练”一个基于我的内容的模型？
怎么让 AI 知道 2021 年以后的事情？
如何避免让 AI 跟用户胡说八道？
微调（Fine-tuning）和嵌入（Embedding）是什么意思？

GPT开发平台，基于金蝶云·苍穹，一站式提供了一套工具栈，正好满足了业务用户和企业用户的这项需要。让开发者（甚至非开发者）可以快速基于大型语言模型搭建出各类生成式应用。

1.2 产品蓝图

上传图片

1.3 业务场景

对应苍穹平台不同的业务应用，AI平台可以支持各种业务场景。

结合开发平台，可以实现表单构建、代码编写、规则配置以及开发问答等功能。

上传图片

结合工作流功能，可以实现对话式流程创建、修改、问答及监控等场景。

上传图片

如果结合轻分析，可以实现对话式轻分析的场景，例如对话式的数据分析、数据探索、业务洞察以及分析报告生成等场景。

上传图片

结合HR、财务以及供应链等领域，还可以实现更多丰富的场景。

2 业务流程图

AI开发平台可灵活的组装到各种业务应用里。在侧边栏中为GPT助手配置一个GPT任务/技能的流程可参考下图。

上传图片

3 亮点特性

AI开发平台的功能主要包括：

提示词工程：兼容多模型，提供可视化测试界面，自定义输入输出变量
任务编排：支持GPT提示、业务操作、助手消息展示等多类型节点的编排
助手侧边栏：侧边栏根据用户使用应用隔离技能，可根据用户输入智能调度
知识库：对文档知识向量化处理，并实现向量检索，可实现根据用户上传的文档生成答案

产品亮点在于，GPT开发平台基于苍穹提供一整套工具栈支持，让每个业务都能轻松构建AI助手。GPT助手侧边栏可以灵活组合苍穹的业务能力与大语言模型的生成能力，并展示多种形态的内容。利用知识库功能盘活企业各类文档资产，实现智能语义问答。

4 功能清单

一级菜单	功能说明
助手	助手个性化设置，支持设置自我介绍、助手人设及提示词。通过添加智能体/任务流，赋予助手更多样化的技能和功能，以适应不同的业务需求。提供调试工具，使用户能够对助手的功能进行调整，确保其表现达到预期的业务效果
智能体	智能体定义及预览与调式。使用智能体定义快速构建各种AI业务场景的智能体
任务流	配置系统内的自定义操作、消息以及GPT提示节点，将大模型与苍穹/星瀚平台的业务能力灵活组合在一起
知识库	文档上传、分块并创建响亮索引，实现根据知识库内的文档生成答案进行问答的功能
提示词	可视化的提示词编排、管理、测试功能，可配置历史对话上下文、自定义输入、输出变量，并关联知识库
插件	支持OpenAPI插件定义、测试，扩展智能体的能力和使用场景
可信层	敏感词库：支持用户配置敏感词库并审查用户输入，提升使用大语言模型的安全性 PII脱敏配置：主要是对个人身份信息进行保护。主要实现对国内银行卡号、国内电话号码以及邮箱进行脱敏保护
监控优化	通过对日志数据分析，提供可视化的LLM应用的调试、测试、评估、监控能力，及时追踪、调试解决问题，优化GPT开发平台性能水平

5 名词解释

专业名词	名词解释
大语言模型	大语言模型（Large Language Model，LLM）指用户通过苍穹GPT开发平台接入的百度文心一言、微软OpenAI以及各类第三方大语言模型。大语言模型利用大规模语料数据进行预训练，以使机器理解人类语言的深度学习模型，是自然语言处理（Natrual Language Processing，NLP）的方式之一，其核心目标是准确地学习和理解人类语言，大语言模型使机器能够像我们人类解释语言一样解释语言，简称为“大模型”。
GPT	GPT（Generative pre-trained transformers，GPT），是一种大语言模型（LLM），也是生成式人工智能的重要框架。GPT模型是基于transformer模型的类神经网络，在大型未标记文字资料集上进行预训练，并能够生成类似人类自然语言的文字。截至2023年，大多数LLM都具有这些特征，并广泛被称为GPT。
提示词	提示词（prompt），用于对AI的一系列指令要求和约束，可插入自定义变量。
自定义变量	开发者可自定义变量插入到提示词中，例如{{variable}}。提示词中的变量值会替换成传入的变量值。
自定义操作	开发者执行的前后端操作，用以满足操控侧边栏，获取数据等场景化的需求。
消息	将信息在侧边栏中展示给用户，支持展示文字、iframe、链接三种类型的消息。
索引方式	利用embedding嵌入模型，将文字信息处理为多维向量，以实现向量搜索等功能。