启动方案介绍
变更记录
产品版本 | 更新内容 | 更新日期 |
V5.0.017 | 初始版本 | 2021年01月01日 |
V5.0.020 | 增加2.7 查看下一次执行计划章节 | 2023年04月17日 |
V6.0.002 | 新增了启动方案调试功能,用户可以针对某一集成方案进行执行调试,并查看调试结果。 | 2023年10月31日 |
V6.0.9 | 调试启动支持在日志输出执行sql | 2024年4月8日 |
1 简介
1.1 功能介绍
数据集成方案需要通过配置启动方案来触发的。启动方案目前支持了四种启动机制:人工、定时、事件触发和消息启动。能够基于单个数据集成方案设计多种启动方案,完成一个完善的业务集成。
1.2 应用场景
人工启动:通过立即执行,执行启动方案。适用于调试或者测试环境,或者同步时效要求很低的场景
事件触发:选择源对象上的事件,作为启动方案触发的条件。事件触发后,会自动下发数据到连接器中,监听该事件,自动触发集成方案执行。适用于同步时效要求极高的场景或者上下游业务有依赖的场景
定时启动:定义集成方案的执行频率(如每天12点自动运行),按照执行计划自动运行。同步时效一般,可以集中在某个时间点批量同步
消息启动:指定源或目标的消息主题,当接收到消息时触发该方案
其他说明:支持接口调用启动方案执行、方案需要启用后才能执行
1.3 系统路径
【集成管理】→【数据集成】→【启动方案】
1.4 字段/按钮说明
字段说明:
字段名称 | 详细解释 |
类型 | 启动方案类型,包括人工启动、定时启动、事件触发、消息启动等 |
编码 | 启动方案编码 |
名称 | 启动方案名称 |
状态 | 启动方案禁用/启用状态 |
触发次数 | 当前启动方案执行次数 |
最近触发时间 | 最新一次当前方案被触发时间 |
按钮说明:
按钮名称 | 详细解释 |
新增 | 新增启动方案 |
修改 | 修改启动方案 |
删除 | 删除启动方案,不支持批量删除 |
启用/禁用 | 启用/禁用启动方案 |
立即执行 | 支持通过立即执行出触发人工启动类型,并且输入参数立即执行定时启动与事件触发类型 |
执行结果 | 启动方案整体执行结果 |
执行日志 | 启动方案单次执行日志 |
导入/导出方案 | 支持方案导入/导出。特别说明:事件触发的启动方案导入时会保持启用状态(如果系统存在该资源并已经启用),以避免方案更新时出现事件触发数据丢失。 |
触发日志 | 事件触发方案支持查看触发日志 |
历史版本 | 支持查看历史版本 |
关联查询 | 查询出将该方案作为后置任务的启动方案 |
资源引用关系 | 查看当前启动方案所有依赖资源以及引用关系 |
2 主要操作
2.1 新增启动方案
步骤1:请进入启动方案列表,点击“新增”按钮
步骤2:选择所需的启动方案类型—人工启动、事件触发、定时启动或消息启动
步骤3:选择对应的数据集成方案
步骤4:输入“编码”、“方案名称”
步骤5:选择是否“保存全部日志”: “保存全部日志”用于默认不打开时只保存失败状态的日志,打开后保存全部状态的日志,包括成功、失败、忽略等其他所有状态的日志
步骤6:填写“失败日志数阈值”,该参数为单次任务执行记录失败日志数的最大值(默认500条),当超过该阈值时任务继续执行,但不再记录失败日志
步骤:7:填写控制参数,控制启动方案运行时的性能参数,重试间隔,重试策略等
2.2 公共控制参数介绍
最大线程数:
默认不启用多线程;如果指定,则最多启用指定数目的线程执行该集成方案以减少总时长。警告:无限制的增加线程并不总能加速集成过程,建议不超过5,最大允许设置32。注意,以下场景不支持多线程:单个事务、层级结构数据集成、或总行数少于10时。
目标单批量大小:
集成平台初始化操作在目标系统推送数据时尽可能采用批处理模式以提高性能。当“目标单批量大小”设置为 >1 时,推送数据时使用指定的批量大小。当“目标单批量大小”设置为 ﹤=1 时,推送数据时将不采用批处理模式。以下场景不支持批量处理:1.层级结构数据;2.数据集成方案设置了动态代理用户;3.需要调用多个操作;4.目标系统不支持批量接口。使用前提:数据集成方案关闭“记录源单/目标单ID关联关系"和”记录单据集成日志“,启动方案关闭”保存全部日志“选项。
最大重试次数:
方案执行失败时的自动重试的最大次数,不配置取默认值,默认最大重试次数为3,配置为0时则表示不需要重试。
重试间隔(分钟):
方案执行失败后的重试间隔,格式为使用逗号分隔的整数,例如:1,3,5 表示失败后分别等待1分钟、3分钟、5分钟予以重试,默认重试间隔为(1,8,27)分钟;如果配置的间隔数比重试次数少,多出来的次数用最后一个间隔来计算重试延时。
互斥锁标志:
如果设置了“互斥锁标志”,那么相同“互斥锁标志”的启动方案禁止并发执行。通常情况下,如果需要互斥执行的方案,可以将“启动方案编码”作为互斥锁标志;如果需要设置动态锁标志,采用格式 #{param_name} 引用启动方案的参数值作为互斥锁标志。
时间戳属性:
指定源单的时间戳属性,若源单数据中的时间戳字段值没有变化,则再次同步时会忽略该行数据。
禁止记录追溯信息:
对于大数据量初始化的功能,建议启用此选项屏蔽追溯功能,以免在执行过程耗费太多数据库存储空间记录追溯信息。
2.3 各类启动方式特殊配置
人工启动:适用于调试或者测试环境,或者同步时效要求很低的场景;通过点击“立即执行”按钮,执行启动方案
事件触发:适用于同步时效要求极高的场景或者上下游业务有依赖的场景;
选择源对象上的触发事件(事件根据集成对象所支持的监听事件而定),作为启动方案触发的条件;事件触发后,会自动下发数据到连接器中,监听该事件,自动触发集成方案执行
事件触发的人工补偿:事件触发类型的启动方案,在启动方案列表中点击“立即执行”按钮,弹出“事件启动方案过滤配置”弹出框,界面的过滤字段为集成方案中配置的源单候选键字段,如配置多个则把多个候选键字段带过来,填写完候选键字段值后点击执行按钮就会进入执行结果界面。
注:人工补偿执行时可以指定特定补偿代理用户作为执行人。
定时启动:定义集成方案的执行频率、执行计划,以及执行作业的用户,按照系统调度执行。
同步时效一般,可以集中在某个时间点批量同步执行。频率支持选择,也支持自定义。每天凌晨1点执行一次:0 0 1 ? * * 。
注:当选择执行频率为自定义时,可以点击执行计划输入cron表达式,并实时预览未来20次的执行时间。
消息启动:启动方案的启动类型为“消息启动”,源系统和目标系统集成时需要用到消息服务选择该模式,需要配置数据获取和推送的消息主题。
注意:目标数据推送方式选择消息队列,且目标单批量大小大于1时不支持以下功能:(1)保存全部日志(启动方案开关);(2)记录单据集成日志(数据集成方案开关)。相关日志请在消息发布主题日志中查看。
2.4 其他高级配置
数据过滤:启动方案中配置过滤条件 ,支持源对象的过滤。集成服务云除了数据集成方案支持过滤外,同时支持在启动方案配置过滤条件,用于过滤源对象的数据,提高同步效率
事件处理:启动方案可以配置单据同步成功时、单据同步失败时、集成任务成功时、集成任务失败时等事件处理
回调信息:配置回调的苍穹微服务配置信息,此处按实际需求填写业务微服务信息,填写的JSON格式字符串参考如下:{"appId":"iscb","cloudId":"isc","serviceName":"TestService","methodName":"call"}. 回调信息将逐步放弃维护,建议使用上方的事件处理来支持
重定向:重新指定来源系统或目标系统,使同一个数据集成方案可以用于其他同类系统的数据集成。
指定重定向的来源系统,运行时从该系统取数。注意:重定向的来源系统必须与数据集成方案的“源对象”所属的系统在业务上完全兼容,否则可能导致执行失败,甚至损坏目标系统的业务数据。
指定重定向的目标系统,运行时目标数据推送至指定的系统。注意:重定向的目标系统必须与数据集成方案的“目标对象”所属的系统在业务上完全兼容,否则可能导致执行失败,甚至损坏目标系统的业务数据。
注意:重定向暂时不支持包含候选键类型的值转换规则的数据集成方案。
2.5 上/下游启动方案
启动方案列表界面上选中启动方案后点击“上游启动方案”或“下游启动方案”。
可以查找出所有将该启动方案设置为后置任务的启动方案,或该方案后置任务中的启动方案。
可以在启动方案的查看页面中的后置任务页签中查看设置的后置启动方案。
2.6 资源引用关系
启动方案列表页面选中对应的启动方案,从“更多”按钮下拉框中可点击“资源引用关系”按钮,查看当前启动方案所有的依赖资源及其引用关系图。
以当前启动方案为主资源,可以查看其上游的前置任务启动方案,以及所依赖的集成方案资源。下游依赖资源同样还可以继续穿透查看。
同时点击对应的资源块,可以查看详细的节点内容。
2.7 查看下一次执行计划
启动方案表单界面增加查看定时任务下次执行的按钮“下次执行计划”。启用的定时类型启动方案后,若方案过期时间在当前时间之后,则可以查看下次执行计划时间。
注:前提是当前环境已使用集成云调度引擎。
2.8 启动方案支持调试
启动方案目前支持执行调试,且可以进行执行打断点和填写表达式进行求值。
步骤1:选中想要调试的启动方案,并点击“立即执行”按钮下的“调试执行”。
注:调试执行前,启动方案必须是“启用”状态,否则无法正常弹出调试界面。
步骤2:操作确认,确定开始执行调试。
步骤3:操作确认:确定开始执行调试,方案执行成功后,可以返回调试界面查看调试情况。
步骤4:在表达式求值中输入#vars,并点击按钮,可以在输出控制台打印该启动方案使用的所有参数。
步骤5:点击左侧侧边栏,可以在对应启动方案的不同节点处打断点。
步骤6:如果集成方案中有使用脚本进行sql查询,则可以在日志页签查看执行的原始sql
启动方案介绍
本文2024-09-23 00:48:29发表“云苍穹知识”栏目。
本文链接:https://wenku.my7c.com/article/kingdee-cangqiong-141868.html