工程数据参数中,精确计算和容错计算的区别

栏目:云星空知识作者:金蝶来源:金蝶云社区发布:2024-09-23浏览:1

工程数据参数中,精确计算和容错计算的区别

[概述] 精确算法,使用的累积分子分母的计算方法。容错算法,使用的是单层运算方法。如化工行业的数量小数位比较多,BOM展开时如果累积运算,小数位分子大量数据相乘会出现超出数据运算范围的错误,并且化工行业没必要精确到那么小的小数位,这种建议使用容错算法。电子行业一般小数位比较少,不容易出现此类错误,推荐用精确算法,这样算出来的用量更精确。

工程数据参数中,精确计算和容错计算的区别

[概述]精确算法,使用的累积分子分母的计算方法。容错算法,使用的是单层运算方法。如化工行业的数量小数位比较多,BOM展开时如果累积运算,小...
点击下载文档
确认删除?
回到顶部
客服QQ
  • 客服QQ点击这里给我发消息