报表客户端计算尾差分析

栏目:云星空知识作者:金蝶来源:金蝶云社区发布:2024-09-23浏览:1

报表客户端计算尾差分析

问题现象:如图所示报表客户端两个相等的数相减结果不等于零

图片.webp

该问题也反馈给报表控件厂商,他们给的反馈是:

图片.webp

由于double的计算机制就是这样,没办法彻底解决该问题。

我们现在可以做的就是对结果单元格设置小数位,确保在我们需要的小数位范围内是正确的。

Excel也有同样问题:

图片.webp

图片.webp


浮点误差.webp

结论:由于报表客户端内部计算使用的是double,不可避免的出现一些尾差现象。这些都是浮点自身的问题,可通过 ROUND 函数来优化一下小数点位数。

报表客户端计算尾差分析

问题现象:如图所示报表客户端两个相等的数相减结果不等于零该问题也反馈给报表控件厂商,他们给的反馈是:由于double的计算机制就是这样,...
点击下载文档
确认删除?
回到顶部
客服QQ
  • 客服QQ点击这里给我发消息