报表客户端计算尾差分析
问题现象:如图所示报表客户端两个相等的数相减结果不等于零
该问题也反馈给报表控件厂商,他们给的反馈是:
由于double的计算机制就是这样,没办法彻底解决该问题。
我们现在可以做的就是对结果单元格设置小数位,确保在我们需要的小数位范围内是正确的。
Excel也有同样问题:
结论:由于报表客户端内部计算使用的是double,不可避免的出现一些尾差现象。这些都是浮点自身的问题,可通过 ROUND 函数来优化一下小数点位数。
报表客户端计算尾差分析
问题现象:如图所示报表客户端两个相等的数相减结果不等于零该问题也反馈给报表控件厂商,他们给的反馈是:由于double的计算机制就是这样,...
点击下载文档
本文2024-09-23 02:01:41发表“云星空知识”栏目。
本文链接:https://wenku.my7c.com/article/kingdee-k3cloud-149749.html
您需要登录后才可以发表评论, 登录登录 或者 注册
最新文档
热门文章