电脑桌面
添加蚂蚁七词文库到电脑桌面
安装后可以在桌面快捷访问

二开案例.python脚本.最佳实践之小数处理

来源:金蝶云社区作者:金蝶2024-09-237

二开案例.python脚本.最佳实践之小数处理

【场景】二开案例.python脚本.最佳实践之小数处理 【结论】不要再脚本中直接定义小数,避免因python隐式转换导致的转换为float,而导致的精度丢失 【原因】python脚本语言,没有decimal类型,自动根据传入值的可能做隐式转换 【结论1】系统中的小数值,使用的是decimal处理; 直接定义小数,使用的是float 类型 <0>系统中的小数值 ![image.webp](/download/0100bd3cf2bfb4884bdbb7e3fd336af6bc78.webp) ![image.webp](/download/01006c440aaee714476da2c2e7ff9be49c2b.webp) <1>直接定义整数,使用的是int(脚本语言推导转型) ![image.webp](/download/010064ae7721bd1d4fdeb056bbaa75e67e64.webp) <2>直接定义小数,使用的是float (脚本语言推导转型) ![image.webp](/download/0100abc0e8eb28034993a98276cff52332d4.webp) 【结论2】在进行算术运算时,在没有float参与的情况下,最终依然计算为deciaml,准确计算; 当有float参与计算时,计算精度丢失 <0>系统小数值直接计算,结果正常 ![image.webp](/download/0100ae5620f5e35c4261a1a96f653ac4b95e.webp) <1>使用定义整数参与计算,结果正常 (decimal + int = decimal) ![image.webp](/download/0100990f67625046457aae1d

二开案例.python脚本.最佳实践之小数处理

【场景】二开案例.python脚本.最佳实践之小数处理【结论】不要再脚本中直接定义小数,避免因python隐式转换导致的转换为float,而导致的精度...
点击下载文档文档为doc格式

声明:除非特别标注,否则均为本站原创文章,转载时请以链接形式注明文章出处。如若本站内容侵犯了原著者的合法权益,可联系本站删除。

已经是第一篇
确认删除?
回到顶部
客服QQ
  • 客服QQ点击这里给我发消息
QQ群
  • 答案:my7c点击这里加入QQ群
支持邮箱
微信
  • 微信