sqlserver decimal乘除法精度问题
Sqlserver2016执行图（Figure 1）中的脚本为什么会丢失精度，而执行图（Figure 2）为什么精度会超过7。
Figure 1
Figure 2
精度计算公式
图（Figure 1）计算结果：
Precision=25+20+1=46
Scale=7+7=14
Integral part=46-14=32
Result scale=min(14,38-(46-14))=6
图（Figure 2）计算结果：
Precision=20+20+1=41
Scale=7+7=14
Integral part=41-14=27
Result scale= min(14,38-(41-14))=11
sqlserver decimal乘除法精度问题
Sqlserver2016执行图（Figure 1）中的脚本为什么会丢失精度，而执行图（Figure 2）为什么精度会超过7。 Figure 1 Figure 2 精度计算...
点击下载文档
本文2024-09-16 16:44:15发表“k3wise知识”栏目。
本文链接：https://wenku.my7c.com/article/kingdee-k3wise-11184.html
相关文章
您需要登录后才可以发表评论， 登录登录 或者 注册
最新文档
热门文章
