none
Power()的精确问题 RRS feed

  • 问题

  • SELECT POWER(CAST(2 AS DEC(20)),63)
    --9223372036854775800
    
    --WINDOWS计算器算出来是:
    --9223372036854775808
    这算不算是SQL的一个BUG呢?
    2010年7月8日 6:39

答案

  • BOL里面说得很清楚,power是用float进行计算的,所以精度有限。
    想不想时已是想,不如不想都不想。
    • 已标记为答案 htl258 2010年7月8日 8:12
    2010年7月8日 7:44
    版主

全部回复