none
奇怪的除法問題??? RRS feed

  • 問題

  • 請問各位大大..

    Win XP + VB.Net 2008

    程式:
    Dim a As Double = 110 / 1.1

    理論上結果應該是  100
    用Msgbox秀出來, 結果也是  100 (正確的)
    但是存入資料庫後,結果卻是  99.999999999999986
    然後我就設了中斷點, 去看a的值, 結果真的是  99.999999999999986

    請問....這要怎麼辦?????   它應該是整除啊????

    請大大指點.

    努力吸收新知的海綿~
    • 已移動 小朱MVP, Moderator 2009年9月6日 上午 12:58 (從:Visual Studio一般討論區(General))
    2009年9月5日 下午 01:27

解答

  • 依需求而定~
    甚至選用特定的變數型態,例如 Decimal ,或是使用相對精度調整,取有效位數 10 位數後的結果。
    論壇是網友平等互助 保證解答請至 微軟技術支援服務
    • 已標示為解答 TakoQQ 2009年9月7日 上午 01:38
    2009年9月6日 上午 06:21

所有回覆