none
C++和C#计算精度不一致 RRS feed

  • 问题

  • 遇到一个C++和C#计算精度不一致的问题。

    同样是cos(1.5707963267948966)

    C++计算结果为 0.000000000000000061230317691118863 (32位上的)
    C#计算结果为  0.000000000000000061232339957367660

    因为是computation engine,所以对精度要求很高,以前的benchmark是c++,现在c#的enginge怎么也没法完全一致,一查是这个原因。

    好像只在接近90度的时候不一样。原因是什么呢?

    有谁遇到过类似的问题吗

    2010年9月21日 10:42

答案

全部回复