C++和C#计算精度不一致

Question

遇到一个C++和C#计算精度不一致的问题。

同样是cos(1.5707963267948966)

C++计算结果为 0.000000000000000061230317691118863 （32位上的）
C#计算结果为  0.000000000000000061232339957367660

因为是computation engine，所以对精度要求很高，以前的benchmark是c++，现在c#的enginge怎么也没法完全一致，一查是这个原因。

好像只在接近90度的时候不一样。原因是什么呢？

有谁遇到过类似的问题吗

Answer 1

有效位数不同吧。http://msdn.microsoft.com/en-us/library/system.double.aspx这里说System.Double默认有效位数只有15位

Visual C++编译器的double精度设置参考http://msdn.microsoft.com/en-us/library/y0ybw9fy.aspx

 

---

---

The following is signature, not part of post
Please mark the post answered your question as the answer, and mark other helpful posts as helpful, so they will appear differently to other users who are visiting your thread for the same problem.
Visual C++ MVP

Answer 2

double在C++默认精度是六位。你万一害怕精度不够，可以利用iomanip头文件里的setprecision函数或用iostream中的precision操作流算子得到高精度的double。

但是在C#中应该有15位左右。