none
float lässt kommastellen wegfallen RRS feed

 > 

  • Frage

  • Question
    Anmelden
    0
    Anmelden
    Ich habe eine Konstante definiert: 
    const float pi = 3.1415926F;
    Bei einer Ausgabe in die Konsole kommt aber nur 3,141593 heraus, also als ob die 6 aufgerundet wurde. Warum?
    Mittwoch, 14. November 2012 20:03
    |

Antworten

  • Question
    Anmelden
    0
    Anmelden

    Hallo, float ist eine sogenannte Fließ- oder Gleitkommazahl. Dabei kann das Komma seine Position im Binärsystem ändern. Mahr dazu siehe hier. Dort sind auch Beispiele aufgeführt, wo für uns einfach aussehende Rechnungen falsche ergebnisse liefern. Float hat eine einfache Genauigkeit. Double kann das richtig abspeichern, da dieses eine doppelte Genauigkeit besitzt.

    PS: Math.Pi enthält schon Pi als Konstante und dort auch mit deutlich mehr Stellen.

    Koopakiller - http://koopakiller.ko.ohost.de/

    • Als Antwort vorgeschlagen Olaf HelperMVP Donnerstag, 15. November 2012 06:23
    • Als Antwort markiert Csecnac Donnerstag, 15. November 2012 17:44
    Mittwoch, 14. November 2012 20:11
    |
    Moderator