none
Неправильно вычисляется деление RRS feed

  • Вопрос

  • Привет всем!

    Не знаю  что случилось с моей Visual Studio 2010 (лиц.), но вот такой код

    float factor = 8 / 25;

    выдает:

    factor = 0.0

    Не понимаю, что произошло. Почему результат 0.0? Если делать, так:

    float factor = 8.0f / 25;

    то результат правильный 0.32.

    Может кто знает в чем может быть причина и как это исправить. Сейчас сканирую компьютер на вирусы, пока ничего не нашел.

    27 сентября 2012 г. 9:08

Ответы

  • Тут всё правильно работает. Просто 8 и 25 целые числа, результат получается как целое, а потом уже преобразуется в число с плавающей запятой. Так что всё верно работает.
    • Помечено в качестве ответа LIKORIS 27 сентября 2012 г. 9:22
    27 сентября 2012 г. 9:13
    Модератор

Все ответы