none
Ayuda con cálculos en visual basic RRS feed

  • Pregunta

  • Saludos, estoy desarrollando una aplicación en visual basic 2013, para realizar los cálculos necesarios, se debe realizar una interpolación lineal, para lo cual aplico la siguiente fórmula:

    krww(2, 1) = krww(0, 1) + ((krww(1, 1) - krww(0, 1)) * (swi - sww(0, 0))) / (sww(1, 0) - sww(0, 0))

    Ya hice un punto de interrupción para verificar que los valores de krww, sww, y swi en las posiciones mostradas son los correctos, el resultado según los cálculos manuales y utilizando la fórmula anteriormente expuesta da 0,1 pero en visual da 0,0999999999999999 .... por qué pasa esto ?. Gracias.

    lunes, 30 de noviembre de 2015 21:09

Todas las respuestas