none
Calcular un polinomio RRS feed

  • Pregunta

  • Hola amigos:

    Tengo un texto que caracteriza un polinomio así de simple:

    Declare @Registro Numeric(18,6);
    Set @Registro = 6.650*3.650+5/2;
    Update dbo.Presu_Items Set Cantidad = @Registro Where Id = 2051;

    Al problema lo tengo en el 5/2: Me lo trunca a 2 en vez de 2.5

    Cómo puede hacerse para que me de correctamente el resultado?

    Gracias de antemano


    Juan Carlos

    jueves, 3 de septiembre de 2020 16:29

Respuestas

  • En lugar de 5/2, pon 5.0/2 o 5/2.0 o 5.0/2.0

    Es un error común en muchos lenguajes de programación. Cuando divides un número entero entre otro número entero, el sistema entiende una división entre enteros, y da un resultado entero. Se resuelve cambiando alguno de los valores por un número en coma flotante.

    jueves, 3 de septiembre de 2020 16:57

Todas las respuestas

  • En lugar de 5/2, pon 5.0/2 o 5/2.0 o 5.0/2.0

    Es un error común en muchos lenguajes de programación. Cuando divides un número entero entre otro número entero, el sistema entiende una división entre enteros, y da un resultado entero. Se resuelve cambiando alguno de los valores por un número en coma flotante.

    jueves, 3 de septiembre de 2020 16:57
  • Graciass Alberto:

    Es una amarga noticia porque obliga a manipular manualmente antes de calcular.


    Juan Carlos

    jueves, 3 de septiembre de 2020 20:23
  • Hola

    Veo que ya tienes una respuesta a tu pregunta. Si tienes otra consulta no dudes en abrir otro hilo.

    Saludos!

    --------------------------------------------------------------------------------

    Por favor recuerde "Marcar como respuesta" las respuestas que hayan resuelto su problema, es una forma común de reconocer a aquellos que han ayudado, y hace que sea más fácil para los otros visitantes encontrar la solución más tarde.

    Si tiene algún cumplido o reclamo sobre el soporte de MSDN sientase en la libertad de contactar  MSDNFSF@microsoft.com. 

    jueves, 3 de septiembre de 2020 21:22
    Moderador