4D v15Números Reais, redução do número de dígitos significativos |
|||||||||||
|
4D v15
Números Reais, redução do número de dígitos significativos
|
Operação | Resultado em 4D < v15 | Resultado em 4D v15e superior |
String(3216.36 - 3214.89) | "1.47000000000025" | "1.47" |
String(0.321636-0.321489) | "0.000146999999999953" | "0.000147" |
O uso de 13 dígitos significativos para os números reais é geralmente adequado para aplicações informáticas e melhora o processamento destes números. Lembre que os cálculos informáticos nos números reais sempre se realizam por aproximação, já que estes números se expressam internamente sobre uma base binária e não decimal. O número de dígitos significativos permite que o algoritmo de conversão para realizar a aproximação necessária para obter a representação esperada. Da mesma forma, as comparações de igualdade de números reais são levadas a cabo mediante a análise dos resultados, quando os dois números se restam (em 4D, o grau de precisão por padrão destas comparações pode ser modificado utilizando o comando SET REAL COMPARISON LEVEL).
Se sua aplicação 4D utiliza os 15 primeiros dígitos dos números reais, é possível que tenha que utilizar outros formatos de dados, como texto ou inteiros longos. Tenha em conta que, como se explicou anteriormente, os números reais não são adequados para o armazenamento e/ou o cálculo de valores com um grande número de dígitos significativos, como números de série ou medições astronômicas, já que sua precisão está limitada por natureza.
Produto: 4D
Tema: Language
4D v15 - Update (edição standard) ( 4D v15)