4D v15Geringere Anzahl signifikanter Stellen beim Datentyp Zahl |
|||||||||||
|
4D v15
Geringere Anzahl signifikanter Stellen beim Datentyp Zahl
|
Operation | Ergebnis in 4D < v15 | Ergebnis in 4D v15 und höher |
String(3216,36 - 3214,89) | "1,47000000000025" | "1,47" |
String(0,321636-0,321489) | "0,000146999999999953" | "0,000147" |
Im allgemeinen reichen 13 signifikante Stellen für Computer-Anwendungen aus, das verbessert auch die Bearbeitung solcher Zahlen. Bedenken Sie, dass Computer-Berechnungen mit Daten vom Typ Zahl immer als Annäherung erfolgen, da diese Zahlen intern in binärer und nicht in dezimaler Form ausgedrückt werden. Der Konvertierungsalgorithmus führt die erforderliche Rundung und Annäherung für die erwartete Darstellung anhand der Anzahl der signifikanten Stellen aus. In ähnlicher Weise werden Vergleiche auf Gleichheit von Daten vom Typ Zahl ausgeführt. Dabei wird das Ergebnis verglichen, wenn zwei Zahlen voneinander subtrahiert werden. Mit dem Befehl SET REAL COMPARISON LEVEL lässt sich der standardmäßige Grad der Genauigkeit solcher Vergleiche in 4D verändern.
Verwendet Ihre 4D Anwendung mehr als 13 Stellen in Daten vom Typ Zahl, müssen Sie u.U. andere Datenformate, wie z.B. Text oder Lange Ganzzahl verwenden. Beachten Sie, dass Daten vom Typ Zahl nicht geeignet sind zum Speichern bzw. Berechnen von Werten mit einer großen Anzahl signifikanter Stellen, wie z.B. Seriennummern oder astronomische Messungen, da deren Genauigkeit von Natur aus begrenzt ist.
Produkt: 4D
Thema: Programmiersprache
4D v15 - Upgrade (Standard Edition) ( 4D v15)