実数値の、有効桁数の縮小

ホーム

4D v15

4D v15 - アップグレードリファレンス(標準版)

ランゲージ

実数値の、有効桁数の縮小

4D v14 R3から導入

実数の小数部分を表すのに使用される有効桁数は、以下の様に削減されました:

以前のバージョンでは、この桁数は15桁でした。

4D v15 以降のバージョンでは13桁になりました。

この変更が関係するのは実数をテキストに変換する際に限られ、内部での表現(保存)、または実数同士の計算には関係しません。つまり、実数の正確性に影響はないという事です。

この新しい原理は、テキストで表示した際に正確性の保証できない最後の2桁を含めない、というものです。この目的は、実数の演算が誤ったテキストとして結果が返ってくる状況を限定することです。例えば、この原理により、以下の様な場合に有効な結果を得ることができます:

演算	v15より前の4Dでの結果	v15以降の4Dでの結果
String(3216.36 - 3214.89)	"1.47000000000025"	"1.47"
String(0.321636-0.321489)	"0.000146999999999953"	"0.000147"

有効桁数13桁を実数で使用することは、通常コンピューターアプリケーションにおいて十分な桁数であり、これらの数字の処理を向上させます。コンピューター内部での実数の計算は、常に二進法と近似を使用して行われるものであり、10進法が使われているわけではないことに注意して下さい。有効桁数は、変換アルゴリズムが切り上げ・切り下げや近似によって期待した数値を得られるようにします。同様に、実数の等式比較は、二つの数字をそれぞれ互いに減算し合った結果を分析することによって行われています(4Dでは、この比較のデフォルトの正確性は SET REAL COMPARISON LEVEL コマンドを使うことによって変更することができます)。

もしあなたの4Dアプリケーションが実数の最初の15桁を使用する場合、データフォーマットをテキストまたは倍長整数に変換する必要がでてくる可能性があります。上記で説明があるように、実数はその性質から正確性に限界があるために、大量の有効桁数が必要となる値の保存や計算(例えばシリアル番号や天文学的数字など)には向いていません。