数値入力ボックスを3つ(A、B、C)用意しており、AとBには任意の値を入力し、Cは評価式でA-Bを設定し差分を表示します。Aに15桁以上の値を入力すると、Cの値が正しく算出されませんでした。正しい値を算出する方法を教えてください。
SmartDBでは数値データに対して評価式の四則演算にJavaScriptを利用しています。JavaScriptの仕様により15桁以上になると誤差が発生します。
足し算、引き算の場合、sum関数を利用することにより、正しい値を算出することができます。
設定方法
数値入力ボックスAからBを引く場合の評価式は以下です。
sum(数値入力ボックスA, - 数値入力ボックスB)
※足し算の場合は、数値入力ボックスBの「-」を削除します。
注意事項
- sum関数にも制限があり、38桁を超えることができません。