| 演算精度について | ▲戻る |
四則演算の内部演算方法を２種類の中からお選びいただけます。
１） 高精度モード（日常計算用 10進数演算）
２） 通常精度モード（工学計算用 2進数浮動小数点演算）
高精度モード（日常計算用 10進数演算）とは？
高精度モードは、事務計算など日常よく使用する計算を行うときに使用するモードです。
通常精度モードに比べて計算結果に誤差が生じにくく、高精度な計算が可能です。
例えば100-100.1+0.1のようなパソコンが通常苦手とする計算を正しく行うことができます。
通常精度モード（工学計算用 2進数浮動小数点演算）とは？
通常精度モードは、主に工学計算を行うときに使用するモードです。
高精度モードに比べて計算速度が速く、扱える数値の範囲が広いのが特徴です。
例えば１×10の4000乗というような膨大な数値を、指数を使って扱うことが可能です。
２つの演算モードの違いを表にまとめました。
| 項目 | 高精度モード | 通常精度モード |
|---|---|---|
| 内部演算方法 | 10進数 演算 | 2進浮動小数点 演算 |
| 計算速度 | 遅い | 速い |
| 有効桁数 | 18桁 | 15桁 |
| 扱える数値の最大値 | ±999999999999999999 | ±1.18×10の4932乗 |
| 扱える数値の最大値を超えた場合 | 桁あふれエラー | 算式異常エラー |
| 扱える数値の最小値 | ±0.000000000000000001 | ±1.18×10の-4931乗 |
| 扱える数値の最小値を超えた場合 | 小数部19桁目を四捨五入 | 算式異常エラー |
| 計算結果の指数(E)表記 | なし | あり （指数部が15以上 又は -5以下の場合に指数表記） |
| 2進/10進変換誤差の発生 | 発生しない | 発生する |
| 2進/10進変換誤差の例 | 計算結果（↓） | 計算結果（↓） |
| (10000000000.9-1E10)*1E10-9E9 | 0 (計算結果に誤差なし) | 3.72529029846191406 |
| 15/100*100-15 | 0 (計算結果に誤差なし) | 8.67361737988403547E-19 |
| 100-100.1+0.1 | 0 (計算結果に誤差なし) | 1.38913403349705256E-18 |
| その他の特徴 | 計算結果（↓） | 計算結果（↓） |
| 1/3*3 | 0.999999999999999999 | 1 |
※2進/10進変換誤差の例は、「計算結果の自動丸め」を行わない設定の時の計算結果です。
※四則演算以外（関数など）は、必ず2進浮動小数点 演算が行われます。
※四則演算以外（関数など）は、必ず2進浮動小数点 演算が行われます。
| 演算モードの設定方法 | ▲戻る |
