カルクノート

カルクノート

技術計算エディター

Windows 7/Vista

98/Me/2000/XP

カルクノートのダウンロード


フェイスブック

ご紹介いただいているサイト
・窓の杜 - ソフトライブラリ 3月版 「カルクノート」
・窓の杜 - 【REVIEW】数式をテキストエディター感覚で入力するだけで解を自動算出「カルクノート」
窓の杜
・ベクター - ソフトライブラリ 「カルクノート」
Vector
・フリーソフトナヴィ - 「カルクノート」 ※レビュー投稿募集中!
フリーソフトナヴィ

算式サンプル 人気ランキング
(2013/03/31~2013/06/29)
No.01 入門用チュートリアル
No.02 体脂肪率(キャリパー法)
No.03 肥満度チェック
No.04 理想のスリーサイズ
No.05 ローン返済額計算
No.06 体表面積(BSA)
No.07 二次方程式の解
No.08 つるかめ算
No.09 子供の身長予測
No.10 入学(入社)年計算
New 海外旅行時のチップ計算
その他の算式サンプルはこちら

  このエントリーをはてなブックマークに追加

0244495

演算精度について▲戻る

P 四則演算の内部演算方法を2種類の中からお選びいただけます。

1) 高精度モード(日常計算用 10進数演算)
2) 通常精度モード(工学計算用 2進数浮動小数点演算)


P 高精度モード(日常計算用 10進数演算)とは?

高精度モードは、事務計算など日常よく使用する計算を行うときに使用するモードです。
通常精度モードに比べて計算結果に誤差が生じにくく、高精度な計算が可能です。
例えば100-100.1+0.1のようなパソコンが通常苦手とする計算を正しく行うことができます。


P 通常精度モード(工学計算用 2進数浮動小数点演算)とは?

通常精度モードは、主に工学計算を行うときに使用するモードです。
高精度モードに比べて計算速度が速く、扱える数値の範囲が広いのが特徴です。
例えば1×10の4000乗というような膨大な数値を、指数を使って扱うことが可能です。


P 2つの演算モードの違いを表にまとめました。

項目 高精度モード 通常精度モード
内部演算方法 10進数 演算 2進浮動小数点 演算
計算速度 遅い 速い
有効桁数 18桁 15桁
扱える数値の最大値 ±999999999999999999 ±1.18×10の4932乗
扱える数値の最大値を超えた場合 桁あふれエラー 算式異常エラー
扱える数値の最小値 ±0.000000000000000001 ±1.18×10の-4931乗
扱える数値の最小値を超えた場合 小数部19桁目を四捨五入 算式異常エラー
計算結果の指数(E)表記 なし あり
(指数部が15以上 又は
-5以下の場合に指数表記)
2進/10進変換誤差の発生 発生しない 発生する
2進/10進変換誤差の例 計算結果(↓) 計算結果(↓)
 (10000000000.9-1E10)*1E10-9E9 0 (計算結果に誤差なし) 3.72529029846191406
 15/100*100-15 0 (計算結果に誤差なし) 8.67361737988403547E-19
 100-100.1+0.1 0 (計算結果に誤差なし) 1.38913403349705256E-18
その他の特徴 計算結果(↓) 計算結果(↓)
 1/3*3 0.999999999999999999 1

※2進/10進変換誤差の例は、「計算結果の自動丸め」を行わない設定の時の計算結果です。
※四則演算以外(関数など)は、必ず2進浮動小数点 演算が行われます。

演算モードの設定方法▲戻る

P 演算モードは「データファイルごとの設定」にて設定可能です。

メニュー「ツール」→「データファイルごとの設定」→「高度な設定」タブを選択してください。
使用したい演算モードにチェックを入れ、OKボタンをクリックしてください。

calcaccuracy_1.png

新規作成時にその演算モードを使用したい場合には、「新規作成時に適用する」にチェックを入れ、OKボタンをクリックしてください。

calcaccuracy_2.png