計算結果が合わない2
――キーワード:バイナリ演算誤差
小数点以下の数値を計算すると、非常に小さな誤差が発生することがある。CPUでは内部的に2進数で計算されるが、この際、10進数の小数は2進数で正確に表現できないことが多いため、換算の際に誤差が生じることがある。これを「バイナリ演算誤差」と呼ぶ。
誤差は非常に小さいので表面化することは少ないが、右上の例のように、比較演算子で比較するような場合に、「ぴったり」ではないので異なる結果が返ることがある。この例でも表示桁数を増やしてみると、2のように誤差が生じているのが確認できる。
このようなバイナリ演算誤差の対処法はさまざまだか、この例の場合は前ページの[表示桁数で計算する]オプションで対処できる。
自動的に再計算されないようにする
――キーワード:再計算、[F9]キー
セルに入力した内容にあわせて、数式を自動的に再計算してくれるのがエクセルの強みだが、条件付きの集計などの複雑な数式が大量に入力されていると再計算に時間がかかり、データ入力のためにタイムラグが生じることがある。このようなときは、再計算を「手動」にするといい。
Excel 2007の場合は[数式]タブの[計算方法の設定]から、Excel 2000~2003の場合は「オプション」画面の[計算方法]タブで、 [手動]に設定する。すると数値を変更しても再計算されなくなる。Excel 2007の場合は、[数式]タブから再計算できるほか、全バージョンとも、[F9]キーでブック全体、[Shift]+[F9]キーで表示シートのみを再計算できる。
本記事は「【超保存】アスキー・ドットPC特選 エクセル関数1000技+α」を購入する」から一部抜粋し、編集・再構成したものです。
この連載の記事
-
第5回
ビジネス
桁数を上手く扱えれば、「Excel 2007」でさらに仕事がはかどる! -
第3回
ビジネス
美麗が簡単なグラフ機能 「Excel 2007」で仕事がはかどる! -
第2回
ビジネス
進化したスタイル&編集機能 「Excel 2007」で仕事がはかどる! -
第1回
ビジネス
リボンを知れば「Excel 2007」で仕事がはかどる! -
ビジネス
使おう「Excel2007」 冬期集中講座 - この連載の一覧へ