写真

NEWS

お知らせ

  • ITソリューション科

PCラボだより・・・誤差ってなに?

x ライン Instagram Facebook
写真

みなさんこんにちは、ITソリューション科の大島です。授業の紹介をシリーズ化しながら、いろいろな問題解決(ソリューション)をしていきたいと思います。
◎Excelを使っているとき、計算式や表示はあっているのに、判定処理などで間違った答えが出て困ったことはありませんか?
IT女子考え中顔
 
 
 
 
 
これは、Excelでは小数点以下の計算が正しく行えないために起こる現象です。つまり、小数点以下の計算には誤差が生じるからなのです。
例えば、下の計算式は表示上は「8.2-7.2=1.0」で正しいのですが、実際の中身は「0.99999999・・・・・」になっているため、不適切な判断表示になってしまいます。エラー表示がされないのでやっかいですよね。
gosa2
 
このような計算結果にならないように注意すればいいのですが、それじゃぁExcelを使っている意味がありません。そこで、一番簡単な方法はROUND関数を使うことです。
●ROUND関数とは、数値を指定した桁数で四捨五入してくれます。gosa3
 
なぜこのような現象が起きるかは専門知識が必要なので難しいところはブラックボックス化して、ROUND関数の使い方だけ覚えてみましょう!どこの桁で四捨五入するかは考えてね。
IT女子ガッツ全身※イラスト:まんがアニメ科 三浦先生作
 

専門学校デジタルアーツ仙台
専門学校デジタルアーツ仙台