|
|
2005年12月 1日
■ マイナス値の四捨五入 |
１軸の上下方向に移動する、
位置決めユニットのソフトを設計した時の事です。
位置決めの座標を決める為に演算した結果から有効桁数を少数点２位と決め、少数点第３位を四捨五入しました。
四捨五入とは、文字通り、数の位から１から４までを切り捨て、５から９までを切り上げます。
少数点第３位を四捨五入することは、
０．０１１から０．０１４までは、０．０１で
０．０１５から０．０１９までは、０．０２と
なります。
そこで、マイナスでは、どうなるか？
座標系で考えると
０を基準して＋方向は、大きく－方向は、小さくすると考えます。
－０．０１１から－０．０１４までは、－０．０１で
－０．０１５から－０．０１９までは、－０．０２と
考えました。
数学的には、大丈夫かもしれませんが、
座標系の動きを考えた時には
マイナスの値は、絶対値をした上で四捨五入をしましょう。
人気ブログランキングの 科学・技術(全般) ランキング に登録しています。 応援して頂けると幸いと存じます。
Category :
4 ソフトウェア設計
