ロボットとか
ロボットとかのブログ
気がづいたら3か月も更新なしだったので小ネタを．
最近Javaを触る機会があったのでその時の問題．
Javaの二進数表現において0.1は次のような無限級数で表現される．
0.1 = 1/16 + 1/ 32 + 1/128 + ……
時間などの問題から計算を途中で打ち切ってしまうため，0.1を浮動小数点で正しく表すことができず，打切り誤差が生じてしまう．
解決方法としては，BigDecimalクラスを用いたり，10で除算するなどの方法がとられる．BigDecimalクラスは計算負荷が高いが正確に計算することができる．
最近Javaを触る機会があったのでその時の問題．
Javaの二進数表現において0.1は次のような無限級数で表現される．
0.1 = 1/16 + 1/ 32 + 1/128 + ……
時間などの問題から計算を途中で打ち切ってしまうため，0.1を浮動小数点で正しく表すことができず，打切り誤差が生じてしまう．
解決方法としては，BigDecimalクラスを用いたり，10で除算するなどの方法がとられる．BigDecimalクラスは計算負荷が高いが正確に計算することができる．
[1回]
PR
この記事にコメントする
この記事へのトラックバック
この記事にトラックバックする：
プロフィール
| 名前：H238/ながつき |
| このブログについて： |
| ロボットについての勉強などを中心に勝手に書いていきます．あくまで本人のメモなので期待しないように． ちなみにブログデザインは趣味． |
ブログ内検索
[活動101] [活動102] [活動103]
[SH2] [マイコン]
[電子回路]
[プログラム] [VS] [OpenCV]
[知能ロボ]
[プレゼン] [CAD]
カレンダー
| 04 | 2024/05 | 06 |
| S | M | T | W | T | F | S |
|---|---|---|---|---|---|---|
| 1 | 2 | 3 | 4 | |||
| 5 | 6 | 7 | 8 | 9 | 10 | 11 |
| 12 | 13 | 14 | 15 | 16 | 17 | 18 |
| 19 | 20 | 21 | 22 | 23 | 24 | 25 |
| 26 | 27 | 28 | 29 | 30 | 31 |
カテゴリー
最新CM
[11/13 SLT-A65]
[12/01 siawase]
[05/01 H238]
[05/01 H238]
[05/01 ねこう]
アーカイブ
バーコード
