分数では 2進法小数では
1/2 0.1
1/4 0.01
1/8 0.001
3/4 0.11
1/5 0.0011001100110011....
◆http://web.phys.chs.nihon-u.ac.jp/~ishida/Suchi12/1-1/1-1.html
◆http://www.algolab.co.jp/~lum/pcnyumon/nyu032.htm
丸め誤差って勉強したのを思い出した。
分数では 2進法小数では
1/2 0.1
1/4 0.01
1/8 0.001
3/4 0.11
1/5 0.0011001100110011....
◆http://web.phys.chs.nihon-u.ac.jp/~ishida/Suchi12/1-1/1-1.html
◆http://www.algolab.co.jp/~lum/pcnyumon/nyu032.htm
丸め誤差って勉強したのを思い出した。