2023-10-27から1日間の記事一覧

コンピュータの小数

・固定小数点数 固定小数点数とは、コンピュータにて整数部のビット列と小数部のビット列とで表された数である。ただし表せる数は分母が2の累乗のものに限る。3は分数の形では3/(2^0)と表せるので分母が2の累乗であり、0.75は分数で3/(2^2)と表せるので分母…

コンピュータでの減算

コンピュータは減算ができないので、A-BはA+(-B)に変換して計算する。例えば7-2はコンピュータは7+(-2)として計算する。 コンピュータは、全ビットを反転して1を足す(2の補数にする)ことで正の数を負の数にする。例えば、コンピュータは3(ビット列は00000011…