問1 次の10進小数のうち,2進数で表すと無限小数になるものはどれか。
ア 0.05 イ 0.125 ウ 0.375 エ 0.5
問2 16進小数0.FEDCを4倍した値はどれか。
ア 1.FDB8 イ 2.FB78 ウ 3.FB70 エ F.EDC0
問3 14けたの16進数の最大値は,10進数で表すと何けたか。ここで,log10 2 = 0.301とする。
ア 15 イ 16 ウ 17 エ 18
問4 10進数−5.625を,8ビット固定小数点形式による2進数で表したものはどれか。ここで,小数点位置は,4ビット目と5ビット目の間とし,負数は2の補数表現を用いる。
ア 01001100 イ 10100101 ウ 10100110 エ 11010011
問5 浮動小数点表示において,仮数部の絶対値の最上位けたが0以外になるように, けた合わせする操作はどれか。
ア 切上げ イ 切捨て ウ けた上げ エ 正規化