본문/내용
1.1 (1) 156.2〓(9C.3)16 (2) 0.25〓(0.4)16
(3) 26.4〓(1A.6)16 (4) 1592.2〓(638.3)16
1.2 (1) ( 9C.3)16〓(0.9C3)16*162
(42 9C 33 33 )16, (01000010 10011100 00110011 00110011)2
(2) (0.4)16*160
(40 40 00 00)16, (01000000 01000000 00000000 00000000)2
(3) (26.4)10〓(1A.6)16〓(0.1A6)*162
(42 1A 66 66)16
(4) (1592.2)16〓(638.3)16〓(0.6383)16*163
(43 63 83 33)16
1.3 부동소수점표현의 최대값은
7F FF FF FF
이다. 따라서 이 값은
0.FF FF FF * 167F-40 〓0.FF FF FF *163F
〓0.FF FF FF *1663
〓FF FF FF *1657
〓(165-1)*1657
〓1048576*0.431359*1069〓0.452313*1075
16 진수 6 자리의 최대값은 1048576 이므로 유효숫자가 이 보다
큰 값은 6 자리 수로 마무리 된다. 따라서 정확도는 10 진수 6
자리 까지로 볼 수 있다.
1.4 (1) 8A 32 5C 23〓 -0.325C2.3*16A-40 〓-0.…