실수형을 저장할때는 다음과 같은 형태로 저장한다.
- ± M * 2E
4byte(32bit)인 float의 경우 데이터 저장형식은 아래와 같다.
1 bit : 부호
8 bit : E (지수, -127~128)
23 bit : M (가수, 10진수로 7자리 정밀도)
8byte(64bit)인 double의 경우 데이터 저장형식은 아래와 같다.
1 bit : 부호
11 bit : E (지수, -1023~1024)
52 bit : M (가수, 10진수로 15자리 정밀도)
실수라고 하더라도 데이터 저장형식의 한계(정밀도)에 의해서 정밀도를 넘어서는 범위의 수의 계산에서는 오차가 일어날 수 있다.
