22.02.18 실수형의 범위와 정밀도

Saparian·2022년 2월 19일
0

오늘의배움

목록 보기
19/53

자료형 중 실수형 타입은 2가지 타입이 있다.

  • float : 4 byte
  • double : 8 byte

실수형 타입도 정수형과 마찬가지로 오버플로우가 일어나지만, 결과값은 최소값이 아닌 "무한대"이다.
정수형과 반대로 언더플로우도 일어나며, 결과값은 "0"으로 수렴한다.

float의 경우 정수형과 동일한 4 byte의 값으로 데이터를 저장하나 정수형보다 훨씬 큰 수를 저장할 수 있다.

하지만 "정밀도"라는 개념이 있어서 정밀도 이상의 범위는 저장되지 않는 단점이 있다.

정밀도
float : 소수점 7번째 자리
double : 소수점 15번째 자리

0개의 댓글