0.1 + 1.1 == 1.2 는 false?

나호영·2023년 3월 2일

IEEE 754 표준 부동 소수점을 처리하는 방식으로 0.1을 메모리에 이진수로 저장하면 0.1은 이진수로 표현할 시 무한소수이기 때문에 한정된 메모리 공간안에서 어쩔 수 없이 어느 부분에서 잘리게 된다. 이 때 잘린 만큼의 오차가 발생하는데 이 때문에 위와 같은 오류가 발생한다.

profile
공부 내용 기록

0개의 댓글