[TIL] 2025-01-14_BigDecimal

🔫 키오스크 과제를 구현하며 겪은 문제점과 해결방법, 새로 알게된 점을 기록합니다.

매번 습관처럼 Double 대신 BigDecimal을 사용하지만, 그 이유를 확실히 정리하지 않았는데 이번 과제에서 stream으로 구현하여 반환받은 결괏값에 오차가 발생하여 이번 기회에 소수점 연산에서 왜 BigDecimal을 써야 하는지 정리해보았다.

문제점

장바구니에 담긴 모든 메뉴의 총 금액을 출력하는 메서드 getTotalPrice()를 구현하고 실행

public double getTotalPrice() {
    return cartItems.entrySet().stream()
                .mapToDouble(i -> i.getKey().getPrice() * i.getValue())
                .sum();
}

13.8 + 8.9 = 22.7 인데, 콘솔에 출력된 총 금액은 22.700000000000003 으로 출력되었다.
🤔 오차가 발생하는 원인이 무엇일까?

원인

• 실수 자료형
  • float : 대략 -3.4E38 ~ 3.4E38, 7자리 정밀도 (4byte, 2³²)
  • double : 대략 -1.7E308 ~ 1.7E308, 15자리 정밀도 (8byte, 2⁶⁴)

오차는 실수 자료형의 부동소수점 표현으로 발생한다.

고정소수점(fixed point)
정수를 표현하는 비트와 소수를 표현하는 비트 수를 미리 고정하고 해당 비트만을 활용하여 실수를 표현

부동소수점(floating point, 浮動)
'소수점이 떠서 움직인다.' → 소수점이 옮겨다니며 실수를 표현
부동소수점을 표현하는 다양한 체계가 있다.
일반적으로 가장 널리 쓰이는 표준은 IEEE 754 이다.

✏️ 실수 자료형 float, double은 고정소수점에 비해서 더 큰 범위의 실수를 표현할 수 있다.
→ int와 float는 4byte로 크기가 동일하지만 float의 표현범위가 훨씬 크다.

컴퓨터는 위와 같은 방식으로 소수를 2진법으로 표현하는데 부동소수점 표현 방식으로 0.2를 표현하는 경우 0.001100110011... 와 같이 0011이 무한으로 반복되는 수가 된다. 이때 컴퓨터는 0.2와 같이 무한으로 반복되는 수는 정확한 값으로 저장하지 않고 근사치로 저장하는데 저장된 근사치로 연산을 하는 경우 0.2가 아닌 0.2에 근접한 수로 연산하는 것과 같으므로 +,- 오차가 발생한다.

public class FloatDoubleTest {
    public static void main(String[] args) {
        // float형
        float num1 = 0.3f;
        float num2 = 0.2f;
        System.out.println(num1 - num2); // 0.1
        System.out.println(2.0f - 1.1);  // 0.9

        // double형
        double num3 = 2.0;
        double num4 = 1.1;
        System.out.println(0.3 - 0.2); 	 // 0.1
        System.out.println(num3 - num4); // 0.9
    }
}

▶︎ 실행결과

해결 방법

BigDecimal

불변의 임의의 정밀도 부호가 있는 소수.
임의의 정밀도 정수 비스케일 값과 32비트 정수 스케일로 구성된다.
→ 근사값이 아니라 유효숫자와 소수점 숫자를 기준으로 표현한다.

▶︎ 수정 코드

public BigDecimal getTotalPrice() {
        return cartItems.entrySet().stream()
                .map(i -> BigDecimal.valueOf(i.getKey().getPrice() * i.getValue()))
                .reduce(BigDecimal.ZERO, BigDecimal::add);
    }

배운 점

소수점 단위의 숫자 연산으로 오차가 발생하여 숫자에 민감한 금융 거래 프로그램 등을 개발할 때 float, double의 사용은 위험하다. 소수점 연산이 필요한 경우 BigDecimal을 사용하자.