[Effective Java] 아이템 60 : 정확한 답이 필요하다면 float와 double은 피하라

Loopy·2022년 11월 5일
0

이펙티브 자바

목록 보기
59/76
post-thumbnail

floatdouble 타입은, 이진 부동소수점 연산에 쓰이며 넓은 범위의 수를 빠르게 정밀한 근사치로 계산하도록 설계되었다.

따라서, 정확한 결과가 필요할때는 부적합하다. 특히나, 금융 관련 계산에는 사용하면 안된다. 0.1 혹은 10의 음의 거듭제곱 수를 표현할 수 없기 때문이다.

🔗 float과 double 타입의 오류

주머니에 들은 1달러를 각 센트부터 살 수 있을때까지 샀을때, 총 사탕을 몇개 살 수 있고 잔돈은 얼마나 남을지에 대한 문제를 예로 들어보겠다.

float, double 사용

  public static void main(String[] args) {
        double funds = 1.00;
        int itemsBought = 0;
        for (double price = 0.10; funds >= price; price += 0.10) {
            funds -= price;
            itemsBought++;
        }
        System.out.println(itemsBought + "개 구입");
        System.out.println("잔돈(달러): " + funds); // 0.3999999999999
    }

사탕 3개를 구입한 후, 잔돈의 값이 부정확하게 나온다. 1.00 - (0.10 + 0.20 + 0.30) = 0.40 이 나와야 하기 때문이다.

오류 해결 : 정수 타입 사용

BigDecimal, int, long 과 같은 정수 타입을 사용한다면 위와 같은 문제를 해결할 수 있다.

BigDecimal 사용

  public static void main(String[] args) {
      final BigDecimal TEN_CENTS = new BigDecimal(".10");

      int itemsBought = 0;
      BigDecimal funds = new BigDecimal("1.00");
      for (BigDecimal price = TEN_CENTS;
           funds.compareTo(price) >= 0;
           price = price.add(TEN_CENTS)) {
           funds = funds.subtract(price);
           itemsBought++;
      }
      System.out.println(itemsBought + "개 구입");
      System.out.println("잔돈(달러): " + funds); // 4개 구입시 잔돈 0
  }

BigDecimal 은 여덟 가지 반올림 모드를 제공하기 때문에 반올림을 완벽히 제어할 수 있다는 장점이 존재한다. 하지만, 기본 타입보다 속도가 느리고 쓰기 불편하다.

기본 정수 타입 사용

 public static void main(String[] args) {
      int itemsBought = 0;
      int funds = 100;
      for (int price = 10; funds >= price; price += 10) {
           funds -= price;
           itemsBought++;
      }
      System.out.println(itemsBought + "개 구입");
      System.out.println("잔돈(센트): " + funds);
 }

기본 타입이므로 성능은 좋지만, 다를 수 있는 값의 크기가 제한되고 소수점을 직접 관리해야 한다.

참고로 int 는 숫자를 아홉 자리의 십진수로 표현 가능하고, long 은 숫자를 열여덟 자리의 십진수까지 표현할 수 있으므로 그 이상의 자리를 표현하고자 한다면 BigDecimal 을 사용하는 것을 추천한다.

📚 핵심 정리
정확한 답이 필요한 계산에는 float나 double을 피하자. 법으로 정해진 반올림을 수행해야 하는 비즈니스 계산에서는 BigDecimal을 사용하자. 성능이 중요하고 소수점을 직접 추적할 수 있고 숫자가 너무 크지 않다면 int나 long을 사용하자.

profile
개인용으로 공부하는 공간입니다. 잘못된 부분은 피드백 부탁드립니다!

0개의 댓글