실수 계산에 오차는 왜 생길까?

Y39·2023년 2월 27일
0

toBeProgrammer

목록 보기
17/88

movie

  • 컴퓨터는 이진법을 통해 데이터를 처리하므로, 숫자를 정확하게 표현하지 못한다.
  • 0.1의 경우 1/2의 양의 제곱수로 나타내므로, 정확한 표현이 안 된다.
  • 부동소수점
    • 소수점이 떠서 움직인다는 뜻
    • 소수점 뒤의 숫자가 커질 수 있으므로 소수점의 위치를 변경함
    • 이진수로 소수점의 위치를 표시함.
  • 정확한 계산을 위해서는?
    • 라이브러리를 사용
    • Java의 경우 BigDecimal
    • JavaScript의 경우 big.js
    • Python의 경우 decimal
profile
System.out.print("Bold")

0개의 댓글