y39scode
로그인
y39scode
로그인
실수 계산에 오차는 왜 생길까?
Y39
·
2023년 2월 27일
팔로우
0
CS
유튜브 후기
0
toBeProgrammer
목록 보기
17/88
컴퓨터는 이진법을 통해 데이터를 처리하므로, 숫자를 정확하게 표현하지 못한다.
0.1의 경우 1/2의 양의 제곱수로 나타내므로, 정확한 표현이 안 된다.
부동소수점
소수점이 떠서 움직인다는 뜻
소수점 뒤의 숫자가 커질 수 있으므로 소수점의 위치를 변경함
이진수로 소수점의 위치를 표시함.
정확한 계산을 위해서는?
라이브러리를 사용
Java의 경우 BigDecimal
JavaScript의 경우 big.js
Python의 경우 decimal
Y39
System.out.print("Bold")
팔로우
이전 포스트
자료형과 정적-동적 타입
다음 포스트
try? catch? 예외처리 하기
0개의 댓글
댓글 작성