javascript 부동 소수점

👀·2023년 11월 13일
0

원인
컴퓨터는 2진법으로 계산.
10진법을 2진법으로 변환 => 소수 중 일부 무한소수로 변환 =>
컴퓨터 메모리 한계로 무한소수를 유한소수로 변환 => 오류
ex)

지수 e
10의 제곱
ex)
1e2 = 100
2e4 = 20000
+"1e+4" = 10000
+"2e+3" = 2000

const rate = 10/30;

Math.floor(+(Math.round( rate * 100 + "e+2") + "e-2" ) )

0개의 댓글