TIL - CS Study (1.1 + 0.1 > 1.2)

1.1 + 0.1 == 1.2
< false

📕 개발면접 관련 공부

위 수식이 틀린 이유는??

1.1 + 0.1 > 1.2
< true

---

📖 1. Ram

• 0과 1을 많이 저장할 수 있는 메모리
  
  

📌 숫자를 넣을 수 있는 칸이 8개인 경우 (2진법으로 저장)

• 숫자 5인 경우
  

• 숫자 8인 경우
  

• 숫자 10인 경우
  

• 더 큰 숫자를 저장하고 싶은 경우
  16칸으로 늘려서 저장할 수 있다.

---

📖 2. 소수 저장

5.125같은 소수 저장은?
5.125 => 101.001(2진수)
(이거말고 IEEE라는 곳에서 권장하는 방법이 있다)

5.125 저장하려면 32칸 정도의 여유있는 칸을 만들어두고

📌 첫번째칸에는 숫자의 부호를 넣어준다.

• 양수인지 음수인지 여부 확인

• 양수라면 0, 음수라면 1을 기입해준다.

• 저장할 숫자를 2진법으로 변환을 한 다음에 . 찍은 부분을 왼쪽으로 끝까지 이동을 해준다.
  - 5.125 => 101.001 => 1.01001 x 22
  - 1.011001 x 22 (5.125 2진수 버전)

• 1.01001 여기에서 . 뒤에 해당하는 부분 01001을 mantissa라고 부른다.

📌 matissa란?

• 부동소수점 방식에서 가수부라고 불리며, 23비트, 가수 또는 유효숫자를 나타낸다.

• 맨뒤에 23칸에 밀어넣는다.
  

• 지수 부근에 2 + 127 => 10000001 (2진법으로 변환해서 앞에 8칸에 넣어준다)

📌 순환소수 문제

• 10진수 0.125 숫자 같은 경우에는 2진수로 변환할 시 0.001 이라는 숫자로 깔끔하게 변환이 된다.
  

• 하지만, 0.1 같은 애매한 숫자는 2진수로 변환할 경우 무한 1100 패턴이 반복된다.
  

📕 해결방법

• 0.1 같이 무한 패턴이 반복되는 숫자의 경우 32칸까지만 표시해주면 된다.

• 32칸에 넣은 숫자외에 표시해주지 않은 숫자에 대해 오차가 발생할 수 있다.

• 코드를 작성하다가 0.1 같은 숫자를 메모리에 저장했다고 해도 정확한 숫자 0.1를 저장한게 아니다. 0.1과 비슷한 숫자를 저장했을 뿐이다.

• 그렇기 때문에 0.1과 1.1 을 더했을 때 나오는 숫자가 1.2가 아니다.
  
  

정확히 계산하려면 숫자는 정수로 보관해야한다.

• 예를 들면, 5.1 달러인 경우는 5100센트로 x100을 곱해서 저장하는게 좋다.

• float를 굳이 써야하는 경우에는 반올림 문법을 사용하는 것이 해결법이 될 수 있다.

• 아니면 double 자료형으로 => 숫자 1개당 64칸 사용

  • 메모리 용량을 2배만큼 차지하기 때문에 단점이 될 수 있지만, 정확도가 더 중요한 경우 사용

추가로 공부할 내용

overflow 현상

• Not a Number
• Infinity

---

Reference

https://www.youtube.com/watch?v=-GsrYvZoAdA