부동소수점

AMJ·2023년 3월 20일
0

후기_log

목록 보기
18/28

movie

integer

  • int > 4byte > 32(4x8) bit
  • sign : 0/1 양수 음수

고정소수점 방식

  • 15bit : 정수영역
  • 16bit : 소수영역

부동소수점 방식

  • 일반적 컴퓨터의 실수 표현 방식

  • 정확한 실수 계산 라이브러리(자료형의 한계를 보완)

    • java - BigDecimal
    • javascript - Big.js
    • python - decimal
profile
재미있는 것들

0개의 댓글