calix4176.log
로그인
calix4176.log
로그인
부동소수점
AMJ
·
2023년 3월 20일
팔로우
0
소수
실수계산 오차
0
후기_log
목록 보기
18/28
integer
int > 4byte > 32(4x8) bit
sign : 0/1 양수 음수
고정소수점 방식
15bit : 정수영역
16bit : 소수영역
부동소수점 방식
일반적 컴퓨터의 실수 표현 방식
정확한 실수 계산 라이브러리(자료형의 한계를 보완)
java - BigDecimal
javascript - Big.js
python - decimal
AMJ
재미있는 것들
팔로우
이전 포스트
자료형 타입
다음 포스트
예외 처리
0개의 댓글
댓글 작성