부동소수점수는 작은 것 부터 연산하자

선요약: 부동소수점은 0에 멀어질 수록 정확도가 감소한다.

Screen Shot 2019-05-21 at 2.11.59 PM.png

부동소수점수(Floating Point nuberm, 이하 FP)는 0에서 멀어질 수록 정확도가 감소한다.

매우 큰 FP에 매우 작은 FP를 더하면 위와 같이 수가 변화하지 않는 것을 볼 수 있다. 따라서 성능에 손해를 보더라도 매우 정확한 계산 결과를 원하는 경우 BigDecimal과 같은 특별한 클래스를 사용하는 것이 좋으며, 조금 신경쓰고 싶다면 절댓값이 작은 순서대로 연산을 진행하는 것이 좋다.

Posted in dev

Leave a Reply