부동소수점 오류(完) - 해결법

https://doonas4728.tistory.com/3

[CS] 부동소수점 오류(1)

이전 글에서는 소수계산을 진행했을 때

왜 값이 이상하게 나오는지에 대해 다뤘다면

오늘은 근사값 오류를 개발자는 어떻게 다뤄야 하는지 알아보려고 한다.

---

계산 오차 해결방법

이러한 오류를 해결하면 좋지만,

우리는 이전페이지에서 리서칭하면서 정리해 본 결과

컴퓨터의 한계로 인해 오류를 해결하기보단

오류로 인한 에러를 줄이기 위해 접근하는 것이 맞는 표현인 것 같다.

 

.NET에서의 해결 방법

decimal 자료형을 쓰면 해결된다.

정확한 계산을 처리할 때는 효과적이지만

모든 숫자형 변수들 중에서 가장 느린 변수이기도 하다.

효과적인데 진짜 느리다.ㄷㄷㄷㄷㄷㄷㄷ

C#의 decimal을 제외하고 다른 방법이 있나 리처칭하던 중

백준에서 추천하는 방식을 가져와봤습니다.

https://www.acmicpc.net/blog/view/37

부동소숫점 오류

부동소수점 오류로 인한 애러를 줄이기 위한 주의점들

1. float보다는 double형 변수를 권장

 

double형 변수까지는 H/W를 통해 계산을 진행하기 때문에

많이 느려지지도 않으면서 정확성이 높아진다고 합니다.

 

float의 상대오차는 10^(-7)
double의 상대오차는 10^(-15)

2. 정수가 들어있는 실수형 변수를 정수로 바로 캐스팅하지 말 것

 

1을 double 변수로 대입하면 0.999...와 같은 숫자로 변동됩니다.

이 변수를 그대로 정수로 캐스팅하면 0으로 고정이 되는 기이한 현상이 발행합니다.

3. 비교 연산을 할 때는 등호를 사용하지 말 것

 

실수형 변수는 오차가 있기 때문에 같은 값을 가져야만 하는 상황임에도

다른 값일 때가 매우 많습니다.

4. 큰 수를 다룰때, 매우 작은 상수값을 사용하는 것은 위험 가능성이 존재

double의 상대오차는 10^(-15)

double형 변수에 10^(-15)을 대입하면 오차가 1의 자리에서 발생할 수 있습니다.

 

즉, 조건문으로 (A - B) < 1e - 6 을 진행할 때

 

A와 B가 10^11 크기정도라면,

A == B와 똑같은 결과가 나옵니다.

double형 변수를 가지고 넓은 범위를 이진탐색으로 돌릴 때 자주 발생하는 문제로,

100~200번 정도만 반복하거나, 상대오차가 몇 이하일 때 반복문을 빠져나오는 식으로

해결합니다.

 

5. 큰 수에 작은 수를 더할 때 조심할 것

double의 상대오차는 10^(-15)

double형 변수의 오차를 고려하면 1을 여러 번 넣어도 값은 변하지 않습니다.

또한, 큰수에 작은 수를 더할 때 작은 수의 정밀한 부분이 사라지기 때문에

오차가 커질 가능성이 있습니다.

 

보통 작은 수끼리 더한 뒤에 큰 수에 더하는 방법으로 해결이 가능하나,

이러한 특징 때문에 틀리는 문제는 극히 드뭅니다.

(연습문제: https://www.acmicpc.net/problem/1196 )

---

정밀도와 성능을 둘다 잡는 것은 역시 힘든 것 같다.
정밀도를 택하면 속도가 느리고
성능을 택하면 오차가 발생할 가능성이 증가한다.
가능성을 줄이고자 하는 다양한 시도를 보면서 차후에 써먹을 일이 있으면
까먹지 않고 잘 이용할 수 있으면 좋겠다.

참조

(C#) Double/float 연산 결과가 이상할 때 (부동소수점 연산)

C# - 부동 소수 계산 왜 이렇게 나오죠?

[CS] 부동소수점 오류