부동소수점

https://doonas4728.tistory.com/3 [CS] 부동소수점 오류(1) 최근에 들어간 단톡방의 사람들이 수준이 높아서 종종 대화하는 것을 읽다가 이해가 안가거나 궁금한 것을 캡쳐하던 중 재밌는 질문이 들어왔다. 100 - 64.1을 계산 했을 때 우리는 머리속으로 35.9 doonas4728.tistory.com 이전 글에서는 소수계산을 진행했을 때 왜 값이 이상하게 나오는지에 대해 다뤘다면 오늘은 근사값 오류를 개발자는 어떻게 다뤄야 하는지 알아보려고 한다. 계산 오차 해결방법 이러한 오류를 해결하면 좋지만, 우리는 이전페이지에서 리서칭하면서 정리해 본 결과 컴퓨터의 한계로 인해 오류를 해결하기보단 오류로 인한 에러를 줄이기 위해 접근하는 것이 맞는 표현인 것 같다. .NET에서의 해..

최근에 들어간 단톡방의 사람들이 수준이 높아서 종종 대화하는 것을 읽다가 이해가 안가거나 궁금한 것을 캡쳐하던 중 재밌는 질문이 들어왔다. 100 - 64.1을 계산 했을 때 우리는 머리속으로 35.9를 생각한다. 컴퓨터의 경우, 아래의 사진처럼 전혀 다른 답을 내놓았다. 왜 결과가 이렇게 나오는 것일까? 컴퓨터는 사람처럼 자유롭게 생각할 수 없다 실제로 컴퓨터는 실수를 저장할 때 가수부와 지수부로 나뉘어 저장하기 때문이다. 이때 저장되는 방식은 아래와 같다. $$ \left ( a \right )\times 2^b $$ a는 1보다 크거나 같고, 2보다 작은 실수이다. b는 정수이다. a(가수부)와 b(지수부)는 실제 메모리에 저장될 때는 다음과 같은 구조로 저장이 된다. 이는 IEE-754 부동소수점..