CS

· - CSE
https://doonas4728.tistory.com/3 [CS] 부동소수점 오류(1) 최근에 들어간 단톡방의 사람들이 수준이 높아서 종종 대화하는 것을 읽다가 이해가 안가거나 궁금한 것을 캡쳐하던 중 재밌는 질문이 들어왔다. 100 - 64.1을 계산 했을 때 우리는 머리속으로 35.9 doonas4728.tistory.com 이전 글에서는 소수계산을 진행했을 때 왜 값이 이상하게 나오는지에 대해 다뤘다면 오늘은 근사값 오류를 개발자는 어떻게 다뤄야 하는지 알아보려고 한다. 계산 오차 해결방법 이러한 오류를 해결하면 좋지만, 우리는 이전페이지에서 리서칭하면서 정리해 본 결과 컴퓨터의 한계로 인해 오류를 해결하기보단 오류로 인한 에러를 줄이기 위해 접근하는 것이 맞는 표현인 것 같다. .NET에서의 해..
Doo_Nas
'CS' 태그의 글 목록