주니봉
방명록
[ 마이플랫폼(MIPLATFORM) ]
[마이플랫폼] 부동소수점 오류
2023-10-28 20:18:34
마이플랫폼에서 더하기 , 빼기 연산을 하다보면 정확한 값이 아닌 소수점이 길어지는 현상이 발생하였다. 예로) 10.95+1.95 를 계산하면 12.9 가 아닌 12.899999999999999 등으로 값이 이상하게 나오는 현상 10.77-8.53 이 2.22가 아닌 2.1999999999 출력 투비소프트에서 말하는 부동소수점의 문제는 아래와 같았다. 현재 사용되는 거의 모든 CPU에서는 부동소숫점 자료형을 표현하는데에 있어서 메모리에서 차지하는 크기를 제한을 두고 있습니다. 제한의 이유는 상대적으로 작은숫자를 자주 사용하지 않으며, 또한 높은 처리속도와 CPU 설계상 용이함을 위해서 고정크기가 필요하기 때문입니다. 이 제한의 결과로서 특정 소수들이 이진수로 표현할때 무한소수로 나타나면 모두 저장할수 없어..
NEW
prev
1
next
최신버전 안내
현재 적용된 Stroke 스킨의 버전이 최신버전이 아닙니다.
최신버전의 스킨 파일을 다운로드 받을 수 있는 페이지로 이동하시겠습니까?
(* 이 모달창은 블로그 관리자에게만 표시됩니다.)
30일 동안 열지 않음
예
티스토리툴바
주니봉
구독하기