목록부동소수점 1

LuvSea

IEEE754 표준에의한 부동소수점의 이진표현

부동소수점 수에 대한 IEEE 표준에는 부동소수점의 이진(binary) 표현과 반올림, 정확성, 예외적 결과(0으로 나누기 등)에 대한 규약들이 명시되어 있다. 이 글에서 다루는 기법은 이진 표현에 근거한 것이며, 반올림이나 예외 처리와는 큰 관련이 없다. IEEE의 표준 이진 표현을 사용하는 컴퓨터나 콘솔이라면 부동소수점 처리에 대한 IEEE 표준을 완전히 만족하지 않는다 해도 이 글의 기법들을 적용할 수 있다. 펜티엄 III Streaming SIMD Extensions(SSE)와 PS2 벡터 유닛은 둘다 IEEE 표준의 부분집합을 만족한다. 그 부분집합은 예외 처리를 완전히 지원하지는 않으나, 이진 표현만큼은 표준을 따르므로 이 글의 기법들을 문제없이 적용할 수 있다. IEEE 표준은 부동소수점 수..
sTudy 2009. 4. 17. 19:59
Prev 1 Next