고정 소수점과 부동 소수점 (Fixed Point and Floating Point)

고정 소수점(fixed point)과 부동 소수점(floating point)은 컴퓨터가 실수를 이진수로 표현하는 두 가지 방식이다. 고정 소수점은 소수점의 위치를 미리 정해 두고 정수부와 소수부에 비트를 나누어 배정하는 방식이고, 부동 소수점은 수를 가수와 지수로 분리해 소수점의 위치를 떠다니게 함으로써 훨씬 넓은 범위를 표현하는 방식이다. 오늘날 대부분의 CPU와 프로그래밍 언어는 IEEE 754 표준의 부동 소수점을 기본으로 사용하며, 0.1 + 0.2가 정확히 0.3이 되지 않는 유명한 현상도 이 표현 방식에서 비롯된다.

고정 소수점 표현

고정 소수점은 전체 비트 중 일부를 정수부에, 나머지를 소수부에 고정적으로 할당한다. 예를 들어 16비트 중 8비트를 정수부, 8비트를 소수부로 쓰면 소수부의 각 비트는 1/2, 1/4, 1/8처럼 2의 음수 거듭제곱을 나타낸다. 구현이 단순해서 실수 연산을 사실상 정수 연산으로 처리할 수 있고, 연산 결과가 결정적이며 속도가 빠르다.

그러나 표현 범위와 정밀도가 비트 배분에 의해 고정된다는 한계가 뚜렷하다. 정수부를 늘리면 표현 범위는 커지지만 소수부가 줄어 정밀도가 떨어지고, 반대로 하면 큰 수를 담지 못한다. 그래서 고정 소수점은 부동 소수점 연산기(FPU, Floating Point Unit)가 없는 저가 임베디드 시스템, 디지털 신호 처리, 그리고 오차 규칙이 엄격히 정의되어야 하는 금융 계산의 십진 고정 소수점 타입 등 특정 영역에서 주로 쓰인다.

부동 소수점과 IEEE 754

부동 소수점은 실수를 부호(sign), 지수(exponent), 가수(mantissa 또는 significand)의 세 부분으로 나누어 표현한다. 과학적 표기법으로 12345를 1.2345 x 10^4로 쓰는 것과 같은 원리를 이진수에 적용해, 수를 1.xxx x 2^n 꼴로 정규화(normalization)한 뒤 xxx 부분을 가수에, n을 지수에 저장한다.

IEEE 754 표준의 단정밀도(single precision, 32비트)는 부호 1비트, 지수 8비트, 가수 23비트로 구성되고, 배정밀도(double precision, 64비트)는 부호 1비트, 지수 11비트, 가수 52비트로 구성된다. 지수부에는 음수 지수를 표현하기 위해 실제 지수에 편향값(bias)을 더해 저장하는데, 단정밀도는 127, 배정밀도는 1023을 더한다. 정규화된 수의 정수부는 항상 1이므로 이 1은 저장하지 않는 숨은 비트(hidden bit)로 처리해 정밀도를 1비트 벌어들인다. 또한 표준은 0, 무한대(infinity), 숫자가 아님(NaN, Not a Number), 그리고 0 근처의 아주 작은 수를 표현하는 비정규 수(denormalized number)까지 특수값으로 정의한다.

두 방식 비교

구분	고정 소수점	부동 소수점
소수점 위치	설계 시점에 고정	지수에 따라 이동
표현 범위	좁음	매우 넓음
정밀도 분포	범위 전체에서 균일	0 근처는 촘촘하고 큰 수는 성김
하드웨어 비용	정수 연산기로 충분	전용 FPU 필요
주 사용처	임베디드, DSP, 금융 십진 연산	범용 연산, 과학 계산, 그래픽