고정소수점표현법 썸네일형 리스트형 실수를 표현하는 방법 어제 쓴 글은 정수를 2진수로 표현하는 방법이었는데 오늘은 실수를 2진수로 표현하는 방법을 정리하려고 한다. 10진수의 경우에는 소수점만 있으면 되는 것과 같이 2진수도 소수점이 있다. 고정소수점표현법 소수점의 위치를 임의로 정하는 방법인데 소수점의 위치가 항상 일정하다. 1 0 . 0 1 이런식으로 가운데 .이 있고 왼쪽은 2의 0승, 2의 1승이고 오른쪽에 있는 것은 2분의1, 4분의1이다. 따라서 저 비트의 값은 2와 4분의1이다. 이 방법은 쓸모있는 범위의 실숫값을 표현하려면 비트가 많이 필요하기 때문에 거의 쓰지않는다. DSP라는 디지털 신호처리장치에 쓰이는 일부 컴퓨터가 쓴다고는 한다. (그냥 이런 방법이 있다만 알아두자..) 부동소수점표현법 아주 작은 상수인 프랑크 상수, 엄청나게 큰 값인 .. 더보기 이전 1 다음
