로딩
요청 처리 중입니다...

[이산수학]컴퓨터는 실수(소수)계산을 정확하게 못해요.(feat. 부동소수점, IEEE754)

 [이산수학]컴퓨터는 실수(소수)계산을 정확하게 못해요.(feat. 부동소수점, IEEE754)

이번 포스팅도 제목을 보면 알 수 있듯이 저번 포스팅과 이어서 컴퓨터의 특성으로 인한 한계점을 다뤄볼 것이다. 생각해 보면 우리가 흔히 아는 소수는 0.1, 0.5처럼 소수점 뒤로 끝이 있는 수, 유한소수가 있지만 0.123123123..., 0.4323412312314...처럼 끝이 없는 무한소수도 있다.

뿐만 아니라 0.1과 0.2 사이에는 수많은 소수들이 존재한다. 하지만 프로그래밍을 조금만 해보면 데이터를 저장하는 자료형에는 크기가 정해져있고 아무리 자료형이 크더라도 결국 컴퓨터의 물리적인 저장 장치의 한계로 인한 문제점이 있을 것이다.

또한 2진수로 돌아가는 컴퓨터가 소수를 표현하는 방법도 음수 표현 방법처럼 여러 과정을 거쳐 발전했을 것이다. 이번 포스팅은 컴퓨터의 실수 계산이 어떻게 이루어지는지 알아보기 위하여 2진수로 실수를 어떻게 나타내는지부터 현대 컴퓨터로 오기까지의 어떠한 발전이 있었는지 컴퓨터의 실수에 관하여 알아보자. 10진수 실수 -> 2진수 변환 음수 표현...

# CS # 소프트웨어수학 # 손실 # 실수 # 오버플로 # 유효숫자 # 이산수학 # 정규화된과학적표기법 # 정밀도 # 정확도 # 지수 # 컴공 # 컴퓨터 # 소수 # 삼육대 # 비트 # fraction # IEEE # mantissa # NaN # 가수 # 고정소수점 # 과학적표기법 # 권택준 # 부동소수점 # 부호 # 비정규화수 # 비정상값 # 포큐아카데미