소숫점1

• 

  컴퓨터가 소숫점 계산을 잘 하지 못하는 이유 이상한 소숫점 계산 컴퓨터는 소숫점 계산을 잘 하지 못한다고 한다.자바를 사용해 아래와 같은 테스트 코드를 만들어 보았다. public class CalculateExampleTest { @Test void test() { System.out.println(1.1 + 0.1 == 1.2); }} 어떤 값이 출력될까? 편하게 생각하면 '당연히 1.1 + 0.1은 1.2니까 true가 출력되겠네!' 라고 생각할 수 있다.눈으로 확인한 출력 값은 우리의 예상과 다르다.  false가 출력됐다. 어떻게 false가 출력된 것일까..??이제 왜 이런일이 일어나는지 알아보자. 컴퓨터는 기본적으로 이진법을 사용한다. 0과 1만 사용하는 것이다.컴퓨터가 이진법을 사용하는 이유는 효율성은 물.. 개발 2024. 6. 13.