유효숫자 (1) 썸네일형 리스트형 유효 숫자를 꼭 지켜야 하는 걸까? (공대생 필독!) 대학교에 처음 입학한 새내기 공대생이 가장 처음 배우는 것은 아마 유효 숫자일 것이다. 유효 숫자 개념 자체는 어렵지 않은데, 문제는 이걸 배우고 나서부터 공대생들은 실험 보고서를 쓰든, 과제 문제를 풀든 유효숫자를 항상 맞춰야 한다는 것이다. 하지만 과제나 실험 보고서를 쓰다 보면 어떤 문제가 하나 발생하게 된다. 과제를 풀때 실제로 내가 과제 문제를 풀면서 하나 막힌 부분이 있었다. 가속도를 구할 때 흔히 사용하는 공식인데, 문제는 저 2라는 것이다. 유효숫자 계산방법을 이용해서 위의 식을 계산할 경우 유효숫자는 결국 1개만 남게 된다. 그런데 저렇게 될 경우 유효숫자가 1개가 된다는 점이다. 그래서 결국 결괏값은 10, 5, 6 이런 식으로 될 수밖에 없다. 이게 맞는 걸까? 실제로 Excel을 통.. 이전 1 다음
