해당 글은 네이버 블로그에 포스팅 된 글을 가져온 글입니다.

(http://blog.naver.com/pysung0409/220976332442)



이번 내용은 숫자를 바꾸기 쉽지 않아서 거의 그대로 가져왔습니다.










※ 유효숫자의 계산 방법 








1. 유효숫자 세는 방법






================================================================================



① 0이 아닌 정수는 모두 유효숫자


  ex) 778.32 → 유효숫자 : 7,7,8,3,2



================================================================================



② 숫자 앞부분에 오는 0은 유효숫자가 아님


  ex) 0.014 → 유효숫자 :1,4



 위의 숫자는 1.4%5Ctimes%20%5Ccombi%20%5E%7B%20-2%20%7D%7B%2010%20%7D%20 라고 나타낼 수 있어요(지수표기법).




================================================================================




③ 숫자 가운데에 오는 0은 유효숫자


  ex) 481.021 → 유효숫자 : 4,8,1,0,2,1




================================================================================



④ 숫자 끝에 오는 0은 소수점일 경우에만 유효숫자


  ex) 0.023010 → 유효숫자 : 2,3,0,1,0


  ex) 1990 → 유효숫자 : 1,9,9






※ 숫자 끝에 오는 0이 소수점이 아닌 경우, 유효숫자인지 명확하지 않습니다.

대표적으로, 100 같은 경우가 있어요. 

백의자리의 1은 확실히 유효숫자입니다.

십의자리인 0은 유효숫자가 아닙니다.

일의자리인 0은 유효숫자인지 알 수 없어요.




================================================================================




⑤ 완전수 - 직접 세거나, 정의에 의해 정해지는 수



  완전수는 유효숫자의 계산에서 고려하지 않아요.


  ex) 공 5개

       1인치 = 2.54cm    → 마치 기호처럼, 그대로 사용해요.



================================================================================



















2. 유효숫자 계산 규칙






================================================================================




① 곱셈, 나눗셈


   → 유효숫자의 개수가 가장 적은값 에 맞춥니다.




즉, 계산 중에 가장 낮은 유효숫자의 개수 = 결과값의 유효숫자 개수







ex)


4.45%5Ctimes%202.4%3D10.68%5Cquad%20%5Cto%20%5Cquad%2011%20


2.4의 유효숫자가 2개이므로, 결과값의 유효숫자도 2개로 맞춰줍니다.






6.05%5Ctimes%20%5Ccombi%20%5E%7B%20-3%20%7D%7B%2010%20%7D%5Cdiv%205.154%3D1.1738455...%5Ctimes%20%5Ccombi%20%5E%7B%20-3%20%7D%7B%2010%20%7D%5Cquad%20%5Cquad%20%5Cto%20%5Cquad%201.17%5Ctimes%20%5Ccombi%20%5E%7B%20-3%20%7D%7B%2010%20%7D%20



6.05의 유효숫자가 3개이므로, 결과값의 유효숫자도 유효숫자 3개로 맞춰줍니다.









================================================================================





② 덧셈, 뺄셈 



   → 정밀도가 가장 낮은값 에 자리를 맞춰줍니다.



즉, 소수점 아래 숫자가 제일 적은 값에 맞춥니다.





ex)


33.1-5.002%2B7.44%3D35.538%5Cquad%20%5Cquad%20%5Cto%20%5Cquad%203.6%20 


33.1이 소수점 아래 숫자가 하나로 가장 낮은 정밀도를 가지고 있어요.



그러므로 결과값도 소수점 아래 숫자를 하나로 맞춰줍니다.







================================================================================





③ 덧셈, 뺄셈, 곱셈, 나눗셈 혼합 



   → 사칙연산 순서대로 계산하며, 과정마다 따로 위의 유효숫자 계산하는 규칙에 따라 계산해요.








ex)



5840.3-(740.25%5Cdiv%203.4)%3D%3F%20 



일단 괄호부터 계산합니다. 740.25/3.4 = 217.7205... 입니다.



곱셈의 유효숫자 규칙에 따라 계산합니다. 3.4의 유효숫자가 2개이므로, 결과값의 유효숫자도 2개로 맞춰줘요.



즉, 740.25/3.4 = 220 입니다.






5840.3-220%3D5620.3%5Cquad%20%5Cto%20%5Cquad%205620%20 




이제 뺄셈의 유효숫자 규칙에 따라 계산합니다.



220이 소수점 아래 한자리도 없으므로, 소수점 자리를 220에 맞춰요.



즉, 5620.3 → 5620 입니다.






+ Recent posts