Download presentation
Presentation is loading. Please wait.
1
재료수치해석 HW #2 박재혁
2
HW #2 - 현재 사용하고 있는 컴퓨터가 single precision 에서 구분할 수 있는 수의 정밀도가 어느 정도인지 프로그램을 짜서 확인하고, 이 system 이 몇 개의 bit 로 가수(mantissa)를 표현하는지 판정하시오.
3
RESULT 시행 1 <Single Precision>
4
RESULT 시행 2 <Double Precision>
5
Conclusion and Discussion
a. 컴퓨터 운영체제의 bit 확인 b. 프로그래밍 결과 single precision 일 때는, 224 까지 double precision 일 때 는 253 까지 소수 부분의 이진수를 구별 할 수 있다는 결과를 얻음. 이는 수업 때 다룬, 숫자처리 설정 bit 수에 따른 값과 일치함을 보여준다. C. 위 두 결과의 비교 컴퓨터 운영체제가 32비트임에도 불구하고, double precision 일 때는 64비트 처리단위인 52비트까지 계산가능 함을 알 수 있음 포트란에서 숫자처리는 처음 정해준 근사 정도 (single/double precision의 여부)에 따라 표시할 수 있는 범 위가 정해지나, 운영체제의 bit수와는 무관함을 확인함
6
Conclusion and Discussion
코딩 된 내용에서 살펴보면, 계산값이 1과 다를 때, 시도 수 와 계산값을 출력하라고 명령하였다. 하지만 아래에서 볼 수 있듯이, 값이 1로 출력 되었음에도 불 구하고, 계산값과 시도수가 출력 되었다. 아래 표시 값에서 보면 소수점 자리가 1014 자리 까지 표시 되는데, 실제 계산된 범위는 252=4.504E+15 정도 이므로, 도 낮은 범위에서 계산이 된다. 즉 실제 계산 된 값이 반올림 되어 1로 표시되는 것이라고 생각해 볼 수 있다.
Similar presentations
![Electronic circuit HW#2 2600747 주 재 훈. [1] CL=0 일 때, Common-Source 증폭기 [2] CL=40pF 일 때, Common-Source 증폭기 [3] CL=0 일 때, Cascode 증폭기 VTO=1 KP=50U LAMBDA=0.02.](/40/11095735/big_thumb.jpg "Electronic circuit HW#2 2600747 주 재 훈. [1] CL=0 일 때, Common-Source 증폭기 [2] CL=40pF 일 때, Common-Source 증폭기 [3] CL=0 일 때, Cascode 증폭기 VTO=1 KP=50U LAMBDA=0.02.>")
![컴퓨터 프로그래밍 기초 [Final] 기말고사](/90/14529968/big_thumb.jpg "컴퓨터 프로그래밍 기초 [Final] 기말고사>")
