상위 질문
타임라인
채팅
관점
계산기 엡실론
위키백과, 무료 백과사전
Remove ads
계산기 엡실론(Machine epsilon)은 부동소수점 연산에서 반올림을 함으로써 발생하는 오차의 상한이다. 이 값은 컴퓨터 과학에서 컴퓨터 연산을 통한 수치 해석을 특징짓는다. 기호는 그리스 문자 엡실론 또는 볼드체 로마자 u를 사용한다.
표준적인 하드웨어 부동소수점 연산의 값
a according to Prof. Demmel, LAPACK, Scilab b according to Prof. Higham; ISO C standard; C, C++ and 파이썬 language constants; Mathematica, MATLAB and Octave; various textbooks - see below for the latter definition
Remove ads
각주
Wikiwand - on
Seamless Wikipedia browsing. On steroids.
Remove ads