정밀도(컴퓨터 사이언스)
Precision (computer science) |
컴퓨터 과학에서, 수량의 정밀도는 수량이 표현되는 세부 사항의 척도이다.이 값은 보통 비트 단위로 측정되지만 10진수로 측정되는 경우도 있습니다.이것은 값을 표현하기 위해 사용되는 자릿수를 설명하는 수학의 정밀도와 관련이 있습니다.
표준화된 정밀도 형식 중 일부는 다음과 같습니다.
이 중 8중 정밀도 형식은 거의 사용되지 않습니다.단정도 및 배정도 형식은 거의 모든 플랫폼에서 가장 널리 사용되며 지원됩니다.많은 기계 학습 알고리즘이 본질적으로 오류 허용성이 있기 때문에 특히 기계 학습 분야에서 반정밀 형식의 사용이 증가하고 있다.
반올림 오류
정밀도는 종종 계산에서 반올림 오차의 원인입니다.숫자를 저장하는 데 사용되는 비트 수로 인해 정확도가 다소 저하되는 경우가 많습니다.예를 들어 IEEE 단정도 부동소수점 표준에 "sin(0.1)"을 저장할 수 있습니다.이후 데이터를 사용하여 후속 계산이 수행될 때 오류가 확대되는 경우가 많습니다(단, 줄일 수도 있음).
