計算數學實務

計算實驗

precision

精密度

意思

重複量測或計算結果的一致程度;電腦語境也可指數值位數。