首页
›
答案
›
题库
›
知识竞赛未分类
舍入误差(Round-offerror)是由于计算机有效数位的限制,在计算过程中,对数据的四舍五入造成的误差。采用双精度浮点数,可以降低舍入误差。
舍入误差(Round-offerror)是由于计算机有效数位的限制,在计算过程中,对数据的四舍五入造成的误差。采用双精度浮点数,可以降低舍入误差。
A.正确
B.错误
正确答案:正确
标签:
误差
数位
精度
上一条:
努塞尔数(Nu)和毕渥数(Bi)的区别有()
下一条:
瞬态导热的数值求解,涉及到时间的离散化(Discretizationintime),通常采用向前差分的形式。