首页
›
答案
›
题库
›
慕课
›
未分类
舍入误差(Round-offerror)是由于计算机有效数位的限制,在计算过程中,对数据的四舍五入造成的误差。采用双精度浮点数,可以降低舍入误差。
舍入误差(Round-offerror)是由于计算机有效数位的限制,在计算过程中,对数据的四舍五入造成的误差。采用双精度浮点数,可以降低舍入误差。
A.正确
B.错误
正确答案:正确
标签:
传热传质学
误差
数位
上一条:
数值计算中,离散误差是由于用差分代替微分所导致的误差。
下一条:
影响对流换热系数的因素包括()