AI智能推荐题库-试题通 AI智能整理导入题库-试题通
×
首页 题库中心 2023电力行业多旋翼无人机竞赛 题目详情
CA602D4E6ED000012AFEA180E87C1F8C
2023电力行业多旋翼无人机竞赛
10,025
单选题

计算机进行数值计算时的高精确度主要决定于( )。

A
计算速度
B
内存容量
C
外存容量
D
基本字长

答案解析

正确答案:D

解析:

这道题考查的是计算机硬件基础中关于**数据表示与精度**的概念。以下是详细解析: ### 核心考点分析 在计算机中,数值是以二进制形式存储和处理的。**基本字长**(Word Length)是指计算机一次能处理的二进制数据的位数(如 32 位、64 位)。 1. **基本字长与精度的关系**: * 字长越长,计算机在一次运算中能处理的二进制位数就越多。 * 对于整数而言,字长决定了能表示的数值范围(位数越多,范围越大)。 * 对于浮点数而言,字长直接影响尾数部分的位数。**尾数位数越多,有效数字就越多,从而计算的精确度(精度)就越高**。 * 因此,基本字长是决定计算机数值计算精确度的主要硬件指标。 2. **其他选项分析**: * **A. 计算速度**:主要取决于 CPU 的主频、指令集效率、流水线技术等,它影响的是完成计算任务的快慢,与计算结果的精确度无直接关系。 * **B. 内存容量**:指计算机暂时存储数据和程序的能力。内存大可以处理更大规模的数据或运行更复杂的程序,但不直接决定单个数值计算的精度。 * **C. 外存容量**:指硬盘、固态硬盘等长期存储设备的大小,主要用于保存文件和数据,与 CPU 进行数值运算时的精度无关。 ### 结论 计算机进行数值计算时的高精确度主要决定于**基本字长**。字长越长,所能表示的有效数字位数越多,精度越高。 故正确答案为 **D**。

相关知识点:

计算机高精度:取决于字长

题目纠错
2023电力行业多旋翼无人机竞赛

扫码进入小程序
随时随地练习

关闭登录弹窗
专为自学备考人员打造
勾选图标
自助导入本地题库
勾选图标
多种刷题考试模式
勾选图标
本地离线答题搜题
勾选图标
扫码考试方便快捷
勾选图标
海量试题每日更新
波浪装饰图
欢迎登录试题通
可以使用以下方式扫码登陆
APP图标
使用APP登录
微信图标
使用微信登录
试题通小程序二维码
联系电话:
400-660-3606
试题通企业微信二维码