单选题
23.计算机进行数值计算时,计算精度主要取决于( )
A
计算速度
B
内存容量
C
外存容量
D
字长
答案解析
正确答案:D
解析:
**解析:**
计算机进行数值计算时,其精度主要取决于**字长**(Word Length)。
1. **字长的定义与作用**:
* 字长是指计算机CPU一次能并行处理的二进制位数。
* 在数值计算中,字长决定了计算机能够表示的有效数字的位数。字长越长,计算机能够表示的数值范围越大,有效数字越多,从而计算的精度也就越高。例如,64位计算机比32位计算机在处理浮点数时通常具有更高的精度。
2. **其他选项分析**:
* **A. 计算速度**:主要影响完成计算任务所需的时间效率,与计算结果的准确程度(精度无直接关系)。
* **B. 内存容量**:主要影响计算机同时处理数据的能力和多任务运行的流畅度,虽然更大的内存可以存储更多数据,但不直接决定单个数值运算的精度。
* **C. 外存容量**:主要影响数据存储的大小(如硬盘空间),与CPU内部的数值运算精度无关。
因此,正确答案是 **D**。
题目纠错
计算机应用基础统考题库
