题目内容
(请给出正确答案)
[单选题]
在科学计算时,经常会遇到“溢出”,这是指()
A.计算机出故障了
B.数值超出了内存范围
C.数值超出了变量的表示范围
D.数值超出了机器所表示的范围
答案
查看答案
A.计算机出故障了
B.数值超出了内存范围
C.数值超出了变量的表示范围
D.数值超出了机器所表示的范围
第2题
A.A.为无穷大
B.B.超出了计算机内存储单元所能存储的数值范围
C.C.超出了该指令所指定的结果单元所能存储的数值范围
D.D.超出了一个字所能表示数的范围
第4题
A.要表示的数的类型(小数、整数、实数和负数)
B.可能遇到的数值范围
C.数值精度
D.数据存储和处理所需要付出的硬件代价
第5题
A.运算过程中最高位产生了进位或借位
B.运算的结果超出了机器能表示的最大数据范围
C.参加运算的操作数超出了机器能表示的最大数据范围
D.寄存器的位数不足
第6题
A.运算过程中最高位产生了进位或者借位
B.参加运算的操作数超出了机器的表示范围
C.运算结果超出了该编码的表示范围
D.寄存器的位数太少,不得不舍弃最低有效位
第9题
在Excel2003,若某一单元格中键人了数值位数超过了11位,则该数值将_______显示。
A.减少位数后
B.以16进制形式
C.四舍五人后
D.以科学记数法的形式