-
题名位数随机的有效数字自动运算算法
被引量：1
- 1
-
-
作者
陈鲤江
吴姚鑫
郑水泉
虞凤英
-
机构
浙江工业大学之江学院
-
出处
《计算机应用与软件》
CSCD
北大核心
2012年第6期97-99,104,共4页
-
基金
国家大学生创新性实验计划项目(G0920120029321)
浙江工业大学之江学院教学方法改革专项(1281000910)
-
文摘
针对物理实验数据的自动处理,提出一种位数随机的有效数字自动运算算法,包括有效数字运算结果的科学记数表示算法、有效位数的取舍算法、数据表示形式的转换算法以及不同位数有效数字的运算算法。对有效数字多项式的自动运算实验结果表明,该算法符合运算优先级的要求,运算结果符合有效数字的取舍原则,算法运算的结果与人工运算的结果完全相同,算法满足位数随机的物理实验数据的自动处理要求。
-
关键词
位数随机的有效数字
科学记数法
四舍六入五配偶
数值多项式
-
Keywords
Significant digits with random capacity of digit Scientific notation Mating even and rounding off Numerical polynomial
-
分类号
TP274.2
[自动化与计算机技术—检测技术与自动化装置]
-
-
题名BASIC语言程序设计学习提要
- 2
-
-
作者
陶龙芳
-
机构
中央电大
-
出处
《现代远程教育研究》
1995年第2期29-31,71,共4页
-
文摘
一、主要内容总结(一)BASIC 语言基本单词集1.BASIC 中的常量(1)数①在 BASIC 语言中.通常用十进制形式表示数,但一个数内不能用节点(逗号)分位.②BASIC 所能表示的有效数字位数随各种计算机型而不同.③BASIC 中数的标记方法有两种:定点法和浮点法.定点法:即日常记数法.例如24.3,0.135都是定点法表示的数,叫做定点数。浮点法:即科学记数法,亦即指数记效法。这种记数法对于表示十分大或十分小的数比较方便。例如890000000可以写成8.9×10~9,但计算机无法输入或输出幂指数8.为此把它表示成8.9E+8,这种形式的效就叫浮点数。④不同的计算机对数的表示范围有不同的限制.例如 IBMPC 及其兼容机的 BASIC 中,任一数值 x
-
关键词
计算机系统
语句
定点法
浮点法
科学记数法
十进制
自定义函数
顺序文件
标记方法
子程序
-
分类号
TP311.52
[自动化与计算机技术—计算机软件与理论]
-
-
题名TI-59计算器程序编制技巧探讨
- 3
-
-
作者
李元标
-
机构
邯邢煤矿设计研究院
-
出处
《煤炭工程》
1984年第2期14-18,2,共6页
-
文摘
一篇质量好的程序,应是计算结果精度高、计算速度快、占用内存单元少,而且使用方便.本文拟从几个方面探讨如何提高程序质量和对TI-59计算器某些功能键进一步运用的问题,并将计算机软件的某些原理移植到TI-59计算器上.文中的某些技术对于使用汇编语言和算法语言的计算机,也有参考价值.一、EE键的使用EE键可使显示值处于科学记数法格式,但它有一个重要特性往往被人所忽略,那就是它仅使当时显示的尾数保留下来,而删去了显示的数值.例如.按π键后显示3.141592654,而显示寄存器内为3.
-
关键词
TI-59
科学记数法
程序编制
技巧探讨
计算机软件
内存单元
功能键
Π键
计算程序
显示值
-
分类号
G6
[文化科学—教育学]
-
