数值修约与运算规则课件.ppt

上传人(卖家):晟晟文业 文档编号:4655134 上传时间:2022-12-29 格式:PPT 页数:22 大小:393.50KB
下载 相关 举报
数值修约与运算规则课件.ppt_第1页
第1页 / 共22页
数值修约与运算规则课件.ppt_第2页
第2页 / 共22页
数值修约与运算规则课件.ppt_第3页
第3页 / 共22页
数值修约与运算规则课件.ppt_第4页
第4页 / 共22页
数值修约与运算规则课件.ppt_第5页
第5页 / 共22页
点击查看更多>>
资源描述

1、数值修约及运算规则主要内容一、数值修约概念(1)概念;(2)修约规则;(3)其他规定;(4)其他修约的间隔;(5)有效数字概念二、极限数值的表示和判定(一)概念1.数值修约:通过省略原数值的最后若干位数字,调整所保留的末位数字,最后所得到的值最接近原数值的过程。注:经数值修约后的数值称为(原数值的)修约值。2.有效数值:一个数从左边第一个不是零的数字数起一直到最后一位数字(包括零、科学计数法不计10的N次方)称为有效数字。0.01093.1091050.0230是三位是三位是四位(一)概念(一)概念 3.修约间隔:修约的最小数值单位。注:修约间隔的数值一经确定,修 约值即为该数值的整数倍。如:

2、指定的修约间隔为0.1。修约值 应在0.1的整数倍中选取,相当 于将数值修约到一位小数。(一)概念(一)概念 (二)修约规则 1、确定修约间隔(确定有效位数),0.0356修约到0.01得 保留一位有效数字,2、进舍规则:1)拟舍弃数字的最后一位数字小于5,则舍去。保留其余各位数字不变。12.1498修约到“1”,;修约到 0.1,得0.040.041212.1 2)拟舍弃数字的最后一位数字大于5.则 进一,保留数字的末位数加1。1268修约到“100 ”位.13102也意味着有效数字为 位。1300意味着有效数字为 位。24 (二)修约规则 3)拟舍弃数字的最左一位数字是5,且 其后有非零数

3、字也进一,保留数字 的末位数字加1.10.5002.修约到“1”.得 11 (二)修约规则4)拟舍弃数字的最后一位数字是5,且其后无数字或为0时,若所保留的数字为奇数(1、3、5、7、9),则进一。即保留数字的末位数字加1.若保留的末位数字为偶数(0、2、4、6、8)则舍去。1.050修约间隔为“0.1”。1010-1(或1.0)有效数字为2位。0.35修约间隔为“0.1”。410-1(或0.4)有效数字为1位。2500修约间隔“1000”。2103(2000)有效数字1、4位。3500修约间隔“1000”。4103(4000)有效数字1、4位。(二)修约规则5)口诀四舍五入,逢五看前数,奇入

4、偶不入。6)负数修约,先以负值绝对值按上述修约后,加上负号。-15.456 绝对值15.456.修约间隔“0.1”、15.5.加上负号;-15.5。(二)修约规则 (三)其他规定1.不允许连续修约:拟修的数字应在确定修约间隔或指定修约数位后一次修约获得结果,不得连续按上述要求修约。正确:97.46 修约间隔“1”不允许:97.46 97.5 9897 (三)其他规定2.特殊情况:具体实施中,有时测试与计算部先将获得数值按指定的修约数位多一位或几位报出,而后由其他部门判定。为免产生修约的错误,应按下述步骤进行:1)报出数值最右的非零数字为5时,应在数值右上角“+”或“-”,或不加符号,分别表明已

5、进行过舍,进或未进。16.50+表示实际值在修约前大于16.50,经修约舍弃后为16.50;原数值可为:16.501“-”则是小于16.50 比如16.499。(三)其他规定2)如果修约后的数字为5“+”者进一“-”者舍去 原数值原数值修约修约再修再修15.454615.5-15-15.4546-15.5-1516.520316.5+1717.500017.518 (四)其他修约间隔还有以0.5和0.2单位修约的,方法如下:0.50.5单位修约:单位修约:被修约的数乘以2,进行间隔修约后再除以2,得到修约值。0.20.2单位修约:单位修约:被修约的数乘以5,进行间隔修约后再除以5,得到修约值。

6、(四)其他修约间隔下列数值修约得到“个位”的0.5单位修约被修约数值被修约数值X2X2X修约修约X修约值修约值60.25120.512060.060.38120.7612160.5 (四)其他修约间隔下列数值修约得到“百位”的0.2单位修约被修约数值被修约数值X5X5X修约修约X修约值修约值83041504200840842421042008408324160420084093046504600920 (五)有效数字的运算 1.加减法运算 以参与运算的各数中末位的修约间隔最大的数为准。其余的数均比它保留多一位,多余的应按规定修约。计算结果的末位的修约间隔,应与参与运算的数中末位的修约间隔最大的

7、那个数相同。如果是过程计算,则可多保留一位:(五)有效数字的运算 18.3+1.4546+0.876 18.3为末位最大数量级的数,为“0.1”。则以“0.1”增加一位进行修约。18.3+1.45+0.88=20.63 修约:如果还要参加下一步运算则取 20.620.63 (五)有效数字的运算 2.乘、除(或乘方、开方)运算:以参与运算的各数中有效数字位数最少的那个数为准。其余多保留一位。运算结果的有效数字位数应与参与运算的数中有效数字位数最少的那个数相同。若是过程计算,则可多保留一位。(五)有效数字的运算 1.1x0.3268x0.10300 1.1有效位数最小,进行修约 1.1x0.323x0.103=0.0370 修约 如需参加下一步运算则取:0.0370.0370 二、极限数值的表示和判定 GB/T 8170-2008 中的第4款规定。谢谢观看!2020

展开阅读全文
相关资源
猜你喜欢
相关搜索

当前位置:首页 > 办公、行业 > 各类PPT课件(模板)
版权提示 | 免责声明

1,本文(数值修约与运算规则课件.ppt)为本站会员(晟晟文业)主动上传,163文库仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对上载内容本身不做任何修改或编辑。
2,用户下载本文档,所消耗的文币(积分)将全额增加到上传者的账号。
3, 若此文所含内容侵犯了您的版权或隐私,请立即通知163文库(发送邮件至3464097650@qq.com或直接QQ联系客服),我们立即给予删除!


侵权处理QQ:3464097650--上传资料QQ:3464097650

【声明】本站为“文档C2C交易模式”,即用户上传的文档直接卖给(下载)用户,本站只是网络空间服务平台,本站所有原创文档下载所得归上传人所有,如您发现上传作品侵犯了您的版权,请立刻联系我们并提供证据,我们将在3个工作日内予以改正。


163文库-Www.163Wenku.Com |网站地图|