0.001java保留三位有效数字字是不是0.00100

2013年 总版技术专家分年内排行榜第一
2014年 总版技术专家分年内排行榜第三
2012年3月 总版技术专家分月排行榜第一
2013年7月 荣获微软MVP称号
2013年 总版技术专家分年内排行榜第一
2014年 总版技术专家分年内排行榜第三
2012年3月 总版技术专家分月排行榜第一
2013年7月 荣获微软MVP称号
本帖子已过去太久远了,不再提供回复功能。【图文】有效数字2_百度文库
两大类热门资源免费畅读
续费一年阅读会员,立省24元!
&&高等教育化学
大小:305.50KB
登录百度文库,专享文档复制特权,财富值每天免费拿!
你可能喜欢17有效数字和数值修约及其运算管理制度1-海文库
全站搜索:
您现在的位置:&>&&>&数学
17有效数字和数值修约及其运算管理制度1
GMP质量管理(9)
文件编号:ZL/SMP/01701有效数字和数值修约及其运算管理制度
的:建立有效数字和数值的修约及运算的管理制度,规范其管理。2.适用范围:适合于有效数字和数值的修约及其运算。3.责 任 者:化验员。4. 内
容:4.1 有效数字的基本概念4.1.1 有效数字系指在检验工作中所能得到有实际意义的数值。其最后一位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。最后一位数字的欠准程度通常只能是上下差1单位。4.1.2
有效数字的定位是指确定欠准数字的位置。这个位置确定后,其后面的数字均为无效数字。欠准数字的位置可以是十进位的任何位数,用10n来表示:n可以是正整数,如n=1、101=10,n=2、102=100,??。n也可以是负数,如n=-1、10-1=0.1,n=-2、10-2=0.01,??。4.1.3
有效位数4.1.3.1
在没有小数位且以若干个零结尾的数值中,有效位数系指从非零数字最左一位向右数得到的位数减去无效零(即仅为定位的零)的个数。例如35000中若有两个无效零,则为三位有效位数,应写作350×102;若有三个无效零,则为两位有效数字,应写作为35×103。4.1.3.2
有其它十进位数中,有效数字系指从非零数字最前一位向右数而得到的位数。例如:3.2、0.32、0.032和0.0032均为有效位数,0.032为二位有效位数、10.00为四位有效数字,12.490为五位有效数字。第 1 页 共 6 页GMP质量管理(9)
文件编号:ZL/SMP/017014.1.3.3
非连续型数值(如个数、分数、倍数、名义浓度或标示量)是没有欠准数字的,其有效位数可视为无限多位;常数л、e等数值的有效位数也可视为是无限多位。例如分子式“H2SO4”中的“2”和“4”是个数,含量测定项下“每1ml的××××滴定液(0.1mol/l)”中的“1”为个数,“0.1”为名义浓度,其有效位数均为无限多位;规格项下的“0.3g”或“1ml:25mg”中的“0.3”、“1”、和“25”的有效位数也均为无限多位,即在计算中,其有效位数应根据其他数值的最少有效位数而定。4.1.3.4
pH值等对数值,其有效位数是由其小数点后的位数决定的,其整数部分只表明其真数的乘方次数。pH=11.26([H+=5.5×10-12mol/l]),其有效位数只有两位。4.1.3.5
有效位数的首次数字为8或9时,其有效数字可以多计一位。例如85%与115%,都可以看成是三个有效位数;99.0%与101.0%都可以看成是四位有效数字。4.2 数值修约及其进舍规则4.2.1
是指对拟修约数值中超过需要位数时的舍弃,根据舍弃数来保留最后一位数或最后几位数。4.2.2
是确定修约保留位数的一种方式。修约间隔的数值一经确定,修约值即应为该数值的整数倍。例如制定修约间隔为0.1,修约值即应在0.1的整数倍中选取,也就是说,将数值修约到小数点后一位。4.2.3 确定修约位数的表达方式4.2.3.1
指定数位4.2.3.1.1
指定修约的间隔为10-n(n为正整数),或指明数值修约到小数点后n位。4.2.3.1.2
指定修约的间隔位1,或指明数值修约到个数位。4.2.3.1.3
指定修约的间隔为10n(n为正整数),或指明数值修约到10n数位,或指明将数值修约到“十”、“百”、“千”??数位。4.2.3.2 指定将数值修约成n位有效位数(n位正整数)。4.2.4
进舍规则4.2.4.1
拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。第 2 页 共 6 页GMP质量管理(9)
文件编号:ZL/SMP/01701例1例2 将12.1498修约到一位小数,得12.1; 将12.1498修约到两位有效位数,得12;4.2.4.2
拟舍弃数字的最左一位数字大于5,或者是5,而其后跟有并非全部为0的数字时,则进一。即保留的末位数字加1。例1例2例3 将1268修约到百数位,得13×102; 将1268修约到三位有效数字,得127×10; 将10.502修约到个数位。得11。4.2.4.3
拟舍弃数字得最左一位数字大于5,而右面无数字或皆为0时,若所保留得末位数字位奇数(1,3,5,7,9)则进一,位偶数(2,4,6,8,0)则舍弃。例1 修约间隔0.1(或10-1)拟修约数值
修约值1.050
0.4例2 修约间隔1000(或103)拟修约数值
修约值2500
2×1033500
4×103例3 将下列数字修约成两位有效位数拟修约数值
修约值0.0325
0.03232500
32×1034.2.4.4
不许连续修约
拟修约数字应在确定修约位数后一次修约获得结果,而不得多次按前面规则(4.2.4.1~4.2.4.3)连续修约。例
修约15.4546,修约间隔为1正确的做法为:15.4546→15;不正确的做法为:15.→15.46→15.5→16。4.2.4.5
为便于记忆,上述进舍规则可归纳成小列口诀:四舍六入五考虑,五后非零则进一,五后全零看五前,五前偶舍奇进一,不论数字多少位,都要一次修约成。但在按英美、日药典方法修约时,按四舍五入进舍即可。第 3 页 共 6 页GMP质量管理(9)
文件编号:ZL/SMP/017014.3
在进行数学运算时,对加减法和乘除法中有效数字的处理是不同的;4.3.1
许多数值相加减时,所得和或差的绝对误差比任何一个数值的绝对误差大,因此相加减时应以诸数值中绝对误差最大(即欠准数字的位数最大)的数值为准,确定其它数值在运算过程中保留的位数和决定计算结果的有效位数。4.3.2
在运算过程中,为减少舍入误差,其它数值的修约可以暂时多保留一位,等运算得到结果时,再根据有效位数弃去多余的数字。例1 13.65+0.=?本例是数值相加减,在三个数值中13.65的绝对误差最大,其最末一位数百分位(小数点后两位),因此将其它各数均暂先保留至千分位,即把0.00823修约成0.008,1.633不变,进行运算:13.65+0.008+1.633=15.291最后对计算结果进行修约,15.291应保留至百分位,而修约成15.29。 例2 14.131×0.0=?本例是数值相乘除,在三个数值中,0.78的有效位数最少,仅为两位有效位数,因此各数值均应暂保留三个有效位数进行计算,最后结果再修约为两位有效位数。14.131×0.0=14.1×0.=1.08÷0.78=1.38=1.4例3 计算氧氟沙星(C18H20FN3O4)的分子量在诸元素的乘积中,原子数的有效位数可视为无限多位,因此可根据各原子量的有效位数对乘积进行定位;而在各乘积的相加中,由于《中国兽药典》规定分子量数值保留到小数点后两位,因此应将各元素的乘积修约到千分位(小数点后三位)后进行相加;再将计算结果修约到百分位,即得。第 4 页 共 6 页GMP质量管理(9)
文件编号:ZL/SMP/0170112.011×18+1.0..+15.9994×4=216.20+20.241+63.9976=216.20+20.159+18.998+42.020+63.998=361.375=361.384.4
注意事项4.4.1
正确记录检测所得的数值。应根据取样量、量具的精度、检测方法的允许误差和标准中的限度规定,确定数字的有效位数,检测值必须与测量的准确度相符合,记录全部准确数字和一位欠准数字 。4.4.2
正确掌握和运用规则。不论是何种办法进行计算,都必须执行进舍规则和运算规则,如用计算器进行计算,也应将计算结果经修约后再记录下来。4.4.3
要根据取样的要求,选择相应的量具。4.4.3.1
“精密称定”系指称重量准确到所取重量的0.1%,可选用分析天平或半微量分析天平;“精密量取”应选用符合国家标准的移液管;必要时应加校正值。4.4.3.2
取样量为“约XX”时,系指取用量不超过规定量的±10%。4.4.3.3
取样量的精度未作特殊规定时,应根据其数值的有效数字选用与之相应的量具;如规定量取5ml、5.0ml、5.00ml时,则应分别选用的5~10ml量筒、5~10ml的刻度吸管或5ml的移液管进行量取。4.4.4
在判定药品质量是否符合规定之前,应将全部数据根据有效数字和数值修约规则进行运算,并将计算结果修约到标准中所规定的有效位数,而后进行判定。例
异戊巴比妥钠的干燥失重,规定不得过4.0%,令取样1.0042g,干燥后减失重量0.0408g,请判定是否符合规定?本例为3个数值相乘除,其中0.0408的有效位数最少,为三位有效数字,以此为准。0.×100%=4.064%因兽药典规定的限度为不得过4.0%,故将计算结果4.064%修约到千分位为4.1%,大于4.0%,应判为不符合规定(不得大于4.0%)。也可因本例规定限度4.0%的有效数字为两位,故在计算过程中可暂多保留第 5 页 共 6 页GMP质量管理(9)
文件编号:ZL/SMP/01701 一位(即可保留三位有效数字)。0.×100%=4.08%再将结果修约成两位有效数字得4.1%,大于规定的限度4.0%,应判定为不符合规定。如将上述规定的限度改为“不得大于4%”,而其原始数据不变则0.×100%=4.1%再修约成一位有效位数得4%,未超过4%的限度,则应判定为符合规定(不得大于4%)。
第 6 页 共 6 页
上一篇: 下一篇:
All rights reserved Powered by
copyright &copyright 。文档资料库内容来自网络,如有侵犯请联系客服。扫二维码下载作业帮
2亿+学生的选择
下载作业帮安装包
扫二维码下载作业帮
2亿+学生的选择
小数保留几位有效数字怎么保留?小数点后保留两位小数合保留两位有效数字有什么区别?请各位高手帮帮忙!谢谢!
扫二维码下载作业帮
2亿+学生的选择
首先要理解有效数字的概念,有效数字是指从左边第一位不是0的数开始计数,比如,0.0023,它的有效数字是两位.另外我来解释下保留两位小数和保留两位有效数字的区别,同样举例说明.1.0023,保留两位小数,则为1.00,小数点后面取两位.保留两位有效数字,则为1.0,第一个不是0的数开始取两位..这个是整数不为0的小数的做法,当整数为0时,有所不同.比如:0.0123,保留两位小数,则为0.01,第三位小数四舍五入.保留两位有效数字时,只能通过乘幂形式,则应该为1.2×10^(-2)表示.括号内-2为-2次方.
为您推荐:
其他类似问题
小数点后保留两位数字指的就是保留在小数点之后的两个数,比如22.。而保留两位有肖数子指的是从左边数第一个不为0的数后的一位数字,包括它本身,(在后方算有肖数字)比如 0.。
扫描下载二维码}

我要回帖

更多关于 保留两位有效数字 的文章

更多推荐

版权声明:文章内容来源于网络,版权归原作者所有,如有侵权请点击这里与我们联系,我们将及时删除。

点击添加站长微信