大数跨境

实验结果到底保留几位有效数字?

实验结果到底保留几位有效数字? 捷标检测
2022-05-20
82
导读:有效数字及其有效数字的保留 1 .有效数字的定义 我们把通过直读获得的准确数字叫做可靠数字;把通过估读得到的

有效数字及其修约规则详解

掌握有效数字定义、保留原则与修约方法,提升检测数据准确性

有效数字的定义

测量结果中能够反映被测量大小并包含一位估读(存疑)数字的全部数字称为有效数字。有效数字不仅表示数值大小,还体现测量精度[k]

例如,0.2014为四位有效数字,末位“4”为可疑值;1g与1.000g虽表示相同量值,但后者准确到小数点后三位,体现更高精度[k]

有效数字的保留原则

计算过程中,结果应比标准规定多保留一位有效数字,最终报出值再按标准要求修约,以避免因末位可疑值引入系统误差[k]

例如,某标准要求结果≥95(保留整数位),则计算结果应保留至小数点后一位,如94.6修约为95;依据GB/T 601-2016,若需报出4位有效数字,计算时应保留5位后再修约[k]

“0”在有效数字中的作用

“0”在数值中具有定位(无效)、定值(有效)和不确定三类作用[k]

1. 定位(无效)

当“0”位于小数点后且在非零数字前时,仅起定位作用,不计入有效数字,如0.0001、0.02040中的前导零[k]

2. 定值(有效)

“0”处于非零数字之间或小数末尾时为有效数字,如0.00204、1.000、1.0204中的“0”均为有效数字[k]

3. 不确定作用

整数末尾的“0”有效性不确定,如4500的有效位数需通过科学计数法明确:0.450×10⁴(三位)、4.500×10³(四位)[k]

数字修约规则(GB/T 8170)

国家标准推荐使用“四舍六入五成双”规则,即:尾数≤4舍去,≥6进一;尾数为5时,若其后有非零数字则进一;若其后全为零,则看前一位奇偶性,偶数舍去,奇数进一[k]

检验结果的修约方法

原始记录中,计算结果应比标准多保留一位,并在修约时体现过程。应一次性完成修约,禁止连续多次修约[k]

a) 修约需体现过程:

如标准值××<0.5,检测结果0.456,首次修约为0.46(-),报出值为0.5(-),判定合格[k]
如标准值××≥15,检测结果14.55,首次修约为14.6(-),报出值15(-)。按全数值比较法判定不合格,按修约值比较法判定合格[k]
若结果为14.35,首次修约为14.4(+),最终报出值为14[k]

b) 一步修约到位:

将下列数值修约至整数位:
15.4546 → 15
16.5203 → 17
17.5000 → 18
14.5500 → 15
10.5020 → 11[k]

c) 不准连续修约:

拟修约数值应一次完成。例如15.4546应直接修约为15,不可逐次修约(如15.455→15.46→15.5→16)[k]

数值修约方法的选择

两种比较方法:

a) 修约值比较法:修约后不体现修约过程;

b) 全数值比较法:修约后可体现修约情况[k]

涉及卫生、安全等关键指标时,应优先采用全数值比较法;仅当检测结果需修约至标准值时,才使用全数值比较法[k]

通常情况下,全数值比较法严于修约值比较法[k]

【声明】内容源于网络
0
0
捷标检测
各类跨境出海行业相关资讯
内容 1319
粉丝 0
捷标检测 各类跨境出海行业相关资讯
总阅读25.1k
粉丝0
内容1.3k