数值修约

君君君516

请问各位大神，关于数值不能连续修约，主要是指计算过程中不涉及连续修约么？如果检验记录表要求将原始数据保留小数点后两位，然后出报告时标准限度要求保留位数为整数，这算不算连续修约？

xqliu

不参与再次运算，只是位数要求的修约，应该不算。仅供参考

北重楼

建议在建议记录上最后修约一次性就好，在报告上就不要二次修约

yanshuheng1112

为什么不直接采用记录中的数据作为最终结果呢

zysx01234

计算过程多保留小数位数，求平均值后可以修约

比如计算过程一般可能是小数点后4位，到了计算结果一般是小数点后2位，平均值也是小数点后2位，后面再加一个约等号该取整的或保留小数一位的。
如含量滴定，CV*M*100%/1000m=0.1011mol/l*23.70ml*106.80g/mol*100%/1000*0.2608g=98.12%【这里保留2位，是取前面参与运算的有效数字最少的】
假设另一份数据为98.21%

则结果表述：含量%=（98.12+98.21）/2=98.17%【98.165%约至98.17%】那再看标准指标的有效数字，如果取整则≈98%，如果保留小数一位则≈98.2%，报告值就是≈后面的数值。

君君君516

yanshuheng1112 发表于 2017-6-13 08:56
为什么不直接采用记录中的数据作为最终结果呢

记录表中的数据得出的平均值如果是无穷小数，那应该直接在记录表中，按照标准要求的修约位数一步修约到位吗？

君君君516

zysx01234 发表于 2017-6-13 09:09
计算过程多保留小数位数，求平均值后可以修约

比如计算过程一般可能是小数点后4位，到了计算结果一般是 ...

按照所举的例子，得结果为98.17%，如果报告标准要求取整，那应该是直接在记录上就≈然后记为98%，还是记录记为98.17%，报告再约为整数记为98%呢？

zysx01234

君君君516 发表于 2017-6-13 12:50
按照所举的例子，得结果为98.17%，如果报告标准要求取整，那应该是直接在记录上就≈然后记为98%，还是记 ...

平均值98.17%后面加≈98%，需要说明的是如果只有一个质量标准时，且项目标准为≥98%，那么这样没有问题。就怕还有一个质量标准≥98.0%，但是你们不重新检测和写记录了，只是开报告单

不过，我感觉问题不大。

yanshuheng1112

君君君516 发表于 2017-6-13 12:33
记录表中的数据得出的平均值如果是无穷小数，那应该直接在记录表中，按照标准要求的修约位数一步修约到位 ...

你的记录上面应该是有标准要求的，根据你的标准要求数值的有效位数等直接将结果修约到要求

君君君516

zysx01234 发表于 2017-6-13 13:04
平均值98.17%后面加≈98%，需要说明的是如果只有一个质量标准时，且项目标准为≥98%，那么这样没有问题。 ...

感谢答疑

君君君516

yanshuheng1112 发表于 2017-6-13 13:17
你的记录上面应该是有标准要求的，根据你的标准要求数值的有效位数等直接将结果修约到要求

明白，谢谢答疑～

入门酱油

zysx01234 发表于 2017-6-13 09:09
计算过程多保留小数位数，求平均值后可以修约

比如计算过程一般可能是小数点后4位，到了计算结果一般是 ...

这例子明显不对啊，98.165不应该约成98.16吗？然后，为什么不是直接根据98.165直接约成98.2呢？为什么还要先约成98.17这呢？这就是连续修约啊

zysx01234

入门酱油 发表于 2017-6-14 08:12
这例子明显不对啊，98.165不应该约成98.16吗？然后，为什么不是直接根据98.165直接约成98.2呢？为什么还 ...

你意见很大吗