有效數(shù)字和數(shù)值的修約及其運(yùn)算標(biāo)準(zhǔn)操作規(guī)程

1、文件名稱有效數(shù)字和數(shù)值的修約及其運(yùn)算標(biāo)準(zhǔn)操作規(guī)程文件編號(hào)SOP-QC-01-003/01編 制 人審 核 人批 準(zhǔn) 人編制日期審核日期批準(zhǔn)日期頒發(fā)部門質(zhì)量部分 發(fā) 號(hào)生效日期發(fā)送單位檔案室、質(zhì)量部、化驗(yàn)室一、目的： 建立有效數(shù)字和數(shù)值的修約及其運(yùn)算標(biāo)準(zhǔn)操作規(guī)程，確保有效數(shù)字和數(shù)值的修約及其運(yùn)算結(jié)果的準(zhǔn)確性。二、適用范圍： 適用于有效數(shù)字和數(shù)值的修約及其運(yùn)算操作。三、責(zé)任：QC檢驗(yàn)人員負(fù)責(zé)本規(guī)程的實(shí)施，QA負(fù)責(zé)人、QC負(fù)責(zé)人監(jiān)督檢查。四、內(nèi)容：1有效數(shù)字的根本概念1.1有效數(shù)字系指在檢驗(yàn)工作中所能得到有實(shí)際意義的數(shù)值。其最后一位數(shù)字欠準(zhǔn)是允許的，這種由可靠數(shù)字和最后一位不確定數(shù)字組成的數(shù)值，即為

2、有效數(shù)字。最后一位數(shù)字的欠準(zhǔn)程度通常只能是上下差1單位。1.2有效數(shù)字的定位數(shù)位，是指確定欠準(zhǔn)數(shù)字的位置。這個(gè)位置確定后，其后面的數(shù)字均為無(wú)效數(shù)字。1.3有效位數(shù)在沒(méi)有小數(shù)位且以假設(shè)干個(gè)零結(jié)尾的數(shù)值中，有效位數(shù)系指從非零數(shù)字最左一位向右數(shù)得到的位數(shù)減去無(wú)效零即僅為定位用的零的個(gè)數(shù)。例如35000中假設(shè)有兩個(gè)無(wú)效零，那么為三位有效位數(shù)，應(yīng)寫(xiě)作350×102；假設(shè)有三個(gè)無(wú)效零，那么為兩位有效位數(shù)，應(yīng)寫(xiě)作35×103 或3.5×104。在其它十進(jìn)位數(shù)中，有效數(shù)字系指從非零數(shù)字最左一位向右數(shù)而得到的位數(shù)。例如3.2、0.32、0.032均為兩位有效位數(shù)，0.320為三位有

3、效位數(shù)、10.00為四位有效位，12.490為五位有效位數(shù)。非連續(xù)型數(shù)值如個(gè)數(shù)、分?jǐn)?shù)、倍數(shù)是沒(méi)有準(zhǔn)數(shù)字的，其有效位數(shù)可視為無(wú)限多位；例如分子式“H2SO4”中的“2”和“4”是個(gè)數(shù)。常數(shù)、和系數(shù)2等數(shù)值的有效位數(shù)也可視為是無(wú)限多位；含量測(cè)定項(xiàng)下“每1ml的XXXX滴定液0.1mol/l······中的“0.1”為名義濃度，規(guī)格項(xiàng)下的“0.3g或“1ml：25mg為標(biāo)示量，其有效位數(shù)也均為無(wú)限多位；即在計(jì)算中，其有效位數(shù)應(yīng)根據(jù)其他數(shù)值的最少有效位數(shù)而定。1.3.4 PH值等對(duì)數(shù)值，其有效位數(shù)是由其小數(shù)點(diǎn)后的位數(shù)決定的，其整數(shù)局部只說(shuō)明其

4、真數(shù)的乘方次數(shù)。如PH=11.26H+=5.5×10-12mol/l，其有效位數(shù)只有兩位。有效數(shù)字的首位是8或9時(shí)，其有效位數(shù)可以多計(jì)一位。例如85%與115%，都可以看成是三位有效位數(shù)；99.0%與101.0%都可以看成是四位有效數(shù)字。2.數(shù)值修約及其進(jìn)舍規(guī)那么。2.1數(shù)值修約 是指對(duì)似修約數(shù)值中超出需要保存位數(shù)時(shí)的舍棄，根據(jù)舍棄數(shù)來(lái)保存最后一位數(shù)或最后幾位數(shù)。2.2修約間隔 是確定修約保存位數(shù)的一種方式，修約間隔的數(shù)值一經(jīng)確定，修約值應(yīng)為該數(shù)值的整數(shù)倍。例如指定修約間隔為0.1，作約值即應(yīng)在0.1的整數(shù)倍中選取，也就是說(shuō)，將數(shù)值修約到小數(shù)點(diǎn)后一位。2.3確定修約位數(shù)的表達(dá)方式指定

5、數(shù)位.1指定修約間隔為10-nn為正整數(shù)，或指明將數(shù)值修約到小數(shù)點(diǎn)后n位。.2指定修約間隔為1，或指明將數(shù)值修約到個(gè)數(shù)位。.3指定修約間隔為10nn為正整數(shù)或指明將數(shù)值修約到10n數(shù)位，或指明將數(shù)值修約到“十”、“百、“千······數(shù)位。指定將數(shù)值修約成n位有效位數(shù)n為正整數(shù)。2.4進(jìn)舍規(guī)那么擬舍棄數(shù)字的最左一位數(shù)字小于5時(shí)，那么舍去，即保存的各位數(shù)字不變。將12.1498修約到一位小數(shù)十分位，得12.1。將12.1498修約成兩位有效位數(shù)，得12。擬舍棄數(shù)字的最左一位數(shù)字大于5，或者是5，而其后跟有并非全部為0的數(shù)字時(shí)，那么進(jìn)一，

6、即在保存的末位數(shù)字加1。將1268修約到百數(shù)位，得13×102。將1268修約到三位有效位數(shù)，得127×10。將10.502修約到個(gè)數(shù)位，得11。擬舍棄數(shù)字的最左一位數(shù)字為5，而右面無(wú)數(shù)字或皆為0時(shí)，假設(shè)所保存的末位數(shù)為奇數(shù)1，3，5，7，9那么進(jìn)一，為偶數(shù)2，4，6，8，0那么舍棄。修約間隔為0.1或10-1擬修約數(shù)值 修約值1.050 1.00.350 0.4修約間隔為1000或103擬修約數(shù)值 修約值2500 2×1033500 4×103將以下數(shù)字修約成兩位有效位數(shù) 擬修約數(shù)值 修約值 0.0325 0.032 32500 32×103

7、不許連續(xù)修約 擬修約數(shù)字應(yīng)在確定修約位數(shù)后一次修約獲得結(jié)果，而不得屢次按前面規(guī)那么-2.4.3連續(xù)修約。例 修約15.4546，修約間隔為1正確的做法為：15.454615。不正確的做法為：15.454615.45515.4615.516。為便于記憶，上述進(jìn)舍規(guī)那么可歸納成以下口訣：四舍六入五考慮，五后非零那么進(jìn)一，五后全零看五前，五前偶舍奇進(jìn)一，不管數(shù)字多少位，都要一次修約成。但在按英、美、日藥典方法修約時(shí)，按四舍五入進(jìn)舍即可。3.運(yùn)算規(guī)那么 在進(jìn)行數(shù)學(xué)運(yùn)算時(shí)，對(duì)加減法和乘除法中有效數(shù)字的處理是不同的。3.1許多數(shù)值相加減時(shí)，所得和或差的絕對(duì)誤差比較任何一個(gè)數(shù)值的絕對(duì)誤差大，因此相加減時(shí)應(yīng)以

8、諸數(shù)值中絕對(duì)誤差最大即有效數(shù)字的數(shù)位最大的數(shù)值為準(zhǔn)，以確定其它數(shù)值在運(yùn)算中保存的數(shù)位和決定計(jì)算結(jié)果的有效數(shù)位。3.2許多數(shù)值相乘除時(shí)，所得積或商的相對(duì)誤差比較任何一個(gè)數(shù)值勤的相對(duì)誤差大。因此相乘除時(shí)應(yīng)以諸數(shù)值中相對(duì)誤差最大即有效位數(shù)最少的數(shù)值為準(zhǔn)，確定其它數(shù)值在運(yùn)算中保存的位數(shù)和決定計(jì)算結(jié)果的有效位數(shù)。3.3在運(yùn)算過(guò)程中，為減少舍入誤差，其它數(shù)值的修約可以暫時(shí)多保存一位，等運(yùn)算得到結(jié)果時(shí)，再根據(jù)有效位數(shù)棄去多余的數(shù)字。13.65+0.00823+1.633=?本例是數(shù)值相加減，在三個(gè)數(shù)值中13.65的絕對(duì)誤差最大，其最末一位數(shù)為百分位小數(shù)點(diǎn)后二位，因此將其它各數(shù)均暫先保存至千分位，即把0.00

9、823修約成0.008，1.633不變，進(jìn)行運(yùn)算：13.65+0.008+1.633=15.291最后對(duì)計(jì)算結(jié)果進(jìn)行修約，15.291應(yīng)只保存至百分位，而修約成15.29。14.131×0.07654÷0.78=?本例是數(shù)值相乘除，在三個(gè)數(shù)和值中，0.78的有效位數(shù)最少，僅為兩位有效位數(shù)，因此各數(shù)值均應(yīng)暫保存三位有效位數(shù)進(jìn)行運(yùn)算，最后結(jié)果再修約為兩位有效位數(shù)。 14.131×0.07654÷0.78 =14.1×0.0765÷0.78 =1.08÷0.78 =1.38 =1.4例3 計(jì)算氧氟沙星C18H20FN3O4的分子量

10、。在諸元素的乘積中，原子數(shù)的有效位數(shù)可視作無(wú)限多位，因此可根據(jù)各分子量的有效位數(shù)對(duì)乘積進(jìn)行定位；而在各乘積的相加中，由于中國(guó)藥典規(guī)定分子量的數(shù)值保存到小數(shù)點(diǎn)后二位百分位，因此應(yīng)將各元素的乘積修約到千分位小數(shù)點(diǎn)后三位后進(jìn)行相加；再將計(jì)算結(jié)果修約到百分位，即得。 12.011×18+1.00794×20+18.9984032+14.006747×3+15.9994×4 =216.20+20.1588+18.9984032+42.020241+63.9976 =216.20+20.159+18.998+42.020+63.998 =361.375 =361.3

11、84本卷須知4.1正確記錄檢測(cè)所得的數(shù)值 應(yīng)根據(jù)取樣量、量具的精度、檢測(cè)方法的允許誤差和標(biāo)準(zhǔn)中的限度規(guī)定，確定數(shù)字確實(shí)有效位數(shù)或數(shù)位，檢測(cè)值必須與測(cè)量的準(zhǔn)確度相符合，記錄全部準(zhǔn)確數(shù)字和一位欠準(zhǔn)數(shù)字。4.2正確掌握和平運(yùn)用規(guī)那么 不管是何種方法進(jìn)行計(jì)算，都必須執(zhí)行進(jìn)舍規(guī)那么和運(yùn)算規(guī)那么，如用計(jì)算器進(jìn)行計(jì)算，也應(yīng)將計(jì)算結(jié)果經(jīng)修約后再記錄下來(lái)。4.3要根據(jù)取樣的要求，選擇相應(yīng)的量具。“精密稱定系指稱取重量應(yīng)準(zhǔn)確到所取重量的千分之一。可根據(jù)稱量選用分析天平或半微量分析天平；“精密量取系指量取體積的準(zhǔn)確度選用符合國(guó)家標(biāo)準(zhǔn)中對(duì)該體積移液管的精密度要求；必要時(shí)應(yīng)加校正值。稱定或量取系指稱取的重量或量取的容量應(yīng)準(zhǔn)確至所取重量或容量的百