本文目錄一覽:
保留有效數字的規則是什麼?
科學計數法保留有效數字需要四捨五入。
有效數字:第一個非零數字以及之後的所有數字(包括零)都是有效數字。有效數字的保留是一種近似運算,當需要的有效數字比原本的數字少時,需要進行四捨五入的近似運算。舍入規則:
1、當保留n位有效數字,若第n+1位數字≤4就舍掉。
2、當保留n位有效數字,若第n+1位數字≥6時,則第n位數字進1。
3、當保留n位有效數字,若第n+1位數字=5且後面數字為0時,則第n位數字若為偶數時就舍掉後面的數字,若第n位數字為奇數時加1;若第n+1位數字=5且後面還有不為0的任何數字時,無論第n位數字是奇或是偶都加1。
java的計算保留N位小數點問題
java數值類型包括整型和浮點型,其中整型有short,int,long,浮點型有float,double;
如果在java代碼中沒有明確指定數值的類型,那麼默認是int類型,比如int num = 19/7,這裡的19和7都默認為int類型,由於int是整型,它會自動截取小數部分,只保留整數部分,所以19/7就已經是整數結果了,再把它賦值給int,還是整數;
想要保留整數結果,只有這樣 double num = 19d/7d,這裡19L就表示19是double類型的數字,7也是一樣,這樣除出來後就是小數,再賦值給num還是小數。
有效數字的保留規則是什麼?
1、當保留n位有效數字,若第n+1位數字≤4就舍掉。
2、當保留n位有效數字,若第n+1位數字≥6時,則第n位數字進1。
3、當保留n位有效數字,若第n+1位數字=5且後面數字為0時,則第n位數字若為偶數時就舍掉後面的數字,若第n位數字為奇數時加1;若第n+1位數字=5且後面還有不為0的任何數字時,無論第n位數字是奇或是偶都加1。
以上稱為「四捨六入五留雙」。
如將下組數據保留一位小數:
45.77≈45.8;43.03≈43.0;0.26647≈0.3;10.3500≈10.4。
38.25≈38.2;47.15≈47.2;25.6500≈25.6;20.6512≈20.7。
一般性入手規則(初一有出現題目)
⑴可靠數字之間運算的結果為可靠數字。
⑵可靠數字與存疑數字,存疑數字與存疑數字之間運算的結果為存疑數字。
⑶測量數據一般只保留一位存疑數字。
⑷運算結果的有效數字位數不由數學或物理常數來確定,數學與物理常數的有效數字位數可任意選取,一般選取的位數應比測量數據中位數最少者多取一位.例如:π可取=3.14或3.142或3.1416……;在公式中計算結果不能由於”2″的存在而只取一位存疑數字,而要根據其他數據來決定。
⑸運算結果將多餘的存疑數字捨去時應按照”四捨五入”的法則進行處理.即小於等於四則舍;大於五則入;等於五時,根據其前一位按奇入偶舍處理(等幾率原則)。例如,3.625化為3.62,4.235則化為4.24。
原創文章,作者:小藍,如若轉載,請註明出處:https://www.506064.com/zh-hk/n/311529.html