decimal 模塊：decimal意思為十進(jìn)制，這個模塊提供了十進(jìn)制浮點運算支持

1.可以傳遞給Decimal整型或者字符串參數(shù)，但不能是浮點數(shù)據(jù)，因為浮點數(shù)據(jù)本身就不準(zhǔn)確。

2.要從浮點數(shù)據(jù)轉(zhuǎn)換為Decimal類型

from decimal import *Decimal.from_float(12.222)# 結(jié)果為Decimal(’12.2219999999999995310417943983338773250579833984375’)

3.通過設(shè)定有效數(shù)字，限定結(jié)果樣式

from decimal import *getcontext().prec = 6Decimal(1)/Decimal(7)# 結(jié)果為Decimal(’0.142857’)，六個有效數(shù)字

4.四舍五入，保留幾位小數(shù)

from decimal import *Decimal(’50.5679’).quantize(Decimal(’0.00’))# 結(jié)果為Decimal(’50.57’)，結(jié)果四舍五入保留了兩位小數(shù)

5.Decimal 結(jié)果轉(zhuǎn)化為string

from decimal import *str(Decimal(’3.40’).quantize(Decimal(’0.0’)))# 結(jié)果為’3.4’，字符串類型

Python3中decimal處理計算精度問題示例

#!/usr/bin/python3# coding:utf-8import decimalfrom decimal import Decimal, getcontextdef demo(): ''' 取整問題： ROUND_CEILING 總是趨向無窮大向上取整ROUND_DOWN　總是趨向0取整ROUND_FLOOR 總是趨向負(fù)無窮大向下取整ROUND_HALF_DOWN　如果最后一個有效數(shù)字大于或等于5則朝0反方向取整；否則，趨向0取整ROUND_HALF_EVEN　類似于ROUND_HALF_DOWN，不過，如果最后一個有效數(shù)字值為5，則會檢查前一位。 偶數(shù)值會導(dǎo)致結(jié)果向下取整，奇數(shù)值導(dǎo)致結(jié)果向上取整ROUND_HALF_UP 類似于ROUND_HALF_DOWN，不過如果最后一位有效數(shù)字為5，值會朝0的反方向取整ROUND_UP　朝0的反方向取整ROUND_05UP　如果最后一位是0或5，則朝0的反方向取整；否則向0取整 ''' # 1.常規(guī)計算 getcontext().prec = 9 r1 = Decimal(1) / Decimal(3) print('r1 ', r1) # r1 0.333333333 # 2.但是getcontext().prec會包含小數(shù)點前面的所有長度，當(dāng)前面長度有變化時并不能固定控制小數(shù)點后的位數(shù) r2 = Decimal(10) / Decimal(3) print('r2 ', r2) # r2 3.33333333 # 3.想要固定控制小數(shù)點后面的位數(shù)則需要使用decimal.quantize(Decimal(’0.00000000’))，注意不能超過getcontext().prec的位數(shù) r3 = Decimal(1) / Decimal(3) print('r3 ', r3.quantize(Decimal(’0.00000000’))) # r3 0.33333333 r4 = Decimal(10) / Decimal(3) print('r4 ', r4.quantize(Decimal(’0.00000000’))) # r4 3.33333333 r5 = Decimal(10) / Decimal(str(1.5)) print('r5 ', r5.quantize(Decimal(’0.00000000’))) # r5 6.66666667 # 4.向上取整 getcontext().rounding = getattr(decimal, ’ROUND_CEILING’) # 總是趨向無窮大向上取整 r6 = Decimal(10) / Decimal(str(1.5)) # r6 6.66666667 print('r6 ', r6.quantize(Decimal(’0.00000000’))) r7 = Decimal(10) / Decimal(3) # r7 3.33333334 print('r7 ', r7.quantize(Decimal(’0.00000000’))) # 5.向下取整 getcontext().rounding = getattr(decimal, ’ROUND_FLOOR’) # 總是趨向無窮大向下取整 r8 = Decimal(10) / Decimal(str(1.5)) # r8 6.66666666 print('r8 ', r8.quantize(Decimal(’0.00000000’))) r9 = Decimal(10) / Decimal(3) # r9 3.33333333 print('r9 ', r9.quantize(Decimal(’0.00000000’)))if __name__ == ’__main__’: demo()

以上就是本文的全部內(nèi)容，希望對大家的學(xué)習(xí)有所幫助，也希望大家多多支持好吧啦網(wǎng)。