TOP

Python 标准类库-数字和数学模块之decimal使用简介
2019-11-15 18:49:27 】 浏览:3
Tags:Python 标准 数字 数学 模块 decimal 使用 简介

标准类库-数字和数学模块之decimal使用简介

by:授客 QQ1033553122

例子

>>>from decimal import *

>>>getcontext()

Context(prec=28, rounding=ROUND_HALF_EVEN, Emin=-999999, Emax=999999, capitals=1, clamp=0, flags=[], traps=[InvalidOperation, DivisionByZero, Overflow])

 

>>>Decimal('5')/3

Decimal('1.666666666666666666666666667')

 

>>>getcontext().prec = 6 # 设置精度,即最大小数位数

 

>>>Decimal('5')/3

Decimal('1.66667')

>>>getcontext().prec = 2

>>>Decimal('5')/3

Decimal('1.7')

>>>Decimal('5')/Decimal(3)

Decimal('1.7')

 

>>>Decimal('3.14')

Decimal('3.14')

 

>>>Decimal('3.14') * Decimal(0.5)

Decimal('1.570')

 

>>>Decimal('3.1415926535')

Decimal('3.1415926535')

 

>>>Decimal('NaN')

Decimal('NaN')

 

>>>Decimal('-Infinity')

Decimal('-Infinity')

 

结论:当且仅当“计算结果”小数位数超过getcontext()设置的精度时,才会舍去超过精度部分的小数位数


Python 标准类库-数字和数学模块之decimal使用简介 https://www.cppentry.com/bencandy.php?fid=77&id=266941

】【打印繁体】【投稿】【收藏】 【推荐】【举报】【评论】 【关闭】 【返回顶部
上一篇Python字典及相关操作(内含例题) 下一篇python生产者和消费者模式实现(一..