Macaulay2 » Documentation
Packages » Macaulay2Doc » The Macaulay2 language » Type » RingFamily » default » defaultPrecision
next | previous | forward | backward | up | index | toc

defaultPrecision -- default precision of numbers

Description

i1 : defaultPrecision

o1 = 53
i2 : 1/3.

o2 = .3333333333333333

o2 : RR (of precision 53)
i3 : defaultPrecision=100

o3 = 100
i4 : 1/3.

o4 = .3333333333333333333333333333335

o4 : RR (of precision 100)
i5 : RR[x]

o5 = RR   [x]
       100

o5 : PolynomialRing
i6 : numeric pi

o6 = 3.141592653589793238462643383279

o6 : RR (of precision 100)

For the programmer

The object defaultPrecision is an integer.


The source of this document is in Macaulay2Doc/ov_analytic_functions.m2:587:0.