Google

Go to the first, previous, next, last section, table of contents.


setprec

setprec([n])
:: bigfloat の桁数を n 桁に設定する.
return
整数
n
整数
  • 引数がある場合, bigfloat の桁数を n 桁に設定する. 引数のあるなしにかかわらず, 以前に設定されていた値を返す.
  • bigfloat の計算は PARI (section pari) によって行われる.
  • bigfloat での計算に対し有効である. bigfloat の flag を on にする方法は, ctrl を参照.
  • 設定できる桁数に上限はないが, 指定した桁数に設定されるとは 限らない. 大きめの値を設定するのが安全である.
[1] setprec();
9
[2] setprec(100);
9
[3] setprec(100);
96
参照
section ctrl, section eval, deval, section pari.


Go to the first, previous, next, last section, table of contents.